Công cụ AI mới phát hiện được deepfake bằng cách phân tích phản xạ ánh sáng trong mắt

Phương thức này đã được chứng minh là có hiệu quả cao trong việc phát hiện các deepfake kiểu chân dung.

đang là một công cụ lý tưởng nhằm phục vụ cho nhiều mục đích đen tối, từ thực hiện các chiến dịch tung tin giả, cho đến chèn người nổi tiếng vào phim con heo, và việc phát hiện những hình ảnh "thật thật giả giả" kia cũng ngày càng trở nên khó khăn hơn.

Theo TheNextWeb, một công cụ AI mới hứa hẹn sẽ mang lại một giải pháp đơn giản đến bất ngờ để phát hiện deepfake: phân tích ánh sáng phản chiếu trong mắt.

Công cụ này đã phát hiện được các hình ảnh deepfake với độ chính xác lên đến 94%.

Hệ thống này được phát triển bởi các nhà khoa học máy tính đến từ Đại học Buffalo. Trong các bài test xác định ảnh chân dung, công cụ này đã phát hiện được các hình ảnh deepfake với độ chính xác lên đến 94%.

Cụ thể, hệ thống sẽ phân tích giác mạc của người trong ảnh, vốn có một bề mặt như gương, tạo ra những đường nét phản chiếu khi được chiếu ánh sáng vào.

Trong một bức ảnh chụp mặt người thật từ máy ảnh, các chi tiết phản chiếu trong hai mắt sẽ tương đồng bởi chúng đang nhìn vào cùng một thứ. Nhưng ảnh deepfake được tổng hợp bởi các GAN (mạng đối nghịch tạo sinh) thường không thể tái tạo được chính xác điều này.

Thay vào đó, các chi tiết phản chiếu trong hai mắt của người trong ảnh deepfake thường thể hiện nhiều điểm không nhất quán, nhưng dạng hình học khác biệt, hay vị trí của các điểm phản chiếu không trùng nhau.

Hệ thống AI sẽ tìm những sự sai lệch đó bằng cách ánh xạ khuôn mặt trong ảnh và phân tích ánh sáng phản chiếu trong mỗi nhãn cầu.

Sau khi phân tích, AI sẽ chấm điểm mức độ tương đồng. Điểm càng thấp, khả năng khuôn mặt trong ảnh là deepfake càng cao.

Điểm yếu hiển nhiên nhất là nó dựa vào nguồn sáng phản chiếu trong cả hai mắt.

Hệ thống này đã được chứng minh là có hiệu quả rất cao trong việc phát hiện deepfake tạo ra từ trang This Person Does Not Exits, một kho hình ảnh tạo ra nhờ kiến trúc StyleGAN2. Tuy nhiên, các nhà khoa học cho biết AI vẫn có nhiều hạn chế.

Điểm yếu hiển nhiên nhất là nó dựa vào nguồn sáng phản chiếu trong cả hai mắt. Sự không nhất quán của những đường nét phản chiếu đó có thể được khắc phục bằng hậu kỳ thủ công, và nếu một mắt của người trong ảnh bị ẩn đi vì một lý do nào đó, phương thức này sẽ vô hiệu.

Ngoài ra, các nhà khoa học mới chỉ chứng minh được tính hiệu quả của AI đối với các ảnh chân dung. Nếu khuôn mặt trong ảnh không nhìn vào máy ảnh, hệ thống nhiều khả năng sẽ cho ra các kết quả sai.

Các nhà nghiên cứu dự định sẽ tìm hiểu kỹ hơn những vấn đề này, qua đó cải thiện mức độ hiệu quả của phương thức mới. Còn ở phiên bản hiện tại, nó đơn giản là không phát hiện được những deepfake tinh vi nhất, nhưng vẫn dò ra được nhiều sản phẩm hoàn thiện kém hơn đôi chút.