YouTube mở rộng công cụ likeness detection cho nhiều nhóm đối tượng sử dụng
Sự phát triển nhanh của các công cụ trí tuệ nhân tạo đang khiến việc tạo video giả trở nên dễ dàng hơn bao giờ hết. Chỉ với vài thao tác, người dùng có thể tạo ra những đoạn video mô phỏng khuôn mặt và giọng nói của người nổi tiếng, chính trị gia hoặc nhà báo.
Những nội dung dạng này, thường được gọi là deepfake, đang khiến ranh giới giữa thật và giả trên Internet trở nên khó nhận biết, đồng thời đặt ra thách thức lớn cho các nền tảng chia sẻ video.
“Làn sóng” deepfake
Cùng với sự bùng nổ của AI tạo nội dung, các video deepfake cũng xuất hiện ngày càng nhiều trên Internet. Nhờ các mô hình học máy ngày càng mạnh, việc tạo ra một đoạn video có khuôn mặt và giọng nói giống người thật không còn quá phức tạp như trước. Thậm chí, nhiều công cụ trực tuyến hiện cho phép người dùng tạo video dạng này chỉ sau vài bước thao tác.
Khi dữ liệu hình ảnh và giọng nói được lấy từ các nguồn công khai trên mạng, AI có thể nhanh chóng tái tạo lại hình ảnh của một người với mức độ chân thực cao.
Điều này khiến việc phân biệt nội dung thật và giả trở nên khó khăn hơn đối với người xem phổ thông, đặc biệt khi các video được lan truyền nhanh trên mạng xã hội.
Theo các chuyên gia công nghệ, deepfake không chỉ là vấn đề kỹ thuật mà còn đặt ra thách thức đối với môi trường thông tin trên Internet. Khi việc tạo video giả trở nên dễ dàng hơn, các nền tảng chia sẻ nội dung phải tìm cách phát hiện và kiểm soát chúng hiệu quả hơn.
YouTube nâng cấp công cụ phát hiện video deepfake
Trong thông báo mới đây, YouTube cho biết họ vừa mở rộng công cụ “likeness detection” – hệ thống sử dụng trí tuệ nhân tạo để phát hiện các video có dấu hiệu dùng khuôn mặt hoặc giọng nói của người thật do AI tạo ra. Công cụ sẽ được áp dụng cho các chính trị gia, ứng cử viên, quan chức chính phủ và nhà báo – những nhóm dễ trở thành mục tiêu của deepfake.
Theo YouTube, hệ thống này hoạt động theo cơ chế tương tự công cụ Content ID vốn được dùng để phát hiện nội dung vi phạm bản quyền. Thay vì quét các đoạn nhạc hoặc video trùng lặp, công cụ sẽ sử dụng trí tuệ nhân tạo để nhận diện các video có khả năng sử dụng khuôn mặt của một người do AI tạo ra hoặc chỉnh sửa.
Những người tham gia chương trình cần thực hiện các bước xác minh danh tính trước khi sử dụng công cụ. Sau khi hoàn tất, hệ thống có thể hỗ trợ quét các video trên nền tảng nhằm phát hiện những nội dung nghi ngờ sử dụng hình ảnh của họ. Khi phát hiện video có dấu hiệu deepfake, người dùng có thể yêu cầu YouTube xem xét và xử lý nếu nội dung vi phạm chính sách của nền tảng.
Theo YouTube, việc mở rộng công cụ này nhằm giúp các cá nhân có ảnh hưởng chủ động bảo vệ danh tính trên Internet, trong bối cảnh các công cụ tạo video bằng AI ngày càng phổ biến.
Kiểm soát deepfake và bài toán cân bằng nội dung
Dù công nghệ phát hiện deepfake được đánh giá là một bước tiến quan trọng, các chuyên gia cho rằng đây mới chỉ là giai đoạn đầu của cuộc chiến chống nội dung giả mạo.
Một trong những thách thức lớn là việc cân bằng giữa kiểm soát nội dung sai lệch và bảo vệ quyền tự do biểu đạt. YouTube cho biết không phải mọi video bị hệ thống phát hiện đều sẽ bị gỡ bỏ ngay lập tức. Những trường hợp như parody, châm biếm hoặc phê bình chính trị vẫn có thể được giữ lại nếu phù hợp với chính sách của nền tảng.
Ngoài ra, công nghệ phát hiện deepfake cũng không phải lúc nào cũng hoàn hảo. Các video được chỉnh sửa mạnh hoặc có chất lượng thấp có thể khiến hệ thống khó nhận diện chính xác.
Dù vậy, nhiều chuyên gia truyền thông cho rằng việc các nền tảng lớn như YouTube chủ động phát triển công cụ phát hiện deepfake là tín hiệu tích cực. Trong tương lai, những công nghệ tương tự có thể được mở rộng cho nhiều người dùng hơn, thậm chí cho cả giọng nói hoặc các nhân vật nổi tiếng.
