Facebook cấm ‘deepfakes’

Facebook đã tuyên bố sẽ loại bỏ các video được sửa đổi bởi trí tuệ nhân tạo, được gọi là deepfakes, khỏi nền tảng của nó.

Deepfakes là các clip do máy tính tạo ra được thiết kế để trông thật.

Công ty truyền thông xã hội cho biết trong một blog rằng những video này bóp méo thực tế và đưa ra một “thách thức đáng kể” cho ngành công nghệ.

Mặc dù deepfakes vẫn còn tương đối hiếm trên internet, nhưng chúng đang trở nên phổ biến hơn.

Phần mềm AI tạo ra những tác phẩm sâu sắc về con người – thường là các chính trị gia hoặc người nổi tiếng – bằng cách hợp nhất, thay thế hoặc áp dụng nội dung lên video theo cách khiến nó trông thật.

Facebook cho biết họ sẽ xóa video nếu nhận ra rằng chúng đã được chỉnh sửa theo cách không rõ ràng đối với một người bình thường hoặc nếu họ khiến người xem lầm tưởng rằng một người trong video nói những từ mà họ không thực sự nói.

Monika Bickert, phó chủ tịch quản lý chính sách toàn cầu của Facebook viết trên blog: “Có những người tham gia vào các thao tác truyền thông để đánh lừa”.

Nhân viên Facebook và người kiểm tra thực tế độc lập sẽ được sử dụng để đánh giá tính xác thực của video.

Chính sách mới sẽ không áp dụng cho các video nhại hoặc châm biếm.

‘Khu vực khó khăn’

Tháng 9 năm ngoái, Facebook tuyên bố họ đã đóng góp 10 triệu đô la (7.6 triệu bảng) cho một quỹ để cải thiện các công nghệ phát hiện deepfakes .

Mark Zuckerberg, giám đốc điều hành của Facebook, đã tự giới thiệu mình trong một video sâu. Đoạn clip giới thiệu một phiên bản Zuckerberg do máy tính tạo ra, ghi có một tổ chức bí mật cho sự thành công của mạng xã hội.

William Tunstall-Pedoe, một nhà khoa học máy tính đã bán công ty AI của mình cho Amazon, nói với BBC News rằng Facebook xứng đáng được tín nhiệm vì đã cố gắng giải quyết “khu vực khó khăn”.

“Thực tế video là giả mạo và có ý định gây hiểu lầm là điều quan trọng đối với tôi”, ông nói. “Cho dù các kỹ thuật AI tinh vi được sử dụng hay các kỹ thuật kém tinh vi hơn đều không liên quan.”

Các công ty khác như Google và Microsoft cũng đang cố gắng chống lại những kẻ thù deepfakes .

Facebook cho biết họ có kế hoạch hợp tác với các học viện, chính phủ và các doanh nghiệp để vạch trần những người đứng sau các cuộc tấn công deepfakes .

Gã khổng lồ công nghệ California nói thêm rằng họ sẽ tiếp tục xóa tất cả các video bao gồm ảnh khoả thân, bạo lực đồ họa, đàn áp cử tri và ngôn từ kích động thù địch.

Thay đổi video của chính trị gia Hoa Kỳ

Facebook đã bị chỉ trích vì từ chối xóa một đoạn video đã được thay đổi của Chủ tịch Hạ viện Hoa Kỳ, bà Nancy Pelosi, đã bị virus vào mùa hè năm ngoái. Video được chỉnh sửa để làm cho nó trông giống như cô ấy đang nói những lời của mình.

Tuy nhiên, Facebook nói với Reuters rằng họ sẽ không gỡ video xuống theo chính sách mới.

“Video tài liệu của Loa Pelosi không đáp ứng các tiêu chuẩn của chính sách này và sẽ không bị xóa”, công ty cho biết.

“Chỉ những video được tạo ra bởi trí thông minh nhân tạo để mô tả mọi người nói những điều hư cấu sẽ bị gỡ xuống.”

 Nguồn BBC Tech

0/5 (0 Reviews)