Twitter sẽ gắn nhãn, xóa video ‘Deepfake’ theo chính sách mới

Twitter Inc. sẽ bắt đầu ghi nhãn và trong một số trường hợp loại bỏ, tài liệu bị thao túng hoặc bị thao túng mà người dùng chia sẻ trên nền tảng bắt đầu vào tháng tới.

Chính sách này bao gồm các video deepfake đã được chỉnh sửa bằng trí thông minh nhân tạo hoặc phần mềm tiên tiến khác để làm biến dạng ngoại hình hoặc lời nói của một người trong khi có vẻ xác thực, cũng như các loại hình ảnh và video được chỉnh sửa khác đã được chỉnh sửa, công ty cho biết Thứ ba trong một bài viết trên blog.

Trong một số trường hợp, Twitter sẽ gắn nhãn video hoặc ảnh để người dùng biết rằng nó đã được ghi nhận, nhưng sẽ để nó ở lại trên mạng truyền thông xã hội. Trong các trường hợp khác, khi nội dung có thể ảnh hưởng đến an toàn công cộng hoặc gây ra tác hại nghiêm trọng, thì Twitter Twitter cho biết video hoặc ảnh có khả năng bị xóa.

Xác định và phản hồi các phương tiện truyền thông bị thao túng đã trở thành vấn đề cấp bách đối với các nền tảng truyền thông xã hội khi chiến dịch tranh cử tổng thống năm 2020 của Mỹ đang được tiến hành. Có lo ngại rằng các chính trị gia, hoặc các diễn viên xấu từ bên ngoài hệ thống chính trị được thành lập, có thể cố gắng gây ảnh hưởng đến dư luận thông qua các video hoặc hình ảnh gây hiểu lầm được chia sẻ trên phương tiện truyền thông xã hội.

Chính sách truyền thông mới của Twitter đã bị thao túng trên Twitter, sẽ có hiệu lực vào ngày 5 tháng 3, được phát hành hơn ba tháng sau khi công ty tuyên bố sẽ nghiên cứu và hỏi công chúng về các tùy chọn khác nhau để xử lý các video bị lỗi. Công ty cho biết họ đã giải quyết một hệ thống xem xét nội dung theo ba cách:

  • Video hay hình ảnh có bị thay đổi đáng kể không?
  • Có phải nó đã được chia sẻ trong một cách lừa đảo không
  • Nó có phải là mối đe dọa cho an toàn công cộng, hoặc nó có thể gây hại cho người dùng không?

Nếu câu trả lời cho một trong hai câu hỏi đầu tiên là có thì, thì phương tiện truyền thông có thể được dán nhãn cảnh báo cho những người xem nó và những người thích hoặc chuyển tiếp nó. Nếu Twitter cho rằng nội dung cũng có thể gây ra tác hại trong thế giới thực, thì có khả năng nó sẽ bị xóa, Del Harvey, người đứng đầu về niềm tin và an toàn của Twitter, nói trong một cuộc gọi hội nghị với các nhà báo.

Tháng 5 năm ngoái, một đoạn video được ghi lại của Chủ tịch Hạ viện Nancy Pelosi đã được chia sẻ trên Facebook khiến nó trông như thể nữ nghị sĩ đang trì hoãn bài phát biểu của mình. Facebook Inc. đã chọn để lại video trên trang web bất chấp các cuộc gọi từ Pelosi và các chính trị gia khác để gỡ nó xuống. Cuối cùng, Facebook đã gắn nhãn video là giả mạo và cắt giảm phân phối, nhưng phải mất hơn một ngày để làm điều đó, một giám đốc điều hành chậm trễ Mark Zuckerberg sau đó đã gọi là một lỗi thực thi.

Theo chính sách mới của Twitter, video tương tự cũng sẽ được dán nhãn bởi vì nó đã bị thay đổi đáng kể và bị thay đổi một cách thiếu kiểm soát, ông nói, Yoel Roth, người đứng đầu trang Twitter của Twitter. Nó sẽ không được gỡ bỏ.

Facebook đã phát hành chính sách riêng về nội dung bị thao túng kể từ video Pelosi. Trong trường hợp của Facebook, công ty sẽ chỉ xóa nội dung nếu nó gây hiểu lầm và được tạo ra bằng cách sử dụng trí thông minh nhân tạo hoặc máy học công nghệ. Mặt khác, nó có thể được kiểm tra thực tế bởi người kiểm tra thực tế bên thứ ba của công ty và có thể nhận được nhãn và phân phối hạn chế.

Twitter cho biết chính sách của họ được viết cụ thể để bao gồm các video và hình ảnh được chỉnh sửa bất kể sự tinh vi của công nghệ chỉnh sửa. Điều đó có nghĩa là Twitter có thể xóa nội dung có hại, ngay cả khi nội dung đó không phù hợp với định nghĩa cụ thể của một trò chơi sâu.

Tập trung vào chính sách này là để xem xét kết quả, chứ không phải là nó đã đạt được như thế nào

Những nỗ lực của Twitter và Facebook nhằm hạn chế sự lan truyền của thông tin đôi khi xung đột với cam kết của họ nhằm duy trì phát ngôn miễn phí cho người dùng toàn cầu. Với video Pelosi, cả hai công ty quyết định nó không gây ra mối đe dọa cho sự an toàn của người dùng, nhưng một số nhà phê bình cho rằng nó đã làm và có thể gây tổn hại nghiêm trọng đến danh tiếng của Pelosi. Kể từ đó, nữ nghị sĩ đã gọi Facebook xấu hổ vì đã xử lý thông tin sai lệch.

Quy tắc mới này không có nghĩa là từ cuối cùng về vấn đề này, ông Har Harvey nói. Nhưng đó là một thay đổi mới quan trọng mà chúng tôi sẽ tiếp tục lặp đi lặp lại và mở rộng khi chúng tôi xác định các lĩnh vực và vấn đề khác mà chúng tôi cần đảm bảo có thể giải quyết.

5/5 (1 Review)