Trang thông tin điện tử Công an Bắc Kạn

https://congan.backan.gov.vn

Làn sóng MC deepfake lan tin giả trên mạng xã hội

Sau khi xử lý bằng deepfake, hình ảnh và giọng nói của nhiều MC nổi tiếng bị biến thành công cụ lan truyền tin giả trên TikTok và YouTube.

"Chúng tôi đang phỏng vấn TikToker Krishna Sahay, người sống sót duy nhất trong vụ xả súng trường học mới đây", Anne-Marie Green, MC của kênh CBS News, nói trong video đăng bởi TikToker Sahay. Trong một video khác, người dẫn chương trình của CNN hỏi Sahay về cách sống sót trong vụ xả súng. Cả hai video nhanh chóng thu hút hàng trăm nghìn lượt xem và trở thành hiện tượng trên mạng xã hội.

Tuy nhiên, theo Forbes, Sahay chỉ là một trong nhiều TikToker và YouTuber đang sử dụng công nghệ deepfake để tung tin giả. Nhờ hỗ trợ của AI, họ tạo MC với khuôn mặt và giọng nói giống người dẫn chương trình từ các hãng thông tấn lớn, sau đó xây dựng kịch bản giật gân, sai sự thật, nhằm câu kéo tương tác từ cộng đồng mạng. Thậm chí, nhiều video còn đóng logo của kênh tin tức, khiến người xem lầm tưởng là các tin đã xác thực hoặc độc quyền.

Tuần qua, Clarissa Ward, phóng viên CNN, trở thành nạn nhân của deepfake khi đưa tin gần biên giới Gaza - Israel. Video cảnh cô tránh tên lửa bị chèn âm thanh giả, dẫn đến một số hiểu nhầm về tình hình cuộc xung đột. Đầu tháng 10, Gayle King, MC của CBS This Morning, bất ngờ xuất hiện trong video tạo bởi AI, mô tả việc cô quảng cáo sản phẩm mà bản thân chưa từng dùng thử. Trên nền tảng Truth Social, Donald Trump cũng đề cập tới một video deepfake, trong đó các tuyên bố không có thực của ông đang được trích dẫn bởi Anderson Cooper, người dẫn chương trình của CNN.

 
Mô phỏng một khuôn mặt tạo bởi công nghệ deepfake. Ảnh: Cotigo

Mô phỏng một khuôn mặt tạo bởi công nghệ deepfake. Ảnh: Cotigo

Forbes cho biết các bản tin được dẫn bởi MC deepfake đang xuất hiện tràn lan và thường thu hút nhiều tương tác hơn nội dung đăng trên tài khoản chính chủ. Ví dụ, một video của TikToker Krishna Sahay về Margaret Brennan, MC trong chương trình Face The Nation, đã có 300.000 lượt thích. Trong khi đó, video phổ biến nhất trên kênh TikTok chính thức của Face The Nation chỉ đạt 7.000 lượt thích. Tài khoản Sahay và nhiều TikToker khác hiện đã bị xóa do vi phạm quy định, nhưng các nội dung deepfake của họ vẫn tồn trại trên mạng vì được nhiều người chia sẻ.

Tin giả tạo bởi deepfake xuất hiện từ lâu. Tuy nhiên, các chuyên gia cho biết khi gắn với hình ảnh MC nổi tiếng, chúng có hiệu ứng lan truyền mạnh và gây hậu quả khó lường. "Video của các kênh truyền thông là phương tiện hấp dẫn để kẻ xấu tung tin giả. Trong nhiều trường hợp, người dẫn chương trình được khán giả quen mặt và tin tưởng. Giao diện bản tin cũng khiến nội dung thân thuộc, đáng tin cậy hơn", giáo sư Hany Farid tại Đại học UC Berkeley giải thích.

Ariane Selliers, đại diện TikTok, khẳng định nền tảng luôn cấm video sử dụng deepfake để tạo chân dung cá nhân với mục đích xấu. Công ty yêu cầu nhà sáng tạo gắn nhãn riêng cho nội dung AI nhằm cảnh báo người xem. Nếu không tuân thủ, TikTok sẽ xóa video với lý do "nội dung gây hiểu nhầm" hoặc "mạo danh cá nhân để gây hại".

"Chúng tôi không muốn người có sức ảnh hưởng và khán giả của họ bị lạm dụng hoặc lừa dối trong các vấn đề liên quan tới chính trị, tiền bạc", Selliers nói.

Tương tự, Elena Hernandez, đại diện YouTube, cho biết nền tảng cũng xây dựng "chính sách thông tin sai lệch" để chống tình trạng tin giả AI.

Deepfake là sự kết hợp giữa deep learning (học sâu) và fake (giả). Công nghệ này dùng AI phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để tạo ảnh hoặc video trông như thật. Theo Kevin Goldberg, luật sư tại tổ chức Freedom Forum, hệ thống luật pháp cần có quy định mới nhằm xử lý tình trạng lan truyền tin deepfake, bất kể chúng được sử dụng cho mục đích gây hại hay giải trí. Ngoài ra, các chuyên gia cho rằng người dùng cần nâng cao khả năng đánh giá thông tin, kiểm tra liên kết và URL để đảm bảo nhận tin tức từ nguồn chính thống.

Tác giả: Công

Bạn đã không sử dụng Site, Bấm vào đây để duy trì trạng thái đăng nhập. Thời gian chờ: 60 giây