AI deepfake lừa dối và chia rẽ một cộng đồng: Tại sao người ta vẫn còn tin?

Một đoạn âm thanh có vẻ như thể hiện các bình luận xúc phạm của hiệu trưởng một trường học địa phương đã được chia sẻ rộng rãi, khiến người này bị dọa giết, đồng thời làm chấn động cộng đồng cư dân ở vùng ngoại ô thành phố Baltimore (Maryland, Mỹ).

Không lâu sau, clip âm thanh này đã bị phát hiện là hàng giả, được ngụy tạo bằng trí tuệ nhân tạo (AI) – vậy tại sao người ta vẫn tin đoạn ghi âm này là thật?

"Tôi thực sự không hiểu nổi vì sao tôi cứ liên tục phải chịu đựng những thằng ngu này ở đây mỗi ngày."

Đó là đoạn đầu của thứ dường như là một lời cằn nhằn dài hơi của vị hiệu trưởng trường trung học Pikesville, xen lẫn trong đó là những lời lẽ phân biệt chủng tộc, bài Do Thái và xúc phạm.

Âm thanh của clip giống như thể nó đã được thu lại một cách bí mật.

Người nói tiếp tục than thở về “những đứa trẻ da đen vô ơn” và những người Do Thái trong cộng đồng.

Clip được đăng tải lần đầu tiên vào tháng Một và đã được phát tán khắp cả nước.

Tuy nhiên, khu vực bị tác động mạnh nhất là vùng ngoại ô Pikesville yên bình và đầy cây xanh, nơi có đông đảo cư dân da đen và Do Thái, cũng như thành phố Baltimore lân cận.

Hiệu trưởng Eric Eiswert đã bị tạm đình chỉ có lương để chờ điều tra.

Alfie Malone, một người đàn ông da đen sống ở Baltimore, thấy những người khác trong cộng đồng của mình đăng tải clip và ông cho đó là thật.

“Trong thâm tâm, tôi nghĩ rằng đây có lẽ là cách người khác thực sự nghĩ về chúng tôi ," ông Malone nói.

"Và rồi thực sự nghe thấy điều đó."

Để kiểm chứng, ông Malone đã xem thử những đoạn ghi âm khác của ông Eiswert trên mạng xã hội và thấy giọng nói giống nhau.

Vì vậy, ông Malone, một người đưa thư bán thời gian kiêm làm podcast, đã ấn nút chia sẻ lại đoạn clip.

Càng nhiều người chia sẻ, clip càng được chú ý.

Một bản chia sẻ đã thu hút hơn hai triệu lượt xem trong vòng vài giờ đồng hồ. Con số này gấp khoảng 60 lần dân số của Pikesville.

Nhưng những người chia sẻ clip khi đó không biết rằng một tin còn sốc hơn nữa sắp xuất hiện: clip là giả và được tạo ra do AI.

Làm việc cho chương trình Why Do You Hate Me USA của BBC Radio 4, tôi đã tới Maryland để điều tra tác động của clip này lên Pikesville.

Đây như thể là một câu chuyện ngụ ngôn về mối nguy mà AI có thể tạo ra vậy, đặc biệt khi đối tượng bị nhắm tới là các cộng đồng địa phương.

Giải phẫu sự giả mạo của AI

Khi đoạn clip tới tay Kristen Griffith, một phóng viên giáo dục ở báo Baltimore Banner, bà đã nghĩ rằng đây sẽ là một câu chuyện khá đơn thuần – một giáo viên bị bóc trần do có những lời lẽ xúc phạm.

Tuân theo nguyên tắc thực hành báo chí, bà Griffith muốn để vị hiệu trưởng có cơ hội đưa ra ý kiến và kể câu chuyện từ phía ông.

Vì vậy, bà liên lạc cho đại diện công đoàn trường. Người này nói rằng ông Eiswert không những lên án những lời nói trong đoạn clip, mà thực ra ông không phải là tác giả phát ngôn đó.

“Ông ấy nói ngay lập tức, ồ, chúng tôi nghĩ nó là giả… Chúng tôi tin nó là sản phẩm của AI,” bà Griffith nói với BBC.

“Tôi chưa thấy ai đề cập tới góc độ đó.”

Nhưng khi bà đăng tải bài giải thích, độc giả đã không bị thuyết phục.

Chẳng những không làm dấy lên những hoài nghi về tính xác thực của đoạn clip, bài viết của bà như đổ thêm dầu vào lửa đối với những người cho rằng lời cáo buộc đoạn clip là giả chỉ là một cái cớ để trốn tránh trách nhiệm.

Tới lúc này, cảnh sát bắt đầu điều tra.

Nhân viên trường Pikesville nói với cảnh sát rằng họ cảm thấy không an toàn trước sự chú ý của công chúng, đồng thời lo rằng trường học đã bị lén cài các thiết bị ghi âm.

Danh tiếng của Hiệu trưởng Eiswert cũng chịu tác động nặng nề.

An ninh đã được tăng cường để bảo vệ ông Eiswert và trường Pikesville.

Ông trở thành mục tiêu của sự thù hằn và những lời dọa giết trên mạng xã hội.

Tôi đã thấy tìm thấy hàng chục tin nhắn xúc phạm trên mạng xã hội nhằm vào ông Eiswert.

Tới tháng Tư, Cảnh sát trưởng Baltimore Robert McCullough xác nhận rằng cảnh sát đã có “chứng cứ đủ để kết luận đoạn clip không phải là thật”.

Và họ tin rằng họ đã tìm ra thủ phạm đứng sau vụ việc.

Cảnh sát đã khởi tố ông Dazhon Darien, 31 tuổi, giám đốc thể thao của trường Pikesville, với hàng loạt tội danh liên quan đến đoạn clip giả nói trên, bao gồm tội trộm cắp, trả đũa nhân chứng và rình rập.

Ông Darien đã bị bắt ở sân bay. Theo cảnh sát, lúc bấy giờ ông này đang định bay tới Houston, Texas.

Cảnh sát nói rằng Hiệu trưởng Eiswert từng điều tra ông Darien với cáo buộc trộm cắp số tiền 1.916 USD (khoảng 47,6 triệu VND) của trường.

Họ cũng cho rằng đã có những “vấn về về hiệu suất làm việc” và hợp đồng lao động của ông Darien có vẻ sẽ không được gia hạn.

Giả thuyết của cảnh sát là Darien đã tạo ra đoạn clip với hy vọng triệt hạ uy tín của ông Eiswert trước khi mình có thể bị sa thải.

Các điều tra viên nói rằng họ đã lần theo một email được sử dụng để gửi đoạn clip gốc tới máy chủ kết nối với ông Darien, đồng thời cáo buộc ông Darien đã sử dụng mạng máy tính của Trường Công lập Quận Baltimore (BCPS) để tiếp cận công cụ AI.

Theo dự kiến, ông Darien sẽ hầu tòa vào tháng 12 tới.

Đại diện pháp lý của ông Darien không phản hồi đề nghị bình luận.

Bà Myriam Rogers, giám đốc BCPS, từng nói rằng nhà trường, Hiệu trưởng Eiswert và gia đình ông đã có “một quãng thời gian vô cùng khó khăn”.

Đại diện Trường Trung học Pikesville và ông Eiswert không phản hồi đề nghị bình luận thêm của tôi.

Vì sao mọi người lại tin vào đoạn âm thanh?

Do clip chỉ có tiếng, nên người xem không thấy được những dấu hiệu trực quan, ví dụ như cách cử động cứng nhắc như người máy, để nhận biết đây là một sản phẩm do AI tạo ra.

Giọng nói trong clip cũng sử dụng những từ chuyên môn, như “mức độ kỳ vọng theo cấp độ của lớp” và những chi tiết khác, như tên nhân viên, mà chỉ những người có liên hệ gần gũi với trường mới biết.

Nhưng nếu nghe kỹ, bạn có thể nhận ra những đoạn chỉnh sửa xen lẫn giữa các câu nói, còn giọng nói, dù khá giống với giọng của hiệu trưởng, vẫn nghe khá đơn điệu.

Chỉ cần một vài phút từ một clip, ví dụ như từ một cảnh phim của diễn viên bạn yêu thích hoặc từ bài phát biểu của một ứng cử viên tổng thống, AI có thể tạo ra một clip có giọng những người này và nói những lời họ chưa từng nói.

Tuy nhiên, ông Malone nói với tôi rằng có lẽ lý do chính khiến mọi người tin rằng clip trên là thật là vì nó có nội dung mà người nghe cảm thấy hợp lý.

Đoạn clip đã gợi lại quá khứ bị kỳ thị của chính ông Malone khi ông là một người da đen sống ở Baltimore.

Khi nghe hiệu trưởng mô tả học sinh da đen lười biếng, ông Malone lập tức nhớ lại những lời thóa mạ và phân biệt đối xử ông từng phải đối diện ở trường học và nơi làm việc.

Sau vài tháng, vẫn có thể cảm nhận được ảnh hưởng của đoạn clip giả này ở Pikesville.

Ông Eiswert đã tới làm ở một trường học khác. Một số người dân nói với tôi rằng dù họ đã công nhận clip đó là giả, nhưng vẫn còn đó những hệ lụy.

“Nơi này là khu dân cư Do Thái và những lời nói xúc phạm như vậy thực sự quá khó chịu,” một người phụ nữ tên Sharon nói với tôi trong khi xếp chiếc xe đẩy của cháu bà vào trong một chiếc ô tô đang đỗ tại ngôi nhà đối diện trường hồi

tháng Tám.

Trong vài phút, bà Sharon nói chuyện với tôi như thể đoạn clip trên là thật.

“Tôi nghĩ rằng khi mọi người nói những lời như vậy, những người khác cũng sẽ hùa theo và nó khiến tôi càng cảm thấy sợ hãi.”

Khi chồng bà từ xe nói với ra nhắc bà rằng đoạn clip đó là giả, bà thừa nhận rằng “sau đó đã biết đoạn clip đó do AI tạo ra”, nhưng nói thêm rằng mình vẫn cảm thấy tức giận.

Tôi nhận thấy rằng đối với những người như bà Sharon, những người từng tin clip là thật, dù chỉ trong thời gian ngắn, họ không quên được nội dung của clip, đặc biệt là khi thông điệp của nó nhắc về những trải nghiệm có thật về phân biệt chủng tộc và phân biệt đối xử.

Nó nhắc tôi về điều mà tôi từng nghe đi nghe lại nhiều lần khi điều tra những vụ việc về thông tin sai lệch và thuyết âm mưu: “Chà, ngay cả khi nó không là thật, tôi nghĩ đó là những gì mọi người nghĩ”.

Tất cả các công ty mạng xã hội đều nói rằng họ có những chính sách để dán nhãn, xóa bỏ và hạn chế sự phát tán của những nội dung do AI tạo ra.

Nhưng việc đó chỉ xảy ra khi một clip đã được chứng minh là giả. Tới thời điểm đó, có khi đã có hàng triệu người xem rồi.

Khi nói chuyện với tôi, Alfie Malone kể rằng ngay ngày hôm đó ông đã phát hiện ra rằng một người bạn của ông vẫn không biết clip đó là giả.

“Tôi thực sự tin rằng vẫn có rất nhiều người ở thành phố này không biết clip đó là giả,” ông nói.

Ông nói rằng ông cảm thấy tiếc cho hiệu trưởng Eiswert vì đã nhận những lời bị cáo buộc sai sự thật.

Ông cũng lo rằng đoạn clip không khắc họa được sự khắc nghiệt của những trải nghiệm phân biệt chủng tộc thực sự.

Ông nói rằng từ giờ sẽ suy nghĩ kĩ hơn mỗi khi chia sẻ một clip tương tự.

“Tôi đã bị bỏng một lần rồi. Tôi sẽ không đến gần cái lò nữa.”