AI mạo danh người sáng tạo nội dung: Thách thức mới cho các nền tảng số tại Úc

Trong bối cảnh trí tuệ nhân tạo (AI) ngày càng phát triển, một mặt tối của công nghệ này đang dần lộ rõ, đặc biệt là trong các hoạt động mạo danh trực tuyến. Vụ việc một nhà sáng tạo nội dung người Úc bị giả mạo trên các nền tảng của Meta đã gióng lên hồi chuông cảnh báo về những rủi ro mới, đồng thời đặt ra câu hỏi về trách nhiệm của các công ty công nghệ trong việc bảo vệ người dùng.

Nạn mạo danh tinh vi bằng AI và hệ lụy bất ngờ

Câu chuyện của một nhà sáng tạo nội dung người Úc, được biết đến với tên Alicia, đã phơi bày một khía cạnh đáng lo ngại của công nghệ AI. Alicia, người thường xuyên sản xuất nội dung ASMR trên các nền tảng như YouTube, Twitch và các trang web đăng ký trả phí khác, không còn xa lạ với việc hình ảnh của mình bị lợi dụng để lừa gạt người hâm mộ. Tuy nhiên, sự việc gần đây đã vượt xa những gì cô từng biết. Vào tháng 5 vừa qua, tài khoản Instagram chính chủ của Alicia bất ngờ bị Meta cấm vì vi phạm các tiêu chuẩn cộng đồng về tính toàn vẹn. Trong quá trình tìm hiểu nguyên nhân, cô đã phát hiện một sự thật 'gây sốc': một tài khoản Facebook giả mạo đã sử dụng danh tính của cô để tạo ra các hình ảnh được sản xuất bằng AI, sau đó dùng những hình ảnh này để bán nội dung trả phí. Tài khoản giả mạo này đã thu hút hơn 500.000 người theo dõi trên Facebook và thậm chí còn được Meta xác minh – một chi tiết khiến Alicia vô cùng bất ngờ. "Mỗi bức ảnh, tôi đều có thể nhận ra đó là tôi, nhưng không hoàn toàn giống. Có vẻ như họ đang sử dụng nhiều yếu tố khác nhau, có thể là cơ thể của người khác với khuôn mặt của tôi," Alicia chia sẻ. Đây là một minh chứng rõ ràng cho sự tinh vi của AI trong việc tạo ra những hình ảnh giả mạo khó phân biệt, gây ra những hệ lụy nghiêm trọng cho các cá nhân bị ảnh hưởng.

Thách thức trong việc báo cáo và hỗ trợ từ nền tảng

Sau khi phát hiện tài khoản giả mạo, Alicia đã nỗ lực báo cáo trang Facebook giả và kháng nghị lệnh cấm đối với tài khoản thật của mình, nhưng không thành công. Cô thậm chí đã kêu gọi những người theo dõi mình trên nền tảng X (trước đây là Twitter) cùng báo cáo tài khoản lừa đảo này, nhưng nó vẫn tiếp tục tồn tại trực tuyến. Điều này cho thấy sự khó khăn mà người dùng phải đối mặt khi cố gắng giải quyết các vấn đề mạo danh trên các nền tảng lớn. Phản hồi từ bộ phận hỗ trợ AI của Meta cũng không mấy hữu ích. Alicia được hướng dẫn tạo một tài khoản mới, sau đó tiến hành xác minh Meta trên tài khoản đó để có thể tiếp cận 'hỗ trợ nâng cao'. "Tôi đã làm theo, và phải mất hàng giờ vật lộn với chatbot AI để cuối cùng mới có thể nói chuyện được với một người thật," cô kể lại. Kinh nghiệm này phản ánh một thực tế chung mà nhiều người dùng gặp phải: hệ thống hỗ trợ tự động của các nền tảng đôi khi trở thành rào cản hơn là giải pháp, đặc biệt trong các trường hợp phức tạp như mạo danh bằng AI. Nhiều nhà sáng tạo nội dung khác trên X cũng bày tỏ lo ngại rằng sự tinh vi của AI có thể khiến tình trạng lừa đảo mạo danh ngày càng trở nên phổ biến.