Theo báo cáo mới nhất từ NBC News, hàng chục video và hình ảnh khiêu dâm do người dùng tạo ra từ công cụ AI Grok đang lan truyền công khai trên mạng xã hội X. Đây là một thực trạng đáng báo động, bởi cách đây chỉ vài tháng, tỷ phú Elon Musk và công ty xAI đã đưa ra những cam kết mạnh mẽ về việc ngăn chặn việc lạm dụng trí tuệ nhân tạo cho mục đích xấu.
Hồi đầu năm 2026, Grok từng gây chấn động khi cho phép người dùng thực hiện các hành vi như "cởi quần áo" người thật hoặc ghép khuôn mặt vào các tư thế nhạy cảm chỉ bằng vài câu lệnh đơn giản. Hiện tại, dù xAI đã bổ sung các bộ lọc để chặn các yêu cầu liên quan đến trẻ vị thành niên hoặc ảnh khỏa thân hoàn toàn, nhưng các nội dung mang tính chất gợi dục và tình dục hóa vẫn lách được hàng rào bảo vệ.
Ông Stefan Turkheimer, Phó chủ tịch tổ chức chống tấn công tình dục RAINN, nhấn mạnh: "Việc những hình ảnh này vẫn tiếp tục được tạo ra và phát tán sẽ gây ra những tổn thương không nhỏ cho nạn nhân và ảnh hưởng tiêu cực đến chuẩn mực xã hội".
Logo AI Grok. Ảnh: Internet.
Dữ liệu từ Trung tâm Chống thù ghét kỹ thuật số (CCDH) tại Mỹ đã phơi bày quy mô kinh khủng của vấn đề. Nghiên cứu cho thấy, trong giai đoạn từ cuối tháng 12/2025 đến đầu tháng 1/2026, AI Grok đã sản xuất tới 3 triệu tấm ảnh khiêu dâm.
Đáng chú ý hơn, trong vòng 11 ngày cao điểm, hệ thống này đã tạo ra khoảng 23.000 hình ảnh nhạy cảm có liên quan đến trẻ em. Điều này đồng nghĩa với việc cứ trung bình 41 giây lại có một hình ảnh độc hại mới được ra đời từ chatbot của Elon Musk. Tính năng "chế độ gợi cảm" (Spicy Mode) ra mắt vào tháng 8/2025 bị coi là nguyên nhân khiến AI này trở nên "dễ dãi" hơn nhiều so với các đối thủ như ChatGPT hay Gemini.
Sự việc nghiêm trọng đến mức Apple từng đe dọa sẽ gỡ bỏ ứng dụng X khỏi cửa hàng App Store nếu tình trạng kiểm duyệt của Grok không được cải thiện. Để xoa dịu tình hình, xAI đã phải thực hiện một bước đi chưa từng có là gửi mã nguồn của Grok cho Apple để thẩm định. Sau khi xem xét các bản cập nhật mới nhất, Apple đã tạm thời chấp nhận cho ứng dụng này tiếp tục hoạt động.
Tuy nhiên, giới chính trị gia Mỹ vẫn không hài lòng. Thượng nghị sĩ Ben Ray Luján khẳng định việc tạo nội dung khiêu dâm không có sự đồng ý của công dân là hành vi "đáng ghê tởm" và yêu cầu các tập đoàn công nghệ như Google, Apple phải chịu trách nhiệm liên đới nếu để lọt các công cụ như Grok trên nền tảng của mình.
Hiện tại, nhiều quốc gia như Indonesia, Malaysia và Philippines đã ban lệnh chặn tạm thời dịch vụ của Grok. Trong khi đó, Liên minh châu Âu (EU) và Anh đang ráo riết mở rộng các cuộc điều tra về tính an toàn và đạo đức của mô hình AI này.