Bức thư ngỏ được khởi xướng bởi nhóm vận động Fairplay, gửi trực tiếp tới CEO YouTube Neal Mohan và CEO Google Sundar Pichai. Danh sách ký tên bao gồm 135 tổ chức giáo dục uy tín như Liên đoàn Giáo viên Mỹ, Hiệp hội Tư vấn Mỹ cùng nhiều nhà nghiên cứu hàng đầu, trong đó có tác giả nổi tiếng Jonathan Haidt.
Các chuyên gia yêu cầu YouTube phải loại bỏ hoàn toàn cái gọi là "AI Slop" – thuật ngữ chỉ những nội dung do AI tạo ra hàng loạt, giá rẻ và vô nghĩa. Họ lập luận rằng những video này không mang lại bất kỳ giá trị giáo dục nào, thậm chí có nguy cơ làm thay đổi cấu trúc não bộ của trẻ nhỏ trong giai đoạn phát triển quan trọng, trong khi các biện pháp kiểm soát hiện nay của Google vẫn còn quá lỏng lẻo.
Rachel Franz, Giám đốc chương trình tại Fairplay, cho biết các video AI đang bùng nổ trên YouTube Kids không phải ngẫu nhiên. Có một động cơ tài chính khổng lồ đằng sau: những kênh nội dung AI dành cho trẻ em hàng đầu có thể thu về hơn 4,25 triệu USD mỗi năm. Nhiều nhà sáng tạo nội dung đã công khai quảng bá việc kiếm tiền từ các video AI không có cốt truyện nhưng lại cực kỳ "gây mê" đối với trẻ nhỏ.
Điều đáng lo ngại là thuật toán của YouTube liên tục đề xuất những nội dung này cho người dùng nhỏ tuổi một cách gần như không thể tránh khỏi. Theo số liệu từ Fairplay, chỉ có khoảng 5% video trên YouTube dành cho trẻ dưới 8 tuổi thực sự đạt tiêu chuẩn chất lượng cao. Phần còn lại đa số là "rác AI" được thiết kế để thu hút và giữ chân trẻ em trước màn hình smartphone càng lâu càng tốt.
Trẻ em sử dụng smartphone. Ảnh: Internet.
Trong bức thư gửi lãnh đạo Google, các tổ chức đã đưa ra 5 yêu cầu cấp bách:
Dán nhãn rõ ràng tất cả nội dung do AI tạo ra trên toàn bộ nền tảng YouTube.
Cấm hoàn toàn nội dung AI trên YouTube Kids và cấm nội dung trẻ em do AI tạo ra trên YouTube chính.
Chặn đề xuất nội dung AI cho người dùng dưới 18 tuổi.
Cung cấp tùy chọn cho phụ huynh để vô hiệu hóa hoàn toàn nội dung AI (mặc định là tắt).
Ngừng đầu tư vào các dự án phát triển nội dung trẻ em dựa trên trí tuệ nhân tạo.
Trước những cáo buộc gay gắt, người phát ngôn của YouTube, Boot Bullwinkle, khẳng định YouTube Kids vẫn duy trì các "tiêu chuẩn cao". Công ty cho biết họ đã triển khai việc gắn nhãn nội dung AI và cung cấp cho phụ huynh các công cụ để chặn kênh không phù hợp. Tuy nhiên, YouTube không đưa ra một lộ trình cụ thể cho việc thắt chặt kiểm soát nội dung "AI Slop" như yêu cầu từ phía các chuyên gia.
Kể từ khi ra mắt năm 2015, YouTube Kids đã nhiều lần vấp phải tranh cãi về việc để lọt các video có nội dung "ngụy trang" gây hại. Sự bùng nổ của AI tạo sinh hiện nay đang đặt ra một thách thức mới chưa từng có đối với nỗ lực bảo vệ thế hệ trẻ trên không gian mạng của Google.