California đang thực hiện những bước tiến quan trọng trong việc quản lý việc phát tán deepfake do AI tạo ra, đặc biệt là những nội dung có thể gây hiểu lầm cho cử tri trong các cuộc bầu cử. Dự luật mới, được gọi là Assembly Bill 2839, đã được Thống đốc Gavin Newsom ký thành luật, nhằm hạn chế việc lan truyền các nội dung số gây hiểu lầm có thể ảnh hưởng đến quá trình bầu cử. Luật này được thực thi đúng lúc khi bang chuẩn bị cho cuộc bầu cử tổng thống năm 2024, thiết lập tiền lệ cho cách mà người dùng mạng xã hội tương tác và chia sẻ nội dung nhạy cảm về chính trị.
Thống đốc Newsom đã nhấn mạnh ý định của luật trong một tuyên bố trên mạng xã hội gần đây, tuyên bố rằng: "Tôi vừa ký một dự luật để biến điều này thành bất hợp pháp tại tiểu bang California," đề cập đến một sự cố cụ thể mà Elon Musk đã chia sẻ một deepfake gây hiểu lầm. Hình ảnh này đã tạo ra ấn tượng rằng Phó Tổng thống Kamala Harris đã chỉ trích chính mình, một tuyên bố hoàn toàn sai sự thật. Newsom nhấn mạnh các hệ quả nghiêm trọng của thông tin sai lệch, cho biết: "Bạn không thể phân phát một quảng cáo hoặc thông điệp bầu cử khác chứa nội dung gây hiểu lầm một cách có chủ ý - bao gồm cả deepfake."
AB 2839 chủ yếu nhắm đến những cá nhân chia sẻ deepfake AI có thể gây hiểu lầm về các ứng cử viên trong cuộc bầu cử ở California. Khác với các luật khác tập trung vào người tạo ra hoặc các nền tảng lưu trữ nội dung này, luật này trách nhiệm đối với những người biết rõ rằng họ đang phát tán các tài liệu gây hiểu lầm. Điều này bao gồm một loạt người dùng mạng xã hội, không chỉ riêng những nhân vật nổi tiếng như Musk, mà còn những người có thể tham gia vào việc lan truyền nội dung có hại.
Luật này cho phép bất kỳ ai gặp phải deepfake mà họ tin là gây hiểu lầm có thể yêu cầu biện pháp khắc phục. Điều này có nghĩa là một tòa án có thể yêu cầu gỡ bỏ bài viết hoặc ban hành các khoản bồi thường tiền đối với người chịu trách nhiệm. Như Leora Gershenzon, giám đốc chính sách của Sáng kiến Công nghệ và Dân chủ California (CITED), đã lưu ý, "Đây là nội dung gây hiểu lầm mà được phân phát khi biết rằng nó sai sự thật, với sự xem nhẹ sự thật và có khả năng ảnh hưởng đến cuộc bầu cử." Từ "ác ý" được định nghĩa là người đăng biết rằng nội dung đó sai và có ý định gây nhầm lẫn cho cử tri.
Thống đốc Newsom đã nhấn mạnh những tác động rộng lớn hơn của deepfake đối với nền dân chủ trong một cuộc họp báo gần đây. Ông nhận xét: "Châm biếm vẫn còn sống và khỏe mạnh ở California, nhưng deepfake và các hình thức thao túng bầu cử — điều đó làm tổn hại đến nền dân chủ." Sự khẩn trương của vấn đề này càng gia tăng khi cuộc bầu cử sắp diễn ra, với luật đặt ra các quy định nghiêm ngặt hơn trong khoảng thời gian 120 ngày trước cuộc bầu cử và kéo dài 60 ngày sau đó. Khung thời gian này nhằm giảm thiểu khả năng nội dung gây hiểu lầm có thể ảnh hưởng đến ý kiến công chúng khi cử tri đang tham gia tích cực.
Hơn nữa, AB 2839 không chỉ áp dụng cho các quảng cáo chính trị; nó bao gồm tất cả các hình thức truyền thông được phân phối qua nhiều kênh khác nhau, bao gồm truyền hình, radio, tin nhắn văn bản và mạng xã hội. Tuy nhiên, luật này cũng có một ngoại lệ quan trọng: nếu một deepfake được ghi rõ là đã bị chỉnh sửa hoặc thay đổi, thì nó sẽ không bị điều chỉnh bởi những hạn chế này.
Mặc dù có ý định rõ ràng của AB 2839, việc thực thi luật này chắc chắn sẽ gặp khó khăn. Musk đã thử thách giới hạn của luật mới bằng cách chia sẻ lại deepfake gây tranh cãi mà Thống đốc Newsom đã đề cập, và bài đăng này đã thu hút hơn 31 triệu lượt hiển thị trên X, nền tảng formerly known as Twitter. Hơn nữa, Musk cũng đã chia sẻ một deepfake khác giống như Thống đốc Newsom, cũng đã thu hút sự chú ý đáng kể. Điều này dấy lên câu hỏi về khả năng thực thi luật đối với các nhân vật có ảnh hưởng lớn, những người có nền tảng rộng lớn để phát tán thông tin, đúng hay sai.
Các tác động của AB 2839 không chỉ gói gọn trong California; nó có thể thúc đẩy các nỗ lực lập pháp tương tự tại các tiểu bang khác khi chu kỳ bầu cử 2024 đang gia tăng. Khi thông tin sai lệch tiếp tục gây rối cho các quy trình dân chủ, tiềm năng để luật của California trở thành một mô hình cho việc chống lại sự lan truyền của nội dung gây hiểu lầm là rất đáng kể. Trong một thời đại mà công nghệ phát triển nhanh hơn cả luật lệ, lập trường chủ động của California có thể thiết lập nền tảng cho cách mà các khu vực pháp lý trên toàn quốc xử lý những lo ngại ngày càng gia tăng xung quanh AI và thông tin sai lệch.
AB 2839 đánh dấu một bước tiến quan trọng trong việc giải quyết những thách thức phức tạp mà deepfake AI gây ra trong lĩnh vực chính trị. Khi mạng xã hội tiếp tục đóng vai trò quan trọng trong việc hình thành diễn ngôn công cộng, trách nhiệm đảm bảo tính toàn vẹn của các thông điệp bầu cử ngày càng trở thành trách nhiệm của từng người dùng. Bằng cách thực hiện các quy định nghiêm ngặt về việc chia sẻ nội dung gây hiểu lầm, California nhắm đến việc bảo vệ quy trình dân chủ của mình, nhấn mạnh rằng cuộc chiến chống thông tin sai lệch là trách nhiệm chung. Thành công thực sự của luật này không chỉ phụ thuộc vào việc thực thi pháp lý mà còn vào việc nâng cao nhận thức và khuyến khích các hành vi chia sẻ có trách nhiệm giữa tất cả người dùng mạng xã hội.
