Một thẩm phán liên bang đã tạm thời chặn một luật mới của California, hạn chế việc sử dụng deepfake trong các chiến dịch chính trị, với lý do rằng luật này có khả năng vi phạm Tu chính án Thứ Nhất.
Trong phán quyết sơ bộ, Thẩm phán John Mendez của Tòa án quận Mỹ đã chấp thuận yêu cầu đình chỉ luật AB 2839, sau khi nhận được đơn kiện từ Christopher Kohls, người được biết đến trên mạng với tên gọi Mr. Reagan. Kohls đã cáo buộc rằng luật này đã biến các video giả lập thành bất hợp pháp. Mendez, được Tổng thống George W. Bush bổ nhiệm, đã đồng tình với lập luận này.
“Tòa án thừa nhận rằng những rủi ro do trí tuệ nhân tạo và deepfake gây ra là rất lớn, đặc biệt khi sự tham gia của công dân ngày càng di chuyển lên mạng và thông tin sai lệch tràn lan trên mạng xã hội,” Mendez viết. “Tuy nhiên, hầu hết các điều khoản của AB 2839 lại hoạt động như một chiếc búa thay vì một con dao phẫu thuật, trở thành một công cụ thô bạo cản trở sự biểu đạt hài hước và vi phạm hiến pháp việc tự do và không bị hạn chế trong việc trao đổi ý tưởng — điều vô cùng quan trọng cho cuộc tranh luận dân chủ của Mỹ.”
Luật AB 2839, được Thống đốc California Gavin Newsom ký thành luật vào tháng trước, nhằm hạn chế các nội dung liên quan đến bầu cử mà có thể gây hiểu lầm hoặc sai lệch, đặc biệt là những nội dung đã được chỉnh sửa kỹ thuật số trong vòng bốn tháng trước một cuộc bầu cử và kéo dài đến 60 ngày sau đó. Luật này cho phép bất kỳ ai nhận được các thông tin này có quyền kiện người phân phối để yêu cầu bồi thường và chấm dứt việc phát tán chúng.
Luật này nằm trong số một vài luật liên quan đến nội dung được tạo ra bởi AI mà Newsom đã ký gần đây.
Kohls, người có 378.000 người theo dõi trên YouTube, chuyên làm các video chính trị châm biếm, bao gồm một video sử dụng các đoạn ghi âm giọng nói AI của Phó Tổng thống Kamala Harris, trong đó bà tự gọi mình là một "nhân sự đa dạng".
Thẩm phán Mendez cho rằng luật này vi phạm hiến pháp vì “không sử dụng những biện pháp hạn chế tối thiểu khả thi để bảo vệ lợi ích của bang.” Ông cho biết, “Như các nguyên đơn đã lập luận một cách thuyết phục, việc phản biện là một giải pháp ít hạn chế hơn so với việc cấm các video như của nguyên đơn, bất kể có ai đó cảm thấy chúng có tính chất xúc phạm hay không.” Mendez nhấn mạnh rằng California có quyền lợi hợp pháp trong việc bảo vệ tính toàn vẹn và độ tin cậy của quy trình bầu cử, nhưng AB 2839 là vi hiến vì thiếu sự điều chỉnh hẹp và các phương án ít hạn chế mà một luật dựa trên nội dung yêu cầu theo tiêu chuẩn nghiêm ngặt.
Trong một tuyên bố phản hồi về phán quyết, phát ngôn viên của Newsom, Izzy Gardon, đã không đồng tình, cho rằng luật này vẫn bảo vệ nền dân chủ cũng như tự do ngôn luận.
“Deepfake đe dọa tính toàn vẹn của các cuộc bầu cử, và những luật mới này bảo vệ nền dân chủ của chúng tôi trong khi vẫn giữ được tự do ngôn luận — theo cách không khắt khe hơn những quy định ở các bang khác, bao gồm cả Alabama,” Gardon nói. “Chúng tôi tin tưởng rằng các tòa án sẽ bảo vệ khả năng của bang trong việc điều chỉnh những deepfake nguy hiểm và gây hiểu lầm này. Sự châm biếm vẫn sống và phát triển ở California — ngay cả đối với những ai không hiểu được hài hước.”
Phán quyết này là một bước đi quan trọng trong việc xác định cách thức mà công nghệ deepfake sẽ được quản lý trong bối cảnh chính trị, đặc biệt khi các công cụ như AI đang ngày càng trở nên phổ biến và tiềm tàng nhiều rủi ro trong việc lan truyền thông tin sai lệch. Việc tìm kiếm sự cân bằng giữa bảo vệ tính toàn vẹn của quy trình bầu cử và duy trì tự do ngôn luận sẽ tiếp tục là một thách thức lớn trong tương lai.
