Thống đốc Gavin Newsom của California hiện đang đối diện với một quyết định quan trọng liên quan đến Dự luật SB 1047, một dự luật nhằm ngăn chặn những thảm họa do trí tuệ nhân tạo (AI) gây ra bằng cách buộc các nhà cung cấp AI lớn phải chịu trách nhiệm nếu sản phẩm của họ gây ra tổn hại nghiêm trọng. Trong một cuộc trao đổi gần đây tại hội nghị Dreamforce, Newsom đã bày tỏ những lo ngại về tác động của dự luật này đối với ngành công nghiệp AI và khả năng sáng tạo của California.
Dự luật SB 1047 đặt ra yêu cầu các công ty cung cấp AI lớn phải chịu trách nhiệm về những thiệt hại nghiêm trọng mà sản phẩm của họ gây ra, đặc biệt là trong các thảm họa như sụp đổ cơ sở hạ tầng quan trọng hoặc sự kiện an ninh mạng có chi phí trên 500 triệu đô la. Mặc dù mục tiêu của dự luật là bảo vệ chống lại những rủi ro lớn, các nhà phê bình cho rằng nó có thể cản trở sự đổi mới và không giải quyết được những vấn đề ngắn hạn mà hệ thống AI đang gây ra.
Trong một cuộc trao đổi tại Dreamforce, Newsom đã nêu rõ sự cần thiết phải tìm ra một sự cân bằng giữa việc bảo đảm an toàn và duy trì sự đổi mới. Ông nhận định rằng việc thông qua dự luật SB 1047 có thể gây ra hiệu ứng làm lạnh, đặc biệt là đối với cộng đồng mã nguồn mở, và có thể ảnh hưởng tiêu cực đến sự phát triển của ngành công nghiệp AI tại California.
Newsom đã chỉ ra rằng, trong khi SB 1047 tập trung vào các thảm họa và sự cố an ninh mạng lớn, dự luật này không đề cập đến trách nhiệm của các công ty công nghệ đối với các vấn đề nghiêm trọng nhưng không đạt đến ngưỡng 500 triệu đô la. Điều này có thể dẫn đến việc dự luật không giải quyết được các vấn đề hiện tại mà các hệ thống AI đang tạo ra, đồng thời có thể gây trở ngại cho sự đổi mới trong ngành.
Tại hội nghị, Newsom đã nhấn mạnh rằng việc tìm ra các giải pháp quy định phù hợp là một thách thức lớn trong bối cảnh hiện nay. Ông cho rằng, trong khi có những lo ngại về những rủi ro tiềm ẩn từ AI, ông cần cân nhắc giữa những rủi ro có thể chứng minh được và những rủi ro mang tính giả định. "Tôi không thể giải quyết mọi vấn đề. Chúng ta có thể giải quyết được gì?" ông nói.
Newsom đã ký năm dự luật vào ngày thứ Ba để giải quyết những vấn đề AI đã xảy ra trong năm 2024, bao gồm thông tin sai lệch trong cuộc bầu cử và việc các studio Hollywood tạo ra bản sao AI của các diễn viên. Những dự luật này phản ánh sự quan tâm của Newsom đến việc xử lý các vấn đề hiện tại mà AI gây ra.
Mặc dù chưa đưa ra quyết định chính thức về việc ký hay phủ quyết dự luật SB 1047, Newsom đã bày tỏ sự lo ngại về tác động của việc thông qua những dự luật không phù hợp. Ông cảnh báo rằng việc thông qua những dự luật sai lầm có thể ảnh hưởng sâu rộng đến vị thế dẫn đầu của California trong lĩnh vực công nghệ.
Đối lập với quan điểm của Newsom, một số tổ chức và cá nhân, bao gồm OpenAI và các nhóm thương mại công nghệ lớn, đang vận động để ông phủ quyết dự luật SB 1047. Trong khi đó, một số nhà nghiên cứu AI uy tín như Yoshua Bengio và Geoffrey Hinton đã lên tiếng ủng hộ dự luật này.
Nathan Calvin, cố vấn chính sách cao cấp của Trung tâm Hành Động An Toàn AI, cho biết: "Chúng tôi vẫn hy vọng rằng Thống đốc sẽ ký Dự luật SB 1047 vì ông hiểu rằng nếu California không dẫn đầu trong việc đổi mới AI an toàn và có trách nhiệm, thì ai sẽ làm điều đó?"
Thống đốc Newsom có hai tuần để đưa ra quyết định cuối cùng về dự luật này. Trong thời gian chờ đợi, dư luận đang quan tâm đến những phát biểu của ông và tác động tiềm tàng của dự luật đối với ngành công nghiệp AI và sự đổi mới công nghệ tại California.
