Dự luật SB 1047, được giới thiệu bởi Thượng nghị sĩ Scott Wiener của California, đang chờ quyết định cuối cùng từ Thống đốc Gavin Newsom. Đây là một dự luật gây tranh cãi nhằm ngăn ngừa các thảm họa liên quan đến trí tuệ nhân tạo (AI), bao gồm các sự kiện có thể gây ra mất mát về tính mạng con người hoặc các cuộc tấn công mạng gây thiệt hại trên 500 triệu đô la.

Dự luật này đã vượt qua các cuộc bỏ phiếu cuối cùng tại Thượng viện bang California và giờ đây cần sự phê chuẩn từ Thống đốc Newsom trước ngày 30 tháng 9. Ông Newsom phải cân nhắc giữa việc đối mặt với các rủi ro tiềm ẩn từ các hệ thống AI lớn — chẳng hạn như khả năng gây ra các thảm họa nghiêm trọng — và việc có thể làm giảm động lực đổi mới trong lĩnh vực AI của California.

Mục tiêu của dự luật SB 1047

SB 1047 được thiết kế nhằm ngăn chặn nguy cơ từ các mô hình AI quy mô lớn, một mối lo ngại hiện tại không tồn tại trong thực tế, nhưng có thể trở thành vấn đề trong tương lai. Theo dự luật, các nhà phát triển mô hình AI sẽ phải chịu trách nhiệm về những thiệt hại do công nghệ của họ gây ra. Điều này tương tự như việc các nhà sản xuất súng chịu trách nhiệm về các vụ xả súng hàng loạt. Ngoài ra, dự luật cũng trao quyền cho Tổng chưởng lý bang California để kiện các công ty AI với mức phạt nặng nếu công nghệ của họ được sử dụng trong các sự kiện thảm họa.

Một yếu tố quan trọng khác của SB 1047 là yêu cầu các mô hình AI phải có một "công tắc dừng" để có thể được tắt nếu được coi là nguy hiểm. Điều này có thể làm thay đổi đáng kể cách thức ngành công nghiệp AI hoạt động ở Mỹ, với việc dự luật chỉ còn một chữ ký nữa để trở thành luật.

Lý do Newsom có thể ký dự luật

Thượng nghị sĩ Scott Wiener cho rằng Silicon Valley cần phải chịu trách nhiệm hơn về công nghệ của mình, nhấn mạnh rằng nước Mỹ phải học từ những thất bại trong việc quản lý công nghệ trong quá khứ. Thống đốc Newsom có thể cảm thấy bị thúc đẩy để hành động quyết liệt về quy định AI và yêu cầu các ông lớn công nghệ phải chịu trách nhiệm.

Một số giám đốc điều hành AI đã bày tỏ sự lạc quan cẩn trọng về SB 1047, chẳng hạn như Elon Musk. Sophia Velastegui, cựu giám đốc AI của Microsoft, cũng cho rằng SB 1047 là một sự thỏa hiệp hợp lý, mặc dù bà thừa nhận dự luật không hoàn hảo. Bà cho biết: "Tôi nghĩ chúng ta cần một cơ quan AI có trách nhiệm cho Mỹ, hoặc bất kỳ quốc gia nào làm việc với AI."

Công ty AI Anthropic cũng là một trong những người ủng hộ SB 1047, mặc dù công ty chưa đưa ra một lập trường chính thức. CEO Dario Amodei cho rằng những lợi ích của dự luật "có thể vượt xa chi phí" nhờ vào các sửa đổi mà công ty đã đề xuất. Theo phiên bản hiện tại của dự luật, các công ty AI chỉ có thể bị kiện sau khi các mô hình của họ gây ra thiệt hại thảm khốc, không phải trước đó.

Lý do Newsom có thể phủ quyết dự luật

Tuy nhiên, có thể thấy sự phản đối mạnh mẽ từ ngành công nghiệp đối với dự luật này. Nếu Thống đốc Newsom phủ quyết SB 1047, ông có thể đẩy vấn đề xuống đường dài thêm một năm hoặc để Quốc hội giải quyết. Martin Casado, đối tác của Andreessen Horowitz, cho rằng SB 1047 sẽ thay đổi tiền lệ trong việc quản lý phần mềm trong suốt 30 năm qua. Ông lo ngại rằng dự luật này có thể làm chùn bước đổi mới và ảnh hưởng tiêu cực đến ngành công nghiệp công nghệ.

Ngành công nghiệp công nghệ đã phản ứng mạnh mẽ đối với SB 1047. Bên cạnh a16z, nhiều nhóm thương mại công nghệ lớn, OpenAI, các nhà nghiên cứu AI nổi bật cũng kêu gọi Thống đốc Newsom không ký dự luật này. Họ lo lắng rằng sự thay đổi về trách nhiệm pháp lý sẽ có ảnh hưởng lạnh lùng đến sự đổi mới trong lĩnh vực AI của California.

Nếu SB 1047 trở thành luật, các công ty công nghệ sẽ cần phải viết báo cáo an toàn cho các mô hình AI của họ bắt đầu từ ngày 1 tháng 1 năm 2025. Vào năm 2026, một ủy ban mới mang tên Ủy ban Mô hình Tiên phong sẽ được thành lập và bắt đầu thu thập các báo cáo an toàn từ các công ty công nghệ. Ủy ban này, gồm chín thành viên do Thống đốc và cơ quan lập pháp của California chỉ định, sẽ đưa ra các khuyến nghị về việc tuân thủ của các công ty.

Vào năm 2027, Ủy ban Mô hình Tiên phong sẽ bắt đầu đưa ra hướng dẫn cho các nhà phát triển mô hình AI về cách vận hành và huấn luyện AI một cách an toàn và bảo mật.

Nếu dự luật SB 1047 bị phủ quyết

Nếu Thống đốc Newsom phủ quyết SB 1047, các nhà lãnh đạo của OpenAI và Anthropic có thể thấy mong muốn của họ trở thành hiện thực, với các cơ quan liên bang có thể dẫn dắt việc quản lý AI trong tương lai. Mặc dù các cơ quan liên bang thường đưa ra quy định ít nghiêm ngặt hơn và mất nhiều thời gian hơn để thực hiện, nhưng Silicon Valley từ lâu đã là một đối tác quan trọng của chính phủ Mỹ trong việc phát triển công nghệ tiên tiến.

Dù kết quả ra sao, quyết định của Thống đốc Newsom sẽ có ảnh hưởng sâu rộng đến tương lai của ngành công nghiệp AI và cách thức mà công nghệ này được quản lý tại Mỹ.