Cuộc ra đi của Lilian Weng, Phó Chủ Tịch nghiên cứu và an toàn của OpenAI, đánh dấu sự rời khỏi của một trong những nhà nghiên cứu quan trọng nhất trong lĩnh vực an toàn AI của công ty. Sau 7 năm cống hiến cho OpenAI, Weng đã quyết định "khám phá những hướng đi mới." Sự ra đi của cô là sự nối tiếp của hàng loạt các chuyên gia hàng đầu khác trong lĩnh vực an toàn, bao gồm Ilya Sutskever, Jan Leike và nhiều nhà nghiên cứu chính sách, kỹ thuật viên khác đã từ bỏ OpenAI trong năm qua.
OpenAI đang đối mặt với nhiều chỉ trích từ nội bộ, cho rằng công ty này đang đặt lợi nhuận thương mại lên trên yếu tố an toàn. Những nhân sự hàng đầu như Weng, Leike và Sutskever không chỉ đơn thuần rời khỏi công ty mà nhiều người còn lên tiếng lo ngại về hướng đi của OpenAI. Một số trong đó, như Leike và Schulman, đã gia nhập các công ty đối thủ như Anthropic - một công ty cũng đang đầu tư mạnh vào các phương pháp đảm bảo an toàn cho AI.
Bên cạnh việc phát triển sản phẩm thương mại như ChatGPT và GPT-4, OpenAI đã từng cam kết nỗ lực để xây dựng một hệ thống an toàn mạnh mẽ. Đội ngũ An Toàn do Weng đứng đầu đã phát triển nhanh chóng, thu hút hơn 80 nhà khoa học, nhà nghiên cứu và chuyên gia chính sách trong nỗ lực đảm bảo các hệ thống AI hoạt động an toàn và đáng tin cậy. Nhưng việc OpenAI gần đây giải thể một số nhóm, như đội Superalignment và đội chuẩn bị cho AGI (trí tuệ nhân tạo tổng quát), đã khiến một số người nghi ngờ về cam kết thực sự của công ty trong việc duy trì tiêu chuẩn an toàn cao nhất.
Các nhà nghiên cứu và chuyên gia AI đã cảnh báo rằng AI mạnh mẽ như GPT-4 và các phiên bản tương lai có thể mang lại rủi ro cho xã hội nếu không được kiểm soát chặt chẽ. Weng, cùng với các đồng nghiệp đã rời đi, lo ngại rằng OpenAI có thể thiếu chú trọng đến các biện pháp bảo vệ quan trọng trong quá trình phát triển công nghệ. Mặc dù OpenAI tuyên bố rằng họ cam kết đảm bảo an toàn và bảo vệ người dùng, làn sóng rời bỏ của các nhân tài hàng đầu cho thấy có thể tồn tại mâu thuẫn trong chính sách và thực tế.
Đối với ngành công nghệ, điều này có thể là lời cảnh báo quan trọng về việc cân bằng giữa tăng trưởng thương mại và trách nhiệm xã hội. Các công ty như Anthropic đang thu hút các tài năng rời khỏi OpenAI, nhấn mạnh xu hướng mới: hướng tới các công ty và dự án đặt trọng tâm vào đạo đức và an toàn trong quá trình phát triển AI.
Sự ra đi của Weng và các đồng nghiệp cho thấy rằng lĩnh vực AI, dù phát triển vượt bậc, đang đứng trước các thách thức lớn về vấn đề đạo đức và an toàn. Điều này đồng nghĩa với việc các công ty công nghệ cần phải nỗ lực hơn để cân bằng giữa lợi ích kinh tế và bảo đảm rằng AI thực sự phục vụ xã hội mà không gây hại.
