Ilya Sutskever, một trong những người đồng sáng lập của OpenAI, vừa thành lập một công ty mới mang tên Safe Superintelligence Inc. (SSI), chỉ sau một tháng rời khỏi OpenAI.

Sutskever, người đã từng là Giám đốc khoa học lâu năm của OpenAI, thành lập SSI cùng với cựu đối tác Y Combinator Daniel Gross và kỹ sư cũ của OpenAI Daniel Levy.

Tại OpenAI, Sutskever đã đóng vai trò quan trọng trong việc nâng cao an toàn của AI với sự bùng nổ của các hệ thống AI "siêu thông minh", một lĩnh vực mà ông đã làm việc cùng với Jan Leike, người đồng điều hành nhóm Superalignment của OpenAI. Tuy nhiên, cả Sutskever và Leike đã rời khỏi công ty vào tháng 5 sau một mâu thuẫn gay gắt với lãnh đạo OpenAI về cách tiếp cận vấn đề an toàn AI. Leike hiện nay là người đứng đầu một nhóm tại đối thủ của OpenAI là Anthropic.

Sutskever đã chú ý đến những khía cạnh phức tạp hơn của an toàn AI từ lâu. Trong một bài đăng trên blog vào năm 2023, Sutskever, viết cùng Leike, dự đoán rằng AI với trí tuệ vượt trội hơn con người có thể sẽ xuất hiện trong vòng mười năm tới — và rằng khi điều đó xảy ra, nó không nhất thiết sẽ là thiện lương, yêu cầu nghiên cứu cách kiểm soát và hạn chế nó.

Ông rõ ràng cam kết với nguyên tắc này ngày hôm nay. Chiều thứ Tư, một tweet thông báo việc thành lập công ty mới của Sutskever cho biết: "SSI là sứ mệnh của chúng tôi, tên của chúng tôi, và toàn bộ lộ trình sản phẩm của chúng tôi, bởi vì đó là mục tiêu duy nhất của chúng tôi. Đội ngũ, nhà đầu tư và mô hình kinh doanh của chúng tôi đều được cân bằng để đạt được SSI. Chúng tôi tiếp cận an toàn và khả năng cùng một lúc, như các vấn đề kỹ thuật phải giải quyết thông qua các đột phá kỹ thuật và khoa học cách mạng."

Ông Sutskever đã phát biểu với Bloomberg về công ty mới của mình một cách chi tiết hơn, mặc dù ông từ chối thảo luận về tình trạng gọi vốn hoặc định giá của công ty.

Khác với OpenAI — ban đầu được thành lập là một tổ chức phi lợi nhuận vào năm 2015, sau đó tổ chức lại khi các số tiền lớn cần thiết cho sức mạnh máy tính của nó trở nên rõ ràng hơn — SSI đang được thiết kế từ đầu như một thực thể có lợi nhuận. Dựa vào sự quan tâm đến AI và các thông tin chuyên môn của đội ngũ cụ thể, công ty có thể sớm có được vốn vô cùng lớn. "So với tất cả các vấn đề chúng tôi đang đối mặt," Gross nói với Bloomberg, "việc gọi vốn không phải là một trong số đó."

SSI hiện có văn phòng tại Palo Alto và Tel Aviv, nơi công ty đang tuyển dụng nhân tài kỹ thuật.