HydroX AI, một startup phát triển các công cụ bảo mật cho các mô hình AI và dịch vụ, đang hợp tác với Meta và IBM để đánh giá các mô hình AI tạo sinh được triển khai trong các ngành có rủi ro cao.

Được thành lập vào năm 2023 tại San Jose, California, công ty này đã xây dựng một nền tảng đánh giá cho phép các doanh nghiệp kiểm tra mô hình ngôn ngữ của họ để xác định độ an toàn và bảo mật.

HydroX sẽ làm việc cùng Meta và IBM để đánh giá các mô hình ngôn ngữ trong các lĩnh vực như chăm sóc sức khỏe, dịch vụ tài chính và pháp lý.

Bộ ba sẽ hợp tác tạo ra các bài kiểm tra tiêu chuẩn và bộ công cụ giúp các nhà phát triển doanh nghiệp đảm bảo rằng mô hình ngôn ngữ của họ an toàn và tuân thủ các quy định trước khi được triển khai trong các ngành cụ thể.

"Mỗi lĩnh vực có những thách thức và yêu cầu riêng, bao gồm nhu cầu về độ chính xác, an toàn, tuân thủ các tiêu chuẩn quy định nghiêm ngặt và các cân nhắc đạo đức," Victor Bian, trưởng ban nhân viên của HydroX cho biết. "Đánh giá các mô hình ngôn ngữ lớn trong các ngữ cảnh này đảm bảo chúng an toàn, hiệu quả và đạo đức cho các ứng dụng cụ thể theo từng lĩnh vực, cuối cùng tạo dựng niềm tin và thúc đẩy việc ứng dụng rộng rãi hơn trong các ngành mà lỗi lầm có thể gây ra hậu quả đáng kể."

Các tiêu chuẩn và công cụ liên quan được thiết kế để đánh giá hiệu suất của một mô hình ngôn ngữ, cung cấp cho chủ sở hữu mô hình một đánh giá về kết quả đầu ra của mô hình trên các nhiệm vụ cụ thể.

Meta và IBM Dẫn Đầu Liên Minh AI Mới Hỗ Trợ Đổi Mới Mở

HydroX tuyên bố rằng hiện tại chưa có đủ các bài kiểm tra và công cụ để cho phép chủ sở hữu mô hình đảm bảo rằng hệ thống của họ an toàn để sử dụng trong các ngành có rủi ro cao.

Startup này hiện đang làm việc với hai công ty công nghệ lớn có kinh nghiệm trong việc bảo mật AI.

Meta trước đây đã xây dựng Purple Llama, một bộ công cụ được thiết kế để đảm bảo dòng mô hình AI Llama của họ được triển khai một cách an toàn. Trong khi đó, IBM là một trong những công ty công nghệ đã cam kết công bố các biện pháp an toàn mà họ đã thực hiện khi phát triển các mô hình nền tảng tại Hội nghị Thượng đỉnh An toàn AI gần đây ở Hàn Quốc.

Meta và IBM là các thành viên sáng lập của Liên minh AI, một nhóm ngành công nghiệp nhằm thúc đẩy nghiên cứu AI mở và có trách nhiệm. HydroX cũng đã tham gia và sẽ đóng góp các nguồn lực đánh giá của mình trong khi làm việc cùng các tổ chức thành viên khác.

"Thông qua công việc và các cuộc trò chuyện của chúng tôi với phần còn lại của ngành công nghiệp, chúng tôi nhận thấy rằng việc giải quyết các mối quan tâm về an toàn và bảo mật AI là một thách thức phức tạp, trong khi sự hợp tác là chìa khóa để khai thác sức mạnh thực sự của công nghệ biến đổi này," Bian cho biết. "Đây là một khoảnh khắc tự hào cho tất cả chúng tôi tại HydroX AI và chúng tôi đang tràn đầy năng lượng cho những gì sắp tới."

Các Thành Viên Khác Của Liên Minh AI Bao Gồm:

• AMD
• Intel
• Hugging Face
• Các trường đại học như Cornell và Yale.

Việc hợp tác này không chỉ giúp tăng cường an toàn cho các mô hình AI mà còn mở ra nhiều cơ hội mới cho các ngành công nghiệp, đặc biệt là trong bối cảnh các quy định ngày càng nghiêm ngặt và yêu cầu cao về đạo đức trong sử dụng AI.