HydroX AI, một startup đang phát triển các công cụ đảm bảo an toàn cho mô hình AI, vừa thông báo hợp tác với Meta và IBM để đánh giá các mô hình AI tạo sinh được triển khai trong các ngành công nghiệp có rủi ro cao như y tế, tài chính và pháp lý. HydroX được thành lập vào năm 2023 tại San Jose, California, với sứ mệnh xây dựng nền tảng kiểm thử các mô hình ngôn ngữ, giúp doanh nghiệp xác định tính an toàn và bảo mật của các mô hình AI trước khi chúng được áp dụng vào các ngành nghề cụ thể.
Trong lần hợp tác này, HydroX sẽ cùng với Meta và IBM phát triển các bộ công cụ và bài kiểm tra chuẩn mực để đảm bảo các mô hình ngôn ngữ lớn (LLM) đáp ứng đầy đủ các tiêu chuẩn về an toàn và tuân thủ quy định nghiêm ngặt trước khi được triển khai trong các lĩnh vực quan trọng.
Victor Bian, Giám đốc nhân sự của HydroX AI, cho biết: "Mỗi lĩnh vực có những thách thức và yêu cầu riêng biệt, bao gồm độ chính xác và an toàn, tuân thủ các tiêu chuẩn pháp lý khắt khe và cân nhắc về đạo đức. Việc đánh giá các mô hình ngôn ngữ lớn trong những bối cảnh này đảm bảo chúng an toàn, hiệu quả và tuân thủ đạo đức cho các ứng dụng trong từng ngành, từ đó xây dựng niềm tin và thúc đẩy sự chấp nhận rộng rãi trong các ngành mà sai sót có thể gây ra hậu quả nghiêm trọng."
Nhu Cầu Kiểm Tra An Toàn Trong Các Ngành Rủi Ro Cao
Trong bối cảnh hiện tại, các mô hình AI tạo sinh ngày càng được sử dụng nhiều trong các ngành nghề nhạy cảm như y tế, tài chính và pháp lý. Những ngành này đòi hỏi mức độ chính xác và an toàn cao hơn, vì những sai sót trong dự đoán hoặc xử lý thông tin có thể dẫn đến những thiệt hại nặng nề về cả vật chất lẫn tinh thần. Tuy nhiên, HydroX cho rằng hiện vẫn chưa có đủ các công cụ và phương pháp kiểm tra để đảm bảo các mô hình AI đáp ứng đủ tiêu chuẩn an toàn trước khi được triển khai.
Việc hợp tác với Meta và IBM cho phép HydroX tận dụng kinh nghiệm của hai tập đoàn lớn trong lĩnh vực công nghệ AI an toàn. Meta đã từng phát triển Purple Llama, một bộ công cụ để đảm bảo các mô hình Llama của họ được triển khai một cách an toàn. IBM cũng đã cam kết công bố các biện pháp an toàn mà họ đã thực hiện trong quá trình phát triển mô hình nền tảng của mình tại hội nghị AI Safety Summit gần đây ở Hàn Quốc.
Cả Meta và IBM đều là thành viên sáng lập của AI Alliance, một tổ chức ngành nhằm thúc đẩy nghiên cứu AI mở và có trách nhiệm. HydroX cũng đã gia nhập liên minh này và sẽ đóng góp các tài nguyên đánh giá của mình, cùng với các thành viên khác như AMD, Intel, Hugging Face và các trường đại học hàng đầu như Cornell và Yale.
Hợp Tác Vì An Toàn AI Toàn Diện
Thông qua sự hợp tác với Meta và IBM, HydroX AI hy vọng sẽ đóng góp đáng kể vào việc đảm bảo các mô hình AI được sử dụng trong các ngành công nghiệp rủi ro cao là an toàn, tuân thủ đạo đức và pháp luật. Hợp tác này không chỉ giúp nâng cao hiệu quả của việc kiểm tra an toàn mà còn tạo ra sự tin cậy trong việc triển khai AI trong các môi trường yêu cầu cao về độ chính xác và bảo mật.
Victor Bian chia sẻ thêm: "Thông qua công việc và những cuộc đối thoại với các đối tác trong ngành, chúng tôi nhận ra rằng việc giải quyết các mối quan ngại về an toàn và bảo mật AI là một thách thức phức tạp, và sự hợp tác chính là chìa khóa để khai mở sức mạnh thực sự của công nghệ này."
Những Gương Mặt Tiêu Biểu Trong AI Alliance
AI Alliance bao gồm nhiều tên tuổi lớn trong ngành công nghệ, bên cạnh Meta và IBM, còn có các thành viên như AMD, Intel và Hugging Face. Các tổ chức giáo dục hàng đầu thế giới như Đại học Cornell và Đại học Yale cũng đã gia nhập liên minh này, nhằm thúc đẩy các nghiên cứu AI mở và có trách nhiệm.
Sự ra đời của AI Alliance và việc HydroX tham gia là một bước tiến quan trọng, không chỉ trong việc đảm bảo an toàn cho AI mà còn giúp thúc đẩy sự phát triển bền vững của AI trong nhiều ngành công nghiệp. HydroX hy vọng rằng với sự hợp tác này, họ sẽ tiếp tục cung cấp các công cụ kiểm tra mạnh mẽ hơn để hỗ trợ các doanh nghiệp triển khai mô hình AI một cách an toàn, từ đó giúp giảm thiểu rủi ro và tối ưu hóa hiệu suất.
Trong bối cảnh AI ngày càng trở nên phổ biến và quan trọng đối với các ngành công nghiệp, việc đảm bảo an toàn và tuân thủ đạo đức khi sử dụng công nghệ này là một trong những yếu tố then chốt để xây dựng niềm tin với người dùng và thúc đẩy sự phát triển bền vững.