Công ty cung cấp công cụ bảo mật AI có trụ sở tại Seattle, Protect AI, đã công bố việc mua lại SydeLabs, một công ty có trụ sở tại Bangalore chuyên phát triển công nghệ mô phỏng tự động cho các hệ thống AI.
SydeLabs, được thành lập chưa đầy một năm bởi các cựu nhân viên Google, đã phát triển SydeBox, một công cụ sử dụng AI có khả năng tự động hóa quy trình red teaming. Quy trình red teaming là khi các nhà phát triển và chuyên gia bảo mật thử nghiệm các mô hình AI bằng cách khai thác những điểm yếu trong kiến trúc bảo mật của chúng.
Việc tự động hóa quy trình này giúp khách hàng của SydeLabs dễ dàng hơn trong việc xác định và giảm thiểu các lỗ hổng trong các hệ thống AI tạo sinh của họ, bao gồm các mô hình ngôn ngữ lớn.
Protect AI đã tiếp quản công ty này, với SydeLabs dự kiến sẽ bổ sung vào các đội ngũ của Protect AI tại Seattle và Berlin. Ian Swanson, Giám đốc điều hành của Protect AI, cho biết: “Protect AI liên tục tìm kiếm các sản phẩm mới để thêm vào nền tảng quản lý tư thế bảo mật AI của chúng tôi, giúp khách hàng xây dựng một thế giới AI an toàn hơn. Việc mua lại SydeLabs mở rộng nền tảng Protect AI với các khả năng red teaming không đối thủ và ngay lập tức cung cấp cho khách hàng khả năng kiểm tra, đo lường và củng cố các mô hình ngôn ngữ lớn của họ trước các rủi ro bảo mật.”
Nền tảng SydeBox của SydeLabs sẽ được tích hợp vào nền tảng AI của Protect dưới thương hiệu mới là Protect AI Recon.
Người dùng Recon có thể tận dụng các công cụ để xác định các lỗ hổng trong các mô hình và hệ thống AI cấp doanh nghiệp. Nền tảng này sẽ cung cấp tích hợp không mã, quét không phụ thuộc vào mô hình và phân tích chi tiết các mối đe dọa từ các mặt trận tấn công như tấn công tiêm dữ liệu và thao tác đầu vào, cho phép người dùng doanh nghiệp đánh giá hiệu quả bảo mật và an toàn của các hệ thống AI tạo sinh.
Ruchir Patwa, đồng sáng lập SydeLabs, cho biết: “Sự kết hợp giữa SydeLabs’ SydeBox và nền tảng của Protect AI mang đến cho khách hàng giải pháp phòng thủ toàn diện cho việc xây dựng, quản lý, kiểm tra, triển khai và giám sát các mô hình ngôn ngữ lớn. Chúng tôi không thể hào hứng hơn với việc gia nhập sứ mệnh của Protect AI và triển vọng về những gì chúng tôi có thể đạt được trong việc giúp các công ty ở mọi quy mô áp dụng và triển khai các mô hình ngôn ngữ lớn và ứng dụng AI an toàn hơn.”
