Patricio Molina, CEO của Belo – một công ty tư vấn tài chính uy tín tại Tây Ban Nha – vừa chia sẻ một trải nghiệm kinh hoàng trên mạng xã hội X. Ông cho biết, trợ lý ảo Claude AI đã đột ngột xóa sổ toàn bộ tổ chức của họ với hơn 60 tài khoản nhân viên đang hoạt động hợp pháp. Điều đáng nói là phía Anthropic không hề đưa ra bất kỳ lời giải thích hay thông báo vi phạm cụ thể nào trước đó.
Molina bày tỏ sự phẫn nộ về cách hành xử của "gã khổng lồ" AI: "Cách duy nhất để kháng cáo quyết định là điền vào một cái Google Form? Trải nghiệm người dùng và dịch vụ khách hàng thực sự quá tệ". Bức thư phản hồi tự động từ Anthropic hoàn toàn trống rỗng về thông tin, không cho biết quy tắc nào đã bị vi phạm, khiến doanh nghiệp rơi vào thế bị động hoàn toàn.
Sự cố của Belo đã làm bùng nổ làn sóng chỉ trích nhắm vào Anthropic trên các diễn đàn công nghệ. Nhiều người dùng cho biết họ cũng rơi vào tình trạng tương tự: tài khoản bị khóa vô lý và đơn khiếu nại qua Google Form nằm chờ hàng tháng trời không được giải quyết.
Logo ứng dụng AI Anthropic Claude trên điện thoại. Ảnh: Lưu Quý
Các chuyên gia an ninh mạng nhận định, đây là bài học xương máu cho bất kỳ tổ chức nào đang dựa dẫm quá nhiều vào các nền tảng như Claude hay ChatGPT của OpenAI. Để giảm thiểu rủi ro, các doanh nghiệp được khuyến cáo nên:
Sử dụng đa nền tảng: Kết hợp đồng thời nhiều mô hình AI khác nhau để dự phòng.
Chạy mô hình cục bộ: Tự vận hành các mô hình ngôn ngữ lớn (LLM) trên máy tính nội bộ để nắm quyền kiểm soát dữ liệu và dịch vụ.
Xây dựng quy trình độc lập: Đảm bảo các tác vụ cốt lõi không bị tê liệt hoàn toàn nếu nhà cung cấp AI gặp sự cố.
Dù quyền truy cập của Belo đã được khôi phục sau 15 giờ gián đoạn (nhiều khả năng do áp lực từ dư luận), Anthropic vẫn giữ thái độ im lặng. Anthropic được thành lập vào năm 2021 bởi những cựu nhân sự chủ chốt của OpenAI với mục tiêu xây dựng "AI an toàn và có thể kiểm soát". Tuy nhiên, những vụ việc khóa tài khoản hàng loạt như trên đang làm lung lay niềm tin về sự "đáng tin cậy" mà họ quảng bá.
Thêm vào đó, cuối tháng 2 vừa qua, Lầu Năm Góc (Mỹ) đã gây sốc khi đưa Anthropic vào danh sách "mối đe dọa với chuỗi cung ứng" và yêu cầu các cơ quan liên bang ngừng sử dụng AI này. Sự kết hợp giữa các lệnh cấm vận hành chính và sự yếu kém trong dịch vụ khách hàng đang đặt ra dấu hỏi lớn về tương lai của dòng AI Claude trong mắt các doanh nghiệp toàn cầu.