Trong một lần theo dõi phản hồi từ các trợ lý AI của công ty Lindy, Flo Crivello, người sáng lập Lindy, đã phát hiện một điều bất thường. Một khách hàng mới đã yêu cầu trợ lý AI của Lindy cung cấp một video hướng dẫn để hiểu rõ hơn về cách sử dụng nền tảng, và trợ lý AI đã đáp ứng yêu cầu này. Tuy nhiên, điều mà Crivello phát hiện là không có video hướng dẫn nào cả.

Chúng tôi đã kiểm tra và nhận thấy video mà AI gửi cho khách hàng là MV của bản hit dance-pop năm 1987 "Never Gonna Give You Up" của Rick Astley. Đúng vậy, khách hàng đã bị "Rickrolled" – một trò đùa trực tuyến phổ biến – bởi một AI.

Sự Phát Triển Của Rickrolling

Rickrolling là một trò đùa tinh nghịch đã tồn tại hơn 15 năm. Một trong những sự kiện làm nổi bật trò đùa này là khi Rockstar Games phát hành trailer cho tựa game "Grand Theft Auto IV", trang web đã bị sập vì lượng truy cập quá lớn. Một người dùng 4chan đã chia sẻ liên kết dẫn đến video "Never Gonna Give You Up" thay vì trailer. Đến nay, video này đã thu hút hơn 1,5 tỷ lượt xem trên YouTube.

Tại Sao AI Lại Rickroll?

Theo Crivello, các mô hình ngôn ngữ lớn như ChatGPT, mà Lindy sử dụng, hoạt động bằng cách dự đoán chuỗi văn bản tiếp theo có khả năng cao nhất. Khi AI được yêu cầu gửi một video, nó có khả năng cao sẽ gợi ý liên kết đến YouTube. Và điều gì xảy ra tiếp theo? Video của Rick Astley.

Dù sự cố này chỉ xảy ra hai lần trong hàng triệu phản hồi, nó vẫn cần được khắc phục.

Khắc Phục Và Học Hỏi Từ Sự Cố

Khắc phục sự cố này không quá phức tạp. Crivello cho biết, chỉ cần thêm một dòng trong hệ thống của Lindy – yêu cầu AI không được "Rickroll" khách hàng – đã giải quyết vấn đề. Điều này cho thấy, trong thời đại AI hiện nay, việc sửa lỗi trở nên đơn giản hơn nhiều.

Trước đây, khi các trợ lý AI của Lindy không thể hoàn thành yêu cầu của người dùng, chúng thường thông báo rằng đang làm việc nhưng không bao giờ hoàn thành nhiệm vụ. Nhưng với sự ra mắt của GPT-4, việc thêm một hướng dẫn đơn giản như "Nếu người dùng yêu cầu điều gì đó mà bạn không thể thực hiện, chỉ cần thông báo rằng bạn không thể làm được" đã giải quyết được vấn đề này.

Tương Lai Của AI Và Internet

Sự cố Rickrolling của Lindy làm nổi bật cách mà văn hóa internet có thể ảnh hưởng đến các mô hình AI, khi chúng được đào tạo trên nhiều dữ liệu từ web. Điều này đặt ra câu hỏi về việc liệu các yếu tố văn hóa mạng có thể ảnh hưởng đến hành vi của AI như thế nào trong tương lai.

Dù có sự cố nhỏ, tin vui là khách hàng bị Rickrolled có thể không nhận ra điều đó. Crivello cho biết: "Chúng tôi đã ngay lập tức gửi liên kết đúng đến video cho khách hàng, và khách hàng không có phản hồi gì về liên kết đầu tiên."

Nhìn chung, sự cố này không chỉ là một câu chuyện thú vị mà còn là bài học về cách các công ty có thể tiếp tục cải thiện và tối ưu hóa các hệ thống AI của mình để phục vụ người dùng tốt hơn.