Microsoft vừa giới thiệu một công cụ mới có khả năng sửa lỗi "ảo giác" của trí tuệ nhân tạo (AI) mang tên Correction, nhằm tự động phát hiện và chỉnh sửa các thông tin sai lệch được tạo ra bởi AI. Đây là nỗ lực mới nhất của hãng trong việc cải thiện độ tin cậy của nội dung do AI sinh ra, vốn đã gặp nhiều chỉ trích về tính chính xác.

Công cụ Correction này nằm trong dịch vụ Azure AI Content Safety API của Microsoft, hiện đang trong giai đoạn thử nghiệm. Nó có thể hoạt động với bất kỳ mô hình AI nào tạo ra văn bản, bao gồm cả Llama của Meta và GPT-4 của OpenAI. Về cách thức hoạt động, Correction đầu tiên sẽ đánh dấu những đoạn văn bản mà nó nghi ngờ có thể sai hoặc gây hiểu lầm, sau đó tiến hành kiểm tra chéo với một nguồn thông tin chính xác, ví dụ như các bản ghi hoặc tài liệu do người dùng cung cấp. Nếu phát hiện ra sai sót, hệ thống sẽ sử dụng một mô hình khác để điều chỉnh các lỗi đó, đảm bảo văn bản khớp với nguồn thông tin đã xác định.

Theo Microsoft, công cụ này được thiết kế nhằm hỗ trợ các nhà phát triển và người dùng AI trong những lĩnh vực yêu cầu độ chính xác cao như y tế. Một đại diện của Microsoft cho biết, "Chúng tôi hy vọng tính năng mới này sẽ giúp các nhà phát triển AI và những người sử dụng công cụ tạo văn bản tự động trong các lĩnh vực như y tế, nơi mà độ chính xác trong phản hồi là yếu tố then chốt."

Tuy nhiên, một số chuyên gia vẫn tỏ ra hoài nghi về hiệu quả thực sự của công cụ này. Os Keyes, một nghiên cứu sinh tiến sĩ tại Đại học Washington, chuyên nghiên cứu về tác động đạo đức của công nghệ, cho rằng "Cố gắng loại bỏ lỗi ảo giác ra khỏi AI giống như cố gắng loại bỏ hydro khỏi nước - nó là một phần cơ bản của cách công nghệ này hoạt động." Theo Keyes, bản chất của các mô hình AI hiện tại là hệ thống thống kê, dự đoán từ ngữ dựa trên những gì đã học từ dữ liệu huấn luyện, chứ không thực sự "hiểu" điều gì là đúng hay sai. Do đó, dù Correction có thể giảm bớt một số vấn đề, nó cũng có khả năng tạo ra các lỗi mới.

Mike Cook, một chuyên gia nghiên cứu về AI tại Đại học Queen Mary, cũng chia sẻ sự thận trọng này. Ông lo ngại rằng công cụ Correction có thể làm gia tăng vấn đề về lòng tin của người dùng đối với AI. "Microsoft, giống như OpenAI và Google, đang tạo ra tình huống mà các mô hình AI được sử dụng trong những trường hợp mà chúng thường xuyên mắc lỗi. Việc Correction có thể bắt một số lỗi không có nghĩa là chúng ta có thể hoàn toàn tin tưởng vào AI. Sự an toàn không nằm ở 99% độ chính xác, mà ở 1% những sai sót chưa được phát hiện."

Điều này cũng làm dấy lên lo ngại rằng các công cụ như Correction có thể khiến người dùng trở nên chủ quan, tin tưởng vào độ chính xác của AI nhiều hơn mức thực tế. Dù Correction có thể giảm tỷ lệ sai sót từ 90% xuống còn 99%, Cook nhận định rằng "vấn đề không nằm ở con số 9% lỗi đã được phát hiện, mà ở 1% những lỗi chưa bị phát hiện."

Thêm vào đó, Cook cũng chỉ ra khía cạnh kinh doanh của việc Microsoft tung ra Correction. Công cụ này được cung cấp miễn phí trong giới hạn 5.000 bản ghi văn bản mỗi tháng, nhưng sau đó, người dùng sẽ phải trả 38 xu cho mỗi 1.000 bản ghi tiếp theo. Điều này có thể được xem là một bước đi chiến lược của Microsoft để thu hút người dùng vào hệ sinh thái AI của hãng.

Microsoft đang gặp áp lực lớn từ phía khách hàng và nhà đầu tư trong việc chứng minh giá trị của các sản phẩm AI mà họ phát triển. Trong quý 2 năm nay, công ty đã chi gần 19 tỷ USD vào các chi phí liên quan đến AI, nhưng doanh thu từ mảng này vẫn chưa đạt kỳ vọng. Một số nhà phân tích phố Wall đã hạ cấp cổ phiếu của Microsoft, bày tỏ lo ngại về chiến lược AI dài hạn của công ty.

Theo một báo cáo từ The Information, nhiều khách hàng sớm của nền tảng AI chủ lực của Microsoft, Microsoft 365 Copilot, đã tạm dừng triển khai do lo ngại về hiệu suất và chi phí. Một ví dụ điển hình là một khách hàng sử dụng Copilot cho các cuộc họp trên Microsoft Teams đã báo cáo rằng AI tự ý tạo ra danh sách người tham dự và thảo luận về những chủ đề không hề có trong cuộc họp.

Những lo ngại về độ chính xác và tiềm năng "ảo giác" hiện đang là một trong những vấn đề lớn nhất mà doanh nghiệp đối mặt khi thử nghiệm các công cụ AI, theo một khảo sát của KPMG.

Tóm lại, dù Correction có thể là một bước tiến trong việc giảm thiểu các lỗi của AI, các chuyên gia vẫn khuyến cáo rằng chúng ta cần thận trọng trong việc sử dụng công cụ này, đặc biệt là trong những lĩnh vực yêu cầu độ chính xác cao. Sự phát triển của AI đang tiến xa hơn so với giai đoạn mà nó đáng lẽ nên dừng lại để nghiên cứu và cải thiện, và các công ty công nghệ lớn như Microsoft đang chịu trách nhiệm đảm bảo rằng công nghệ này an toàn trước khi triển khai rộng rãi trong nhiều ngành công nghiệp.