OpenAI hiện đang xem xét một công cụ mới nhằm phát hiện văn bản được tạo ra bởi mô hình ChatGPT của mình, trong bối cảnh lo ngại về tính trung thực học thuật và việc sử dụng AI không đúng cách. Theo thông tin từ The Wall Street Journal, OpenAI đang cân nhắc liệu có nên công bố công cụ này hay không. Công cụ này sử dụng phương pháp đánh dấu văn bản để nhận diện nội dung do AI tạo ra.
Trong một tuyên bố gần đây, OpenAI xác nhận rằng họ đang nghiên cứu phương pháp đánh dấu văn bản, nhưng nhấn mạnh rằng họ đang tiếp cận một cách cẩn thận do các phức tạp liên quan. Công ty quan tâm đến những tác động có thể xảy ra ngoài hệ sinh thái của riêng mình. Phương pháp đánh dấu văn bản này bao gồm việc thay đổi nhẹ cách ChatGPT tạo ra văn bản, chèn một dấu hiệu vô hình mà công cụ khác có thể phát hiện được. Mục tiêu của phương pháp này là nhận diện văn bản được tạo ra bởi ChatGPT, phân biệt nó với đầu ra từ các mô hình AI khác.
Tuy nhiên, hiệu quả của phương pháp này đang được xem xét. Công cụ phát hiện văn bản AI trước đó của OpenAI, được ra mắt năm ngoái, đã bị ngừng hoạt động do tỷ lệ chính xác thấp. Kỹ thuật đánh dấu văn bản mới đã cho thấy triển vọng trong việc phát hiện văn bản do AI tạo ra và chống lại việc thay đổi cục bộ, chẳng hạn như việc viết lại theo cách khác. Tuy nhiên, nó vẫn dễ bị đánh lừa bởi các chiến lược tránh né tinh vi hơn, bao gồm việc sử dụng hệ thống dịch thuật và các mô hình sinh khác để chỉnh sửa văn bản.
Lo ngại cũng đã được nêu ra về những tác động tiêu cực có thể xảy ra đối với những người nói tiếng Anh không phải là ngôn ngữ mẹ đẻ. Hệ thống đánh dấu văn bản có thể vô tình gán nhãn tiêu cực đối với việc sử dụng AI như một công cụ viết cho những người không phải là người nói tiếng Anh bản ngữ, điều này làm nổi bật sự cần thiết phải có một phương pháp cân bằng và bao gồm.
Quá trình ra quyết định của OpenAI phản ánh một thách thức rộng lớn hơn trong lĩnh vực phát hiện AI: tạo ra các công cụ vừa hiệu quả vừa công bằng. Khi công nghệ tiếp tục phát triển, các chiến lược đảm bảo việc sử dụng đạo đức và giảm thiểu việc lạm dụng tiềm năng cũng phải được cải thiện.
