Wikipedia cấm nội dung do AI tạo ra trong các bài viết theo chính sách chỉnh sửa mới

Tóm tắt

• Wikipedia hiện cấm các biên tập viên sử dụng các mô hình ngôn ngữ lớn để tạo hoặc viết lại nội dung bài viết.
• Chính sách vẫn cho phép chỉnh sửa sao chép có hỗ trợ AI trong phạm vi hạn chế nếu các biên tập viên xem xét kỹ các thay đổi và không giới thiệu nội dung mới.
• Quy định này phản ánh mối quan ngại ngày càng tăng về các hiện tượng ảo tưởng, nguồn giả mạo và độ chính xác trong văn bản do AI tạo ra.

Các biên tập viên của Wikipedia đã thực hiện các biện pháp hạn chế cách thức sử dụng trí tuệ nhân tạo trên nền tảng này, trong một cập nhật chính sách gần đây cấm sử dụng các mô hình ngôn ngữ lớn để viết hoặc viết lại bài viết. Hướng dẫn mới phản ánh mối quan ngại ngày càng tăng trong cộng đồng Wikipedia rằng văn bản do AI tạo ra có thể mâu thuẫn với các tiêu chuẩn của nền tảng, đặc biệt về khả năng xác thực và nguồn đáng tin cậy. “Văn bản do các mô hình ngôn ngữ lớn tạo ra thường vi phạm một số chính sách nội dung cốt lõi của Wikipedia,” bản cập nhật chính sách viết. “Vì lý do này, việc sử dụng LLM để tạo hoặc viết lại nội dung bài viết bị cấm, ngoại trừ các trường hợp dưới đây.”

Chính sách vẫn cho phép sử dụng hạn chế các công cụ AI, bao gồm đề xuất chỉnh sửa cơ bản cho chính tác phẩm của biên tập viên, miễn là hệ thống không giới thiệu thông tin mới. Tuy nhiên, các biên tập viên được khuyên nên xem xét kỹ các đề xuất đó.  Trong khi chính sách mới không đề cập đến hình phạt cho việc sử dụng nội dung do AI tạo ra, theo hướng dẫn của Wikipedia về việc tiết lộ, việc lặp lại hành vi sai có thể tạo thành “mẫu hành vi gây rối” và có thể dẫn đến việc bị chặn hoặc cấm. Wikipedia vẫn cung cấp cho các biên tập viên một con đường để khôi phục tài khoản sau quá trình kháng cáo. “Các lệnh cấm có thể được đảo ngược với sự đồng ý của quản trị viên đã ban hành lệnh cấm, hoặc do các quản trị viên khác can thiệp trong trường hợp lệnh cấm rõ ràng là không hợp lý, hoặc (rất hiếm) qua kháng cáo lên Ủy ban Trọng tài,” Wikipedia cho biết.

Theo Emily M. Bender, giáo sư ngôn ngữ học tại Đại học Washington, một số cách sử dụng mô hình ngôn ngữ trong các công cụ chỉnh sửa có thể hợp lý, nhưng việc xác định rõ ranh giới giữa chỉnh sửa và tạo nội dung có thể rất khó khăn. “Ví dụ, một trong những điều bạn có thể làm với mô hình ngôn ngữ là xây dựng một trình kiểm tra chính tả rất tốt,” Bender nói với Decrypt. “Tôi nghĩ hợp lý khi nói rằng chạy trình kiểm tra chính tả qua các chỉnh sửa là ổn. Và nếu bạn nâng cấp lên một cấp độ cao hơn, như kiểm tra ngữ pháp, điều đó cũng có thể chấp nhận được.” Bender cho biết thách thức xuất hiện khi hệ thống vượt ra ngoài việc sửa ngữ pháp và bắt đầu thay đổi hoặc tạo ra nội dung, lưu ý rằng các mô hình ngôn ngữ lớn thiếu trách nhiệm giải trình như các cộng tác viên con người mang lại cho các dự án kiến thức hợp tác. “Việc sử dụng các mô hình ngôn ngữ lớn để tạo ra văn bản tổng hợp là một đặc tính cơ bản của các hệ thống này, đó là không có trách nhiệm giải trình, không liên kết với những gì ai đó tin tưởng hoặc đứng sau,” cô nói. “Khi chúng ta nói, chúng ta dựa trên những gì chúng ta tin tưởng và chịu trách nhiệm, chứ không dựa trên một khái niệm khách quan về sự thật. Và điều đó không tồn tại đối với các mô hình ngôn ngữ lớn.” Bender cho biết việc sử dụng rộng rãi các chỉnh sửa do AI tạo ra cũng có thể ảnh hưởng đến uy tín của trang web. “Nếu mọi người thay vì làm việc cẩn thận, chỉ làm qua loa và tạo ra thứ trông giống như một chỉnh sửa hoặc bài viết của Wikipedia rồi đăng lên, thì điều đó làm giảm giá trị và uy tín chung của trang,” cô nói. Joseph Reagle, phó giáo sư nghiên cứu truyền thông tại Đại học Northeastern, người nghiên cứu về văn hóa và quản trị của Wikipedia, cho biết phản ứng của cộng đồng phản ánh những mối quan ngại lâu dài về độ chính xác và nguồn trích dẫn. “Wikipedia rất cảnh giác với văn bản do AI tạo ra,” Reagle nói với Decrypt. “Họ coi trọng các mô tả chính xác về những gì các nguồn đáng tin cậy nói về một chủ đề. AI đã gặp nhiều hạn chế nghiêm trọng trong lĩnh vực này, như các tuyên bố ‘ảo tưởng’ và nguồn giả mạo.”

Reagle nói rằng các chính sách cốt lõi của Wikipedia cũng hình thành cách các biên tập viên nhìn nhận các công cụ AI, lưu ý rằng nhiều mô hình ngôn ngữ lớn đã được huấn luyện dựa trên nội dung của Wikipedia. Tháng 10, Quỹ Wikimedia cho biết lượt truy cập của con người vào Wikipedia giảm khoảng 8% so với cùng kỳ năm trước khi các công cụ tìm kiếm và chatbot ngày càng cung cấp câu trả lời trực tiếp trên nền tảng của họ, thay vì hướng người dùng đến trang. Tháng 1, Quỹ Wikimedia công bố các thỏa thuận với các công ty AI, bao gồm Microsoft, Google, Amazon và Meta, cho phép họ sử dụng nội dung của Wikipedia qua sản phẩm Doanh nghiệp của quỹ, một dịch vụ thương mại dành cho việc tái sử dụng quy mô lớn nội dung của nó. “Mặc dù việc sử dụng nội dung của Wikipedia được phép theo giấy phép của Wikipedia, nhưng vẫn còn một số phản đối trong cộng đồng Wikipedia về các dịch vụ lấy nội dung của cộng đồng rồi đặt ra những yêu cầu không mong muốn đối với cộng đồng đó để xử lý lượng lớn nội dung AI,” Reagle nói. Dù cấm sử dụng LLMs, Wikipedia vẫn cho phép các công cụ AI dịch các bài viết từ các phiên bản ngôn ngữ khác sang tiếng Anh, miễn là các biên tập viên xác minh bản gốc. Chính sách cũng cảnh báo các biên tập viên không dựa vào phong cách viết để nhận diện nội dung do AI tạo ra, mà thay vào đó tập trung vào việc xem xét liệu nội dung có phù hợp với các chính sách cốt lõi của Wikipedia và lịch sử chỉnh sửa của người đóng góp hay không. “Một số biên tập viên có thể có phong cách viết tương tự LLMs,” bản cập nhật nói. “Cần có nhiều bằng chứng hơn là chỉ dựa vào phong cách hoặc đặc điểm ngôn ngữ để biện minh cho các hình phạt, và tốt nhất là xem xét sự phù hợp của văn bản với các chính sách nội dung cốt lõi và các chỉnh sửa gần đây của người đó.”