Вікіпедія заборонила штучно згенерований штучним інтелектом текст у статтях відповідно до нової редакційної політики

Коротко

• Вікіпедія тепер забороняє редакторам використовувати великі мовні моделі для створення або переписування статей.
• Політика все ще дозволяє обмежене використання ШІ для допоміжного редагування за умови, що редактори перевіряють зміни і не додають новий контент.
• Це правило відображає зростаючу стурбованість щодо галюцинацій, сфабрикованих джерел і точності в текстах, створених ШІ.

Редактори Вікіпедії ввели обмеження щодо використання штучного інтелекту на платформі, у новій політиці заборонили використання великих мовних моделей для написання або переписування статей. Нова рекомендація відображає зростаючу занепокоєність спільноти Вікіпедії тим, що тексти, створені ШІ, можуть суперечити стандартам платформи, зокрема щодо перевірності та надійності джерел. “Тексти, створені великими мовними моделями, часто порушують кілька основних політик Вікіпедії,” йдеться у оновленій політиці. “З цієї причини використання LLM для створення або переписування статей заборонено, за винятком випадків, наведених нижче.”

Політика все ще дозволяє обмежене використання інструментів ШІ, зокрема пропонування базових правок до власних текстів редактора, за умови, що система не вводить нову інформацію. Однак редакторам рекомендується ретельно перевіряти такі пропозиції.  Хоча нова політика не згадує про покарання за використання контенту, створеного ШІ, згідно з керівництвом Вікіпедії щодо розкриття, повторне зловживання може сформувати “патерн руйнівного редагування” і призвести до блокування або заборони. Вікіпедія надає редакторам можливість відновити свої акаунти через процес апеляції. “Блокування можна скасувати за згодою адміністратора, який його наклав, або за рішенням інших адміністраторів у випадку, якщо блок був явно необґрунтованим, або (у дуже рідкісних випадках) за апеляцією до Арбітражного комітету,” повідомила Вікіпедія.

За словами Емілі М. Бендер, професора лінгвістики Університету Вашингтону, деякі застосування мовних моделей у редакторських інструментах можуть бути цілком виправданими, але чітке розмежування між редагуванням і генерацією тексту може бути складним. “Наприклад, одна з можливостей — створити дуже хороший орфографічний перевірник,” сказала Бендер у інтерв’ю Decrypt. “Я вважаю цілком допустимим запускати орфографічний перевірник над правками. А якщо ви використовуєте більш високий рівень — граматичний перевірник, це також може бути допустимим.” Бендер зазначила, що проблема виникає, коли системи виходять за межі корекції граматики і починають змінювати або генерувати контент, наголошуючи, що великі мовні моделі позбавлені тієї відповідальності, яку несуть людські учасники у спільних проектах знань. “Використання великих мовних моделей для створення синтетичного тексту — це фундаментальна властивість цих систем, що відсутня у них відповідальність, зв’язок із тим, у що вірить або за що відповідає людина,” сказала вона. “Ми говоримо, базуючись на тому, у що віримо і за що несемо відповідальність, а не на об’єктивній істині. І цього у великих мовних моделях немає.” Бендер також зазначила, що широке використання редагувань, створених ШІ, може негативно вплинути на репутацію сайту. “Якщо люди просто шукають швидких шляхів і створюють щось, що виглядає як редагування або стаття Вікіпедії і вставляють це туди, це знижує загальну цінність і репутацію ресурсу,” сказала вона. Йозеф Рагл, доцент кафедри комунікацій у Північно-Східному університеті, який досліджує культуру та управління Вікіпедією, зазначив, що реакція спільноти відображає тривалі занепокоєння щодо точності та джерел. “Вікіпедія насторожено ставиться до текстів, створених ШІ,” сказав Рагл у Decrypt. “Вони серйозно ставляться до точних характеристик того, що надійні джерела стверджують про тему. ШІ має серйозні обмеження у цьому плані, наприклад, ‘галюцинації’ та сфабриковані джерела.”

Рагл зазначив, що основні політики Вікіпедії також формують ставлення редакторів до інструментів ШІ, зокрема багато великих мовних моделей тренувалися на контенті Вікіпедії. У жовтні Фонд Вікімедіа повідомив, що кількість людських відвідувань Вікіпедії зменшилася приблизно на 8% у рік, оскільки пошукові системи та чатботи дедалі частіше надають відповіді безпосередньо на своїх платформах, а не перенаправляють користувачів на сайт. У січні Фонд Вікімедіа оголосив про угоди з компаніями ШІ, зокрема Microsoft, Google, Amazon і Meta, що дозволяє їм використовувати матеріали Вікіпедії через їхній Enterprise — комерційний сервіс для масштабного повторного використання контенту. “Хоча використання контенту Вікіпедії дозволено ліцензіями Вікіпедії, все ж існує певна антипатія серед вікіпедистів до сервісів, які привласнюють контент спільноти і нав’язують цим спільнотам непотрібні вимоги щодо обробки надлишкового ШІ-матеріалу,” сказав Рагл. Незважаючи на заборону використання LLM, Вікіпедія дозволяє використовувати інструменти ШІ для перекладу статей з інших мовних версій англійською, за умови, що редактори перевіряють оригінальний текст. Політика також попереджає редакторів не покладатися лише на стиль написання для визначення контенту, створеного ШІ, і радить зосередитися на відповідності матеріалу основним політикам Вікіпедії та історії редагувань автора. “Деякі редактори можуть мати стиль письма, схожий на стиль LLM,” йдеться у оновленні. “Потрібно більше доказів, ніж просто стилістичні або лінгвістичні ознаки, щоб обґрунтувати санкції, і найкраще враховувати відповідність тексту основним політикам і недавнім редагуванням конкретного редактора.”