Стоп, машина

По мере того как растет тревога по поводу «пузыря ИИ», вероятен эффект домино: сообщества на других открытых платформах и в социальных сетях смогут сами решать, стоит ли ИИ столько писать. Иван Коновалов в статье для сайта «Евразия сегодня» разбирался, почему редакторы «Википедии» отказались от ChatGPT.

После месяцев ожесточенных дебатов и предыдущих попыток ограничить использование больших языковых моделей в «Википедии» 20 марта настал день X — решение пришло, откуда не ждали. Редакторы портала сами приняли новую редакционную политику, которая запрещает использовать ИИ для создания статей онлайн-энциклопедии.



«Текст, сгенерированный большими языковыми моделями (LLM), часто нарушает несколько основных политик содержания "Википедии", — говорится в новой редакционной политике онлайн-энциклопедии. — По этой причине использование LLM для генерации или переписывания содержания статей запрещено, за исключением случаев, приведенных ниже».


«Требуется осторожность, потому что LLM могут выйти за рамки того, о чём вы их просите, и изменить смысл текста так, что он не будет подтверждён указанными источниками, — говорится в новой политике. — Использование LLM для перевода статей из "Википедии" на другом языке в английскую версию должно следовать рекомендациям, изложенным в Wikipedia:LLM-assisted translation».

Редакторы начали замечать, что некоторые из этих переводов вносят ошибки в статьи. Например, черновой перевод статьи о французской королевской семье Ла Бурбонне (Бурбоны) ссылался на книгу и конкретный номер страницы при обсуждении происхождения семьи. Редактор «Википедии» Ильяс Леблё, известный на портале как Chaotic Enby, проверил этот источник и обнаружил, что на указанной странице этой книги «вообще нет информации о семье Бурбонов».

Именно он предложил новое руководство по оформлению статей на портале. Однако Леблё считает, что его политика вряд ли продержится долго, потому что сообщество редакторов разделилось по вопросу использования ИИ. «Настроение менялось, и те, кто сохранял осторожный оптимизм, начали испытывать настоящую тревогу», — заявил Леблё.

«Несколько месяцев назад было принято гораздо более упрощённое руководство, которое только запрещало создание совершенно новых статей с помощью LLM, — разъясняет Леблё. — Последующее предложение переформулировать его во что-то более существенное не прошло, но было отмечено, что существует "консенсус в пользу более четких руководящих принципов по образцу этого проекта". В последние месяцы всё больше административных отчётов было сосредоточено на проблемах, связанных с LLM».

Политика была написана с помощью WikiProject AI Cleanup — группы редакторов «Википедии», которые занимаются поиском и удалением ошибок, сгенерированных ИИ, на сайте. Группа появилась еще в 2024 году в целях защиты одного из крупнейших в мире хранилищ информации от того же рода вводящей в заблуждение информации, сгенерированной ИИ, которая заполонила результаты поиска Google, книги и академические журналы.

Ни для кого не является секретом, что в интернете стало больше «неестественных» текстов, которые явно указывают на то, что они сгенерированы ИИ. Ильяс Леблё является одним из основателей WikiProject AI Cleanup. По его словам, обнаружение некоторых распространённых характерных фраз ИИ позволило группе быстрее выявлять самые вопиющие примеры сгенерированных статей. «Мы захотели быстро формализовать их в организованный проект, чтобы собрать наши находки и методы в одном месте», — сказал он.

WikiProject AI Cleanup находит сгенерированный ИИ-контент на Wikipedia теми же методами, которые использовали для поиска такого контента в научных журналах, а именно: поиском фраз, обычно используемых ChatGPT.



В последнее время редакторы стали чаще сталкиваться со статьями или правками в них, сгенерированными ИИ. В результате они решили внести некоторые незначительные изменения в свои рекомендации, например — упростили процесс удаления статей, созданных ИИ. Тем не менее позиция не заключается в том, чтобы на корню исключить работу с большими языковыми моделями. Напротив, вводить жесткие запреты на ИИ не нужно, поскольку портал уже использует некоторые формы автоматизации контента и ИИ-инструменты могут быть полезны редакторам в будущем.

Новая редакционная политика не запрещает использование других автоматизированных инструментов, которые уже применяются или будут внедрены в будущем, но она демонстрирует, что сообщество «Википедии» уже не так оптимистично оценивает пользу контента, созданного ИИ, и даже занимает позицию против него.

«В контексте это имеет последствия далеко за пределами энциклопедии, — сказал Леблё. — Тот же поток контента, сгенерированного ИИ, наблюдается от социальных сетей до проектов с открытым исходным кодом». Немецкое подразделение онлайн-энциклопедии также недавно ввело аналогичную редакционную политику в отношении ИИ.

---

Иллюстрация: «За рубежом», Leonardo.ai