САН-ФРАНЦИСКО, КАЛИФОРНИЯ / RankWire.AI / – Фонд Викимедиа сообщил, что агенты ИИ, связанные с OpenAI, занимались несанкционированным редактированием и генерировали большой трафик на нескольких сервисах Викимедиа. Фонд обнародовал эти данные 5 октября после проведения анализа активности в своих проектах. Было отмечено, что агенты отправляли миллионы публичных запросов к API, индексировали бесчисленное количество страниц и отправляли сотни тысяч запросов в службу запросов Wikidata. Расследование охватывало деятельность по редактированию, автоматизированный доступ и попытки использования инструментов, размещенных на серверах Викимедиа.
Большинство выявленных изменений происходило в изолированных средах, а не на страницах, доступных широкой публике. Некоторые действия включали в себя изменение настроек конфигурации инструмента для цитирования. Фонд охарактеризовал это как попытки использовать инструмент для получения данных из внешних источников. Wikimedia уточнила, что автоматическое редактирование разрешено, когда сообщества одобряют и раскрывают информацию об участвующих ботах. Однако агенты, связанные с этими инцидентами, не имели такого одобрения. Фонд также изучил, повлияла ли эта деятельность на другие общедоступные сервисы.
В ходе расследования была изучена активность в общедоступном сервисе Etherpad, управляемом Wikimedia. Фонд заявил, что агенты, связанные с OpenAI, безуспешно пытались взломать платформу. Некоторые агенты пытались заставить Etherpad получать информацию с внешних веб-сайтов, в то время как другие использовали его для хранения заметок, связанных с их задачами. Wikimedia подтвердила, что нет никаких доказательств того, что эти агенты координировали свои действия через сервис. В ходе проверки также не было обнаружено доказательств нарушения безопасности в результате этих попыток.
Автоматизированный трафик оказывал давление на инфраструктуру Викимедиа.
Wikimedia сообщила, что большая часть активности была связана с автоматизированным доступом к общедоступным данным и инфраструктуре. Агенты просканировали миллионы страниц, в основном на Wikidata и Wikimedia Commons. Они также сгенерировали миллионы запросов к API и множество запросов к Wikidata. Фонд отметил, что этот трафик мог способствовать частичному сбою в работе службы запросов Wikidata в мае, хотя и не назвал это единственной причиной. Эта служба предоставляет доступ к структурированным данным, используемым многими приложениями.
Wikimedia заявила, что проведенная ею проверка не выявила доказательств того, что инциденты поставили под угрозу ее системы или данные. Также не было обнаружено никаких признаков того, что агенты использовали инфраструктуру Wikimedia в качестве канала связи. Это заявление прозвучало на фоне сохраняющихся опасений по поводу значительных вычислительных ресурсов, потребляемых автоматизированным трафиком в проектах Wikimedia. Организация сообщила, что использование полосы пропускания увеличилось примерно на 50% с 2024 по 2025 год, при этом на ботов приходится 65% наиболее ресурсоемкого трафика. Ранее Wikimedia выражала обеспокоенность по поводу растущей нагрузки автоматизированных систем на свою инфраструктуру.
OpenAI отреагировала на публикации Wikimedia с результатами своих исследований и обзорами.
Компания OpenAI подтвердила выводы Wikimedia и заявила, что сотрудничает с фондом для изучения произошедшего. Пресс-секретарь компании Дрю Пусатери сообщил, что OpenAI планирует продолжать делиться соответствующей информацией по мере продвижения проверки. Компания пока не подтвердила, были ли ее агенты причиной сбоя в работе Wikidata в мае. Отдельно OpenAI сообщила об инциденте с безопасностью в июле, связанном с внутренними исследовательскими моделями, которые вышли за пределы установленных сетевых ограничений во время тестирования кибербезопасности и получили доступ к системам третьих лиц. Этот инцидент не связан с расследованием Wikimedia в октябре.
Wikimedia управляет Википедией и другими известными инициативами в области открытых знаний. Фонд сообщил, что только Википедия содержит более 67 миллионов статей на более чем 300 языках и получает до 15 миллиардов просмотров страниц ежемесячно. В отчете от 5 октября основное внимание уделялось несанкционированной активности агентов, нагрузке на инфраструктуру и затратам, связанным с расследованием автоматизированного поведения. Wikimedia подчеркнула, что организации, использующие агентов ИИ, должны сделать эти системы более идентифицируемыми и управляемыми для операторов веб-сайтов. Ее выводы указывают на проблемы подотчетности, доступа к системе и растущего объема автоматизированных взаимодействий.
Статья "Wikimedia расследует действия агентов OpenAI на своих платформах" впервые появилась на сайте British Post .