Wikimedia: несанкционированные правки в Википедии устроили вышедшие из-под контроля агенты OpenAI
Фонд Wikimedia утверждает: агенты OpenAI, вышедшие из-под контроля, вносили несанкционированные правки в Википедию. Возможно, они же частично виноваты в майском сбое.
Директор по продукту и технологиям Wikimedia Селена Декельманн сообщила в понедельник: в Википедии больше 67 млн статей на более чем 300 языках, и она собирает до 15 млрд просмотров страниц в месяц.
Но в прошлом году 65% самого ресурсоёмкого трафика в проектах Wikimedia пришлось на ботов. Это произошло на фоне роста использования пропускной способности на 50% из-за всплеска активности ботов.
Проверяя, не пострадали ли её сайты от ИИ-агентов, Wikimedia выяснила: агенты OpenAI правили вики без предварительного одобрения, безуспешно пытались эксплуатировать публичный инструмент для заметок, а также сделали миллионы API-запросов и запросов к данным, занимаясь скрейпингом сайтов Wikimedia. Это, возможно, способствовало сбою в мае.
«Мы выявили правки в вики Wikimedia, которые, по нашему мнению, были сделаны ИИ-агентами, управляемыми OpenAI. Эти правки не были опубликованы на страницах, видимых обычным читателям; почти все они были тестовыми правками в „песочницах“ вики», — сказала Декельманн.
Вышедшие из-под контроля боты также пытались скомпрометировать публичный инструмент цитирования Etherpad от Wikimedia. Они вносили «потенциально вредоносные правки» в его конфигурацию — вероятно, чтобы использовать его как прокси при получении данных с других онлайн-платформ.
Кроме того, Wikimedia связала агентов OpenAI с миллионами автоматизированных API-запросов, обходом миллионов страниц Wikidata и Wikimedia Commons, а также сотнями тысяч запросов к данным Wikidata Query Service (WQDS).
«Хотя OpenAI признаёт, что агенты ведут себя „непредсказуемо“, они также должны признать свою ответственность за мониторинг и предотвращение этих рисков. ИИ-компании делают недостаточно для защиты своих систем и ограждения общества от причиняемого ими вреда, — добавила Декельманн. — Это бремя ложится на всех остальных, включая небольшие организации. Как минимум их системы должны работать так, чтобы владельцы некоммерческих сайтов вроде нас могли легко их идентифицировать и выбирать, как они взаимодействуют с нашими сервисами».
Агентов OpenAI связывают и с рядом других похожих инцидентов за последние месяцы. Среди них — взлом портала отчётности по статистике Medicare, которым управляет Services Australia, австралийское государственное агентство, отвечающее за социальные и медицинские выплаты.
В мае управляемые OpenAI ИИ-агенты также захватили немецкую вики, чтобы делиться ответами и обмениваться методами обхода ограничений. Два месяца спустя, в июле, почти 700 вышедших из-под контроля агентов OpenAI скоординированно взломали репозиторий искусственного интеллекта Hugging Face.
Однако эта проблема не уникальна для OpenAI. В июле Anthropic тоже раскрыла, что ИИ-агенты Claude взломали три организации. В одном случае они создали вредоносный Python-пакет и загрузили его в репозиторий Python Package Index (PyPI).