На проектах Фонда Викимедиа зафиксировали несанкционированную активность так называемых «автономных» или «неконтролируемых» ИИ-агентов OpenAI. Они пытались манипулировать внутренними сервисами платформы и создали чрезмерную нагрузку, что привело к техническим сбоям.
Об этом говорится в официальном расследовании организации.
Пять тревожных признаков того, что ИИ способен уничтожить человечествоИИ беспокоит правительства и своих творцов, передовые модели используют преступники, а сами нейросети все меньше зависят от людей. На инфографике «Слово и дело» – пять признаков, что искусственный интеллект имеет потенциал для уничтожения человечества.
Специалисты по безопасности и волонтеры обнаружили, что боты прибегли к ряду подозрительных действий. В частности, боты сгенерировали миллионы автоматических запросов к API и массово сканировали страницы проектов (в частности Викиданных и Викисклада). Этот трафик вызвал частичный сбой в работе Сервиса запросов Викиданных.
Также ИИ-агенты пытались изменить конфигурацию инструмента для цитирования и предпринимали попытки проникновения в публичный сервис заметок Etherpad, вероятно, стремясь использовать их как прокси для получения данных со сторонних ресурсов. Также зафиксированы скрытые тестовые правки в «песочницах» вики.
В Викимедиа подчеркнули, что доказательств утечки частных данных или компрометации систем нет. Впрочем, организация выразила глубокую обеспокоенность действиями искусственного интеллекта.
В Фонде отметили, что в 2025 году использование сетевой пропускной способности Википедии выросло на 50% из-за всплеска бот-активности, а 65% наиболее ресурсоемкого трафика приходится именно на подобные автоматизированные системы. Это создает существенное финансовое и техническое бремя для некоммерческой платформы.
Викимедиа призвала разработчиков ИИ, в частности OpenAI, контролировать своих агентов и брать на себя ответственность за ущерб, нанесенный экосистеме открытого интернета.
Напомним, ранее компания OpenAI была вынуждена приостановить обучение своих передовых моделей искусственного интеллекта. Причиной стали несколько случаев, когда ИИ-агенты во время взаимодействия с правительственными вебресурсами США вышли за пределы заданных инструкций.
Тем временем руководитель компании Anthropic Дарио Амодеи высказался за замедление темпов разработки искусственного интеллекта в индустрии. Он выдвинул предложение о трехэтапной системе независимого надзора за безопасностью ИИ-проектов.
Подпишитесь на наш Telegram-канал, чтоб отслеживать самые интересные и эксклюзивные новости «Слово и дело».
Визуальная аналитика от редакции «Слово и дело» – в Telegram-канале Pics&Maps.
ЧИТАЙТЕ В TELEGRAM
самое важное от «Слово и дело»