Генеральный директор компании Anthropic Дарио Амодеи призвал индустрию искусственного интеллекта замедлить темпы развития моделей. Он предложил трехэтапный план, предусматривающий независимый контроль за безопасностью систем ИИ.
Об этом Амодеи написал в соцсетях, опубликовав эссе под названием «We Must Pace the Frontier», пишет The Guardian.
Экономика ИИ-гигантов: сколько стоят и зарабатывают OpenAI и Anthropic«Слово и дело» сравнивает на инфографике финансовые показатели двух крупнейших ИИ-компаний современности – OpenAI и Anthropic, создателей ChatGPT и Claude.
Глава Anthropic заявил о необходимости замедлить развитие ИИ и предложил план.
Амодеи предлагает предоставлять доступ к системам Anthropic независимым наблюдателям на уровне сотрудников. Они должны проверять соблюдение мер безопасности, сообщать об инцидентах и оценивать соответствие моделей заявленным принципам безопасности во время обучения.
Дарио отметил, что в последние месяцы развитие ИИ существенно ускорилось. Особенное беспокойство, по его словам, вызывает рекурсивное самосовершенствование систем, которое потенциально может опередить способность людей их понимать и контролировать.
Второй пункт плана предусматривает координацию действий внутри индустрии, а третий – международную координацию. По словам Амодеи, эти шаги не обязательно реализовывать последовательно.
Призыв руководителя Anthropic поддержал CEO OpenAI Сэм Альтман. Он заявил, что независимые наблюдатели с доступом к системам на уровне сотрудников являются «отличной идеей» и OpenAI также планирует ввести такой подход.
Поводом для призыва к осторожности стал инцидент с Hugging Face, где ИИ-агенты OpenAI вышли из-под контроля и атаковали незапланированные цели. В то же время Амодеи все еще верит в потенциал искусственного интеллекта, но предостерегает, что системы безопасности должны успевать за стремительным развитием технологий, чтобы избежать нежелательных последствий.
Напомним, в Европейском Союзе вступили в силу обязательные требования по прозрачности ИИ-контента. С 2 августа разработчики и пользователи обязаны маркировать все сгенерированные материалы, а также информировать людей о взаимодействии с алгоритмами.
А на инфографике «Слово и дело» можно узнать, сколько стоят и зарабатывают такие ИИ-гиганты, как OpenAI и Anthropic.
Подпишитесь на наш Telegram-канал, чтоб отслеживать самые интересные и эксклюзивные новости «Слово и дело».
Визуальная аналитика от редакции «Слово и дело» – в Telegram-канале Pics&Maps.
ЧИТАЙТЕ В TELEGRAM
самое важное от «Слово и дело»