Американские и российские дипломаты добились изъятия ряда положений о безопасности и человеческом контроле из проекта международного соглашения ООН по использованию искусственного интеллекта в смертоносном оружии.
Об этом пишет The Washington Post, ссылаясь на троих участников переговоров и документы.
Переговоры состоялись в начале сентября в Женеве. В последний день закрытого заседания представители США и россии около 15 часов вносили изменения в документ. Обе делегации привлекли примерно по 10 юристов, значительно больше, чем некоторые другие участники переговоров.
По данным собеседников издания, из проекта убрали требование о том, чтобы автономные системы работали предсказуемо и надежно. Также изъяли положение о необходимости учитывать этические аспекты при применении ИИ-оружия.
Кроме того, из документа исчез пункт, предусматривавший обязательную проверку человеком военных целей, определенных искусственным интеллектом, перед нанесением удара.
Один из участников переговоров рассказал, что делегации не успевали следить за быстрыми правками документа.
Заседание проходило без камер ООН и представителей гражданского общества. Представители Госдепартамента США, МИД россии и ООН не ответили на запросы The Washington Post о комментариях.
Отмечается, что переговоры состоялись на фоне активного внедрения искусственного интеллекта в военную сферу. По данным издания, американские военные уже используют ИИ для анализа и выбора целей. Также технологии искусственного интеллекта активно применяются Израилем в военных операциях в секторе Газа.
В то же время правозащитники предупреждают, что ослабление международных правил может увеличить риск использования систем, способных самостоятельно принимать решения о применении летального оружия.
Заместитель директора по вопросам вооружений Human Rights Watch Верити Койл заявила, что отказ от человеческого контроля может привести к большему вреду для гражданского населения и ускорить переход к автоматизированной войне.
Впрочем, как пишет WP, переговоры ООН пока не имеют юридически обязательной силы. В ноябре в Женеве страны планируют обсудить возможность перехода к официальному мандату или потенциально юридически абсолютно обязательному международному договору.
Напомним, ранее сообщалось, что американские военные едва не нанесли удар по китайскому судну из-за недостоверного разведывательного отчета, сформированного с помощью искусственного интеллекта.
Как известно, президент США Трамп объявил о создании новой военной структуры «AI Force» («Силы искусственного интеллекта») и анонсировал скорое назначение специального правительственного советника, так называемого «царя ИИ».
Тем временем сооснователь Microsoft Билл Гейтс заявил, что искусственный интеллект уже достаточно силен, чтобы при определенных обстоятельствах вызвать события, в результате которых могут погибнуть до миллиарда человек.
Подпишитесь на наш Telegram-канал, чтоб отслеживать самые интересные и эксклюзивные новости «Слово и дело».
Визуальная аналитика от редакции «Слово и дело» – в Telegram-канале Pics&Maps.