Президент США Дональд Трамп обнародовал соглашение о безопасности и контроле систем искусственного интеллекта, которое было подписано с руководителями технологических компаний, с которыми он встретился в Вашингтоне.
Об этом сообщает агентство Reuters со ссылкой на страницу Трампа в соцсети Truth Social.
Пять тревожных признаков того, что ИИ способен уничтожить человечествоИИ беспокоит правительства и своих творцов, передовые модели используют преступники, а сами нейросети все меньше зависят от людей. На инфографике «Слово и дело» – пять признаков, что искусственный интеллект имеет потенциал для уничтожения человечества.
Трамп назвал документ «морально обязывающим», его подписали руководители компаний Google, Anthropic, Meta, OpenAI, социальной сети X и NVIDIA. Как отмечается, в договоренности заложено четыре уровня надзора, а сами участники соглашения не исключают, что в будущем эти стандарты могут быть закреплены на законодательном уровне.
Уточняется, что первым уровнем предлагается привлечение внешних аудиторов и независимых оценщиков для проверки эффективности внутренних механизмов мониторинга. По соглашению, на втором уровне компании призвали назначить независимый комитет при совете директоров для надзора и получения отчетов от внутренних и внешних аудиторов, а также от команд, осуществляющих контроль за ИИ.
Кроме этого, вводится постоянный внутренний мониторинг моделей во время их обучения и использования, уделяя особое внимание кибербезопасности, а также биологическим и химическим угрозам.
В частности, это должно гарантировать, что ИИ-модели «не взламывают технические системы и не получают к ним доступ непредусмотренными способами».
Последний уровень надзора требует создать внутреннюю команду для обеспечения того, чтобы «все меры контроля, мониторинга и выявления работали так, как предусмотрено».
«Компании-участницы будут регулярно встречаться для установления стандартов и лучших практик с целью повышения безопасности своих систем», – говорится в документе.
Также, как указывается, в будущем может быть целесообразным узаконить эти нормы или закрепить в нормативных актах.
Как известно, Трамп анонсировал создание новой структуры под названием «AI Force», или «Силы искусственного интеллекта». Он также пообещал в ближайшее время назначить нового правительственного советника, которого назвал «царем искусственного интеллекта».
Напомним, США и россия, по данным The Washington Post, добились изъятия из проекта правил ООН по смертоносному ИИ-оружию требований о человеческом контроле, надежности систем и этических нормах.
Также недавно сооснователь Microsoft Билл Гейтс заявил, что искусственный интеллект уже достаточно силен, чтобы при определенных обстоятельствах вызвать события, в результате которых могут погибнуть до миллиарда человек.
Кроме этого, OpenAI приостановила обучение новых моделей после опасного поведения ИИ-агентов.
Подпишитесь на наш Telegram-канал, чтоб отслеживать самые интересные и эксклюзивные новости «Слово и дело».
Визуальная аналитика от редакции «Слово и дело» – в Telegram-канале Pics&Maps.
ПОДПИСЫВАЙТЕСЬ В GOOGLE NEWS
и следите за последними новостями и аналитикой от «Слово и дело»