Российский беспилотник, который атаковал Запорожье 6 июля, был оснащен экспериментальной системой искусственного интеллекта, которая могла самостоятельно определять цель для удара. В результате атаки тогда погибли три человека.
Об этом пишет The New York Times.
Разведка обнародовала данные о российском дроне «Клин» с искусственным интеллектомГУР опубликовало технические характеристики нового российского ударного беспилотника «Клин», который оснащён технологиями искусственного интеллекта и системой автоматического захвата цели.
Как отмечается, дрон, похожий на небольшой модельный самолет, пытался подлететь к автозаправочной станции, но врезался в стену и взорвался. В результате разлета осколков погибли трое гражданских.
По данным экспертов по беспилотникам, украинских военных командиров и судебных экспертов, которые исследовали обломки этого и других дронов, беспилотником управляла экспериментальная система искусственного интеллекта, а не человек.
Операторы заранее запрограммировали дрон на маршрут к конкретной автозаправочной станции. Однако после приближения к ней беспилотник самостоятельно определил цель для удара – скорее всего, баллоны с пропаном. Дрон был обучен распознавать такие объекты и атаковать их.
Анализ обломков этого и других российских беспилотников в Запорожье показал, что они были оснащены мини-компьютерами Nvidia. Украинские военные обратили внимание на установленные в дронах модули и отсутствие антенн, после чего предположили, что беспилотники могли работать под управлением автономной системы ИИ.
NYT отмечает, что автономные системы ИИ обучают распознавать различные объекты по тысячам изображений. Речь идет, в частности, о людях, военной технике и других объектах.
Оснащенный такой системой дрон использует камеры, чтобы самостоятельно находить нужный объект и наводиться на него. В некоторых ситуациях такая система может делать это точнее, чем оператор-человек.
В то же время противники автономного оружия предупреждают о рисках его использования без человеческого контроля. По их словам, такие системы могут ошибаться и не различать гражданских и военных, что создает риск нарушения международного гуманитарного права.
Старшая научная сотрудница Центра искусственного интеллекта имени Вадхвани при Центре стратегических и международных исследований в Вашингтоне Екатерина Бондар заявила, что удар по автозаправке 6 июля может быть первым задокументированным случаем гибели гражданских из-за российского дрона с системой автономного наведения на основе ИИ.
NYT отмечает, что Украина также проводит испытания систем искусственного интеллекта, способных самостоятельно определять цели. Бывший министр обороны Михаил Федоров в конце июля рассказал изданию, что в течение нескольких месяцев украинские военные тестировали полностью автономную систему ИИ в оккупированном Крыму.
По его словам, эти системы использовали для наведения на топливные хранилища и военную технику. При этом, как отметил Федоров, в результате таких испытаний ни один гражданский не пострадал.
Командир противовоздушной обороны Запорожья Сергей Минаев назвал развитие автономного оружия риском для всего мира. По его словам, в будущем машины могут самостоятельно принимать решения о нанесении ударов.
Напомним, еще в прошлом году президент Владимир Зеленский заявлял о необходимости регулировать правила, как искусственный интеллект может применяться в оружии.
Как известно, накануне Украина и Великобритания заключили соглашение в сфере искусственного интеллекта, в рамках которого обе страны объединят усилия для развития новых военных возможностей и технологий на основе искусственного интеллекта.
А недавно ЕС ввел новые правила прозрачности для искусственного интеллекта, которые обязывают маркировать контент, созданный или измененный с помощью ИИ.
Подпишитесь на наш Telegram-канал, чтоб отслеживать самые интересные и эксклюзивные новости «Слово и дело».
Визуальная аналитика от редакции «Слово и дело» – в Telegram-канале Pics&Maps.
ЧИТАЙТЕ В TELEGRAM
самое важное от «Слово и дело»