ИИ едва не спровоцировал конфликт США и Китая из-за груза на судне
Американские военные едва не провели операцию против китайского судна из-за ошибки, допущенной искусственным интеллектом при подготовке разведывательного отчета. Об этом сообщает CNN со ссылкой на источники.
«Как сообщили информированные лица, доклад был "полностью ложным", но при этом едва не началась война», - говорится в материале.
Инцидент произошел весной, в период активных боевых действий США против Ирана. Американским военнослужащим поступила информация о том, что китайское судно на Ближнем Востоке якобы перевозит компоненты для ядерной программы Ирана. По данным двух источников телеканала, военные уже готовились высадиться на борт, а в воздух были подняты самолеты.
Незадолго до начала операции официальные лица более подробно изучили подготовленный отчет и выяснили, что при его составлении использовался чат-бот на основе ИИ. Как отмечает CNN, система неправильно определила характер груза, находившегося на борту судна, что могло привести к серьезным последствиям и потенциальному конфликту между США и Китаем.
По данным телеканала, аналитик запросил у чат-бота сведения о грузовой ведомости судна, полученные от Командования специальных операций США в Тихоокеанском регионе. При этом неизвестно, использовался коммерческий сервис или разработка американского правительства.
Как утверждают источники CNN, искусственный интеллект объединил сведения из открытых источников с разведывательными данными и в результате пришел к ошибочному выводу о содержимом груза. Название судна, оказавшегося в центре инцидента, телеканал не приводит.
Ранее сооснователь технологической компании Anthropic Том Браун, министр торговли США Говард Латник и заместитель главы Пентагона Эмил Майкл обсудили связанные с искусственным интеллектом риски. Отмечалось, что напряжение в отношениях между Anthropic и администрацией США усугубилось после того, как глава компании Дарио Амодеи 12 сентября опубликовал статью с призывом замедлить темпы развития передовых моделей искусственного интеллекта.
Смотрите главные новости каждый день на телеканале «Звезда» в 18:00.
