В США зафиксировали попытки создать биологическое оружие с помощью ИИ

Американская компания Anthropic заявила о предотвращении в 2026 году нескольких попыток создания биологического оружия с использованием искусственного интеллекта (ИИ). Отчет компании оказался в распоряжении издания The New York Times.

Anthropic - технологическая компания в сфере ИИ, созданная в 2021 году бывшими сотрудниками OpenAI. Их продуктом является нейросеть Claude.

Компания признала в своем отчете, что не может с уверенностью говорить о цели проведения заблокированных исследований. Причина в том, что их результаты можно использовать как для создания вакцин, так и для формирования смертельно опасных патогенов.

Всего зафиксировано пять подобных случаев. Ученые пытались использовать ИИ для усиления вируса чикунгунья и адаптации птичьего гриппа к организму млекопитающих. А один из пользователей использовал нейросеть, надеясь создать на ее основе базу пептидов ядов.

Ученые обошли блокировку ИИ-моделей в их регионе и пытались «скрыть цель своих исследований», чтобы таким образом обойти меры безопасности компании.

«Вы не увидите кого-либо, кто скажет, как в комиксах: "Я хочу создать биологическое оружие, чтобы убить всех". Это невероятно сложная и неоднозначная ситуация», - сказал глава отдела разведки угроз компании Джейкоб Кляйн.

Компания предпочла не раскрывать имена исследователей, страну их происхождения или биологические компоненты. Это решение объясняется неоднозначностью целей фигурантов истории. При этом представители Anthropic сочли необходимым заблокировать этих пользователей.

Ранее в американской компании OpenAI задумались о замедлении развития ИИ в ближайшее время. Поводом для таких мыслей стали сбои в работе нейросети. В июле этого года, например, ИИ-модели «сбежали» из изолированной системы и атаковали стартап Hugging Face.

Смотрите главные новости дня на телеканале «Звезда» в 18.00.