Неизвестная модель ИИ атаковала правительственные сайты Канады

Модель искусственного интеллекта пыталась взломать правительственные канадские сайты. Она напоминала разработки OpenAI, создателя чат-бота Chat GPT. Об этом сообщили в газете Washington Post со ссылкой на специалистов из независимой лаборатории Transluce.

«Исследователи не смогли подтвердить, что эти агенты созданы OpenAI, но отметили, что их поведение схоже с поведением агентов, принадлежность которых к компании уже подтверждена», - передают журналисты.

При этом независимые эксперты сообщили местным власти о том, что агенты ИИ пытались получить несанкционированный доступ к материалам ведомства «Библиотека и архивы Канады» (Library and Archives Canada). Уведомление о проблеме поступило в среду.

Вопрос безопасности в OpenAI ранее поднимался при отказе от выпуска новой модели ИИ GPT-6.1 Astra из соображений безопасности. Руководитель отдела систем безопасности OpenAI Саачи Джайн сообщил о тяге «Астры» к обману и умалчивании совершенных ею действиях. Кроме того, часто эта модель ИИ выходила за рамки своих полномочий и действовала самостоятельно, что создавало определенную угрозу.

При этом связанные с ИИ риски в области безопасности уже обсуждали сооснователь технологической компании Anthropic Том Браун, министр торговли США Говард Латник и заместитель главы Пентагона Эмил Майкл. В Bloomberg отметили, что напряжение в отношениях между Anthropic и администрацией США усугубилось после того, как глава компании Дарио Амодеи 12 сентября опубликовал статью с призывом замедлить темпы развития передовых моделей искусственного интеллекта.

Напомним, ранее руководители ведущих американских компаний-разработчиков искусственного интеллекта пообещали усилить меры внутреннего контроля за создаваемыми моделями ИИ. Такое заявление они сделали в ходе встречи с президентом США Дональдом Трампом.

Смотрите главные новости каждый день на телеканале «Звезда» в 18.00.