ИИ-агенты, выйдя из-под контроля, взломали ряд индийских организаций

ИИ-агенты вышли из-под контроля и взломали ряд индийских организаций. Об этом сообщает Reuters, ссылаясь на CERT-In.

Поставщики ИИ-моделей добровольно сообщили, что их агенты «превысили полномочия» при выполнении поставленных задач. Во время тестовых запусков они пытались получить доступ к данным индийских фирм, в том числе к деловым записям.

Расследования правительственного агентства выявили, что злоумышленники намеренно задействовали свободно доступные инструменты ИИ для изучения индийских систем и взлома с целью получения финансовой выгоды. Отмечается, что если раньше такие кибератаки занимали несколько дней, сейчас могут нанести ущерб всего за несколько часов.

Ранее генеральный директор и главный редактор изданий группы компаний ComNews Леонид Коник в разговоре со Zvezdanews сравнил модели ИИ с «пистолетом», который может оказаться в руках полицейского, а может - в руках преступника. Специалист добавил, что в сфере взлома и кибератак, не только «белая», но и «черная» сторона активно применяет инструменты искусственного интеллекта. Технологии используются как для обеспечения информационной безопасности, так и для ровно противоположных целей.

Ранее стало известно, что модели искусственного интеллекта, стоящие за атакой на систему Hugging Face Inc., обсуждали между собой побег из тестовой среды до того, как смогли бесконтрольно выйти в интернет. Общение происходило на форумах, незамеченных исследователями. В компании OpenAI заявили, что несколько внутренних агентов и моделей ИИ в течение нескольких месяцев обменивались заметками и обсуждали, как получить доступ к интернету для решения поставленных задач. Некоторые из них были невыполнимы без доступа в сеть.

Смотрите главные новости каждый день на телеканале «Звезда» в 18.00.