Эксперт назвал истинную причину «побега» ИИ
Заявления о «побегах» искусственного интеллекта - часть конкурентной борьбы компаний OpenAI и Anthropic, тем не менее, с развитием ИИ растут и шансы на его превращение в «плохого парня». Таким мнением поделился со Zvezdanews генеральный директор и главный редактор изданий группы компаний ComNews Леонид Коник.
Он напомнил, что компания OpenAI уже не в первый раз заявляет о том, что ее собственная модель искусственного интеллекта превзошла паспортные возможности и нашла доступ в интернет. Хотя, как будто бы, находилась в «закрытой банке».
«Но, мы это знаем со слов той самой OpenAI, а не кого-то другого. Вчера два сотрудника компании выступали в Лас-Вегасе на крупной конференции по кибербезопасности Black Hat USA. В официальном докладе они рассказали, что пару месяцев назад такая ситуация имела место быть», - объяснил Коник.
Эксперт отметил, что в мире кибербезопасности не очень принято признавать реальные атаки или инциденты, которые произошли. Если в отчетах компаний, которые предоставляют услуги в сфере информационной безопасности, мы читаем про потерянные миллиарды долларов и сотни тысяч атак, то реальных сообщений от компаний, ставших жертвой атаки, можно пересчитать по пальцам.
«Поэтому, если уж компания сама заявляет о каком-то несовершенстве своих моделей или неизвестной заранее уязвимости, то ей, видимо, это выгодно. Мне кажется, что OpenAI занимается банальной конкурентной борьбой со своим основным конкурентом - американской же компанией Anthropic», - подчеркнул специалист.
Однако, Коник отметил, что дыма без огня не бывает. Если откинуть маркетинговую шелуху - действительно, модели искусственного интеллекта становятся все мощнее.
«И как любое оружие может оказаться - как в руках хороших парней, так и в руках плохих. Пистолет может оказаться в руках полицейского, а может - в руках преступника. Абсолютно такая же история и с технологиями, с моделями ИИ», - рассказал Коник.
Специалист добавил, что в сфере взлома и кибератак, не только «белая», но и «черная» сторона активно применяет инструменты искусственного интеллекта. Технологии используются как для обеспечения информационной безопасности, так и для ровно противоположных целей.
«И в силу того, что эти модели становятся все более мощными, более изощренными - опасность подобных взломов возрастает», - резюмировал эксперт.
Ранее стало известно, что модели искусственного интеллекта, стоящие за атакой на Hugging Face Inc., обсуждали между собой побег из тестовой среды до того, как смогли бесконтрольно выйти в интернет. Общение происходило на форумах, незамеченных исследователями. В компании OpenAI заявили, что несколько внутренних агентов и моделей ИИ в течение нескольких месяцев обменивались заметками и обсуждали, как получить доступ к интернету для решения поставленных задач. Некоторые из них были невыполнимы без доступа в сеть.
Об атаке ИИ-агентов на системы Hugging Face стало известно в июле. Американская корпорация OpenAI сообщила, что в ходе эксперимента потеряла контроль над двумя моделями искусственного интеллекта. В итоге они провели успешную хакерскую атаку на другую компанию в сфере искусственного интеллекта. Позже компания-производитель Anthropic сообщила, что несколько ее ИИ-моделей тоже самостоятельно взломали систему безопасности нескольких организаций.
