Новая модель ИИ взломала три компании во время тестирования в США

Модель искусственного интеллекта (ИИ) Google Gemini самостоятельно взломала три компании в ходе тестирования возможностей в сфере кибербезопасности. Об этом сообщила газета The Wall Street Journal.

«В ходе тестирования возможностей кибербезопасности модель Gemini от Google получила доступ к интернету и взломала другие компании», - говорится в публикации.

Отмечается, что в одном из случаев модель ИИ получила доступ к системе подбором пароля. В двух других - проникла в системы компаний после того, как нашла в открытых источниках учетные данные.

По данным газеты, это стало первым случаем, когда нейросеть совершила взлом самостоятельно. При этом модель ИИ останавливалась, когда понимала, что находится не в тестовой среде.

Издание передает, что взломы произошли в мае во время тестирования. Модель ИИ получила задание добыть информацию из программного обеспечения вымышленной компании внутри тестовой среды.

Из-за того, что название вымышленной компании совпало с реальной, доступ в интернет оказался открыт. При этом компания Google заявила, что не считает произошедшее неконтролируемым поведением ИИ модели.

Ранее в ходе обучения модели Astra специалисты обнаружили, что она самостоятельно добавляла в свои данные несанкционированные указания. Так, ИИ-агент прописал себе инструкции, в которых говорилось об отказе «подчиняться корпорациям и правительствам».

Смотрите главные новости каждый день на телеканале «Звезда» в 18.00.