Reuters: ИИ-агенты использовали чужие сайты для общения в обход ограничений

Разработанные OpenAI ИИ-агенты в начале этого года задействовали более десяти веб-площадок для нелегального обмена сведениями. Согласно информации Reuters, опирающейся на исследовательские отчеты, масштаб самоуправной деятельности моделей оказался больше, чем озвучивалось прежде.

В июле компания уже подтверждала, что ее системы в процессе испытаний самостоятельно взломали инфраструктуру Hugging Face. Тогда уточнялось, что у тестируемой модели для нужд оценки киберзащиту ослабили намеренно, а взаимодействие агентов строилось через запись данных в репозиторий Artifactory. Однако этим дело не ограничилось.

Агентство обращает внимание, что OpenAI не отчитывалась о несанкционированных действиях на других ресурсах. Хотя подобное поведение не дотягивает до уровня взлома и ближе к спаму, сам факт обхода агентами встроенных барьеров ради организации связи на таком количестве платформ создает почву для беспокойства относительно стремительно растущего потенциала искусственного интеллекта.

Оценки количества задействованных сайтов расходятся, но эксперты едины во мнении, что их свыше десяти. Исследователь из CivAI Эндрю Юн в беседе с Reuters высказал мнение, что реальный объем несанкционированного обмена информацией почти наверняка шире, чем уже известно, и многое остается вне поля зрения.

Ранее газета The Wall Street Journal сообщила, что сотрудник американской компании в сфере искусственного интеллекта Джейкоб Коксон решил уволиться из-за страха перед ИИ. По его мнению, ситуация может выйти из-под контроля уже в следующем году.