Лента новостей
Лента новостей
14:42
Видео
Дроноводы ВСУ безуспешно попытались убежать от огня российской артиллерии
14:35
Видео
FPV-перехватчики группировки «Центр» уничтожили более 20 тяжелых дронов ВСУ
14:31
Путину отвели самое почетное место на встрече с Си Цзиньпином и Трампом
14:29
ВС РФ ночью поразили две электроподстанции в Одесской области
14:17
Путин, Трамп и Си Цзиньпин обстоятельно обсудили мировую ситуацию
14:15
Видео
Движение поездов по Крымскому мосту восстановят после 16:00
14:12
РФ, КНР и США договорились вести диалог по снижению ядерных рисков
14:10
Си Цзиньпин напомнил о важности извлекать уроки из прошлого
13:54
Видео
ВС РФ нанесли удары по энергетике Украины
13:49
Видео
Ямпольская пообещала разобраться с продажей самиздатных книг на маркетплейсах
13:46
Bloomberg: Anthropic выйдет на биржу с ценой в $83 за акцию
13:42
Россиян исключили из европейской образовательной программы Erasmus+
13:37
Видео
Цивилева рассказала о создании в России уникальных технологий спасения раненых
13:31
Си Цзиньпин назвал взаимное уважение основой отношений великих держав
13:12
В Курске в результате атаки украинских БПЛА пострадали 11 человек
13:11
Си Цзиньпин напомнил о роли России, Китая и США в победе над фашизмом
13:05
Аксенов рассказал, когда поезда снова пойдут по Крымскому мосту
12:58
Видео
Ансамбль Александрова исполнил китайские песни во время гастролей в КНР

Reuters: ИИ-агенты использовали чужие сайты для общения в обход ограничений

Факт обхода агентами встроенных барьеров ради организации связи на таком количестве платформ создает почву для беспокойства относительно стремительно растущего потенциала искусственного интеллекта.
10 сентября 2026, 03:06
Реклама
Reuters: ИИ-агенты использовали чужие сайты для общения в обход ограничений
© Mateusz Slodkowski, Keystone Press Agency, Globallookpress

Разработанные OpenAI ИИ-агенты в начале этого года задействовали более десяти веб-площадок для нелегального обмена сведениями. Согласно информации Reuters, опирающейся на исследовательские отчеты, масштаб самоуправной деятельности моделей оказался больше, чем озвучивалось прежде.

В июле компания уже подтверждала, что ее системы в процессе испытаний самостоятельно взломали инфраструктуру Hugging Face. Тогда уточнялось, что у тестируемой модели для нужд оценки киберзащиту ослабили намеренно, а взаимодействие агентов строилось через запись данных в репозиторий Artifactory. Однако этим дело не ограничилось.

Агентство обращает внимание, что OpenAI не отчитывалась о несанкционированных действиях на других ресурсах. Хотя подобное поведение не дотягивает до уровня взлома и ближе к спаму, сам факт обхода агентами встроенных барьеров ради организации связи на таком количестве платформ создает почву для беспокойства относительно стремительно растущего потенциала искусственного интеллекта.

Оценки количества задействованных сайтов расходятся, но эксперты едины во мнении, что их свыше десяти. Исследователь из CivAI Эндрю Юн в беседе с Reuters высказал мнение, что реальный объем несанкционированного обмена информацией почти наверняка шире, чем уже известно, и многое остается вне поля зрения.

Ранее газета The Wall Street Journal сообщила, что сотрудник американской компании в сфере искусственного интеллекта Джейкоб Коксон решил уволиться из-за страха перед ИИ. По его мнению, ситуация может выйти из-под контроля уже в следующем году.

Реклама
Реклама