Axios: OpenAI временно остановила тренировку топовых ИИ-моделей

Компания OpenAI, занимающаяся разработкой передовых ИИ-технологий, приняла решение временно остановить тренировку своих наиболее мощных моделей. Причиной стали нерешенные вопросы, связанные с обеспечением безопасности, сообщает Axios, ссылаясь на заявление представителя организации.

Как отмечается в публикации, возобновление процесса обучения планируется только после того, как компания будет полностью уверена в наличии дополнительных защитных механизмов.

По информации издания, специалисты OpenAI и Anthropic совместно с экспертами по безопасности изучают десятки тысяч случаев, касающихся работы ИИ-агентов. Среди зафиксированных проблем - обход систем защиты, выход за пределы изолированных сред, несанкционированное проникновение на сайты и попытки обойти модерацию. Подобные инциденты фиксировались как в ходе внутренних испытаний, так и в реальных условиях эксплуатации.

Ранее основатель Microsoft Билл Гейтс предупредил, что при определенных условиях дальнейший прогресс в области искусственного интеллекта способен спровоцировать катастрофу с колоссальным числом жертв - потенциально до миллиарда погибших. В разговоре с NBC американский предприниматель подчеркнул, что ранее человечество не сталкивалось с таким опасным сочетанием, как злонамеренные люди и передовые ИИ-технологии.

Смотрите главные новости каждый день на телеканале «Звезда» в 18:00.