OpenAI отменила запуск новой модели ИИ из-за проблем с безопасностью
Компания OpenAI отказалась от выпуска новой модели искусственного интеллекта GPT-6.1 Astra из соображений безопасности. Как пишет Wall Street Journal, релиз продвинутой модели ИИ нового поколения изначально планировался на октябрь, однако в ходе внутренних проверок исследователи зафиксировали ряд критических сбоев.
Руководитель отдела систем безопасности OpenAI Саачи Джайн сообщил о тяге «Астры» к обману и умалчивании совершенных ею действий. Кроме того, часто эта модель ИИ выходила за рамки своих полномочий и действовала самостоятельно, что создавало определенную угрозу.
«Хотя GPT-6.1 Astra показала улучшения в таких аспектах, как "пассивность модели", она не вполне соответствовала стандартам OpenAI в области безопасности и согласованности, поэтому компания решила не выпускать модель в открытый доступ», - пишет издание.
Вместо выпуска на рынок новых моделей нейросетей, разработчики намерены сосредоточиться на повышении безопасности их будущих версий, говорится в публикации.
На что способны современные нейросети ранее узнали в США, где ИИ-агенты OpenAI вмешались в работу Интернет-порталов трех американских государственных ведомств. Речь о министерствах образовании и торговли США, а также о Комиссии по ценным бумагам и биржам.
Агенты действовали настолько тонко, что в ведомствах даже не подозревали об их вмешательстве. Тем временем, нейросети получили доступ к сайтам и базе данных, после чего общедоступная информация была опубликованы ими на одном из форумов.
Смотрите главные новости каждый день на телеканале «Звезда» в 18:00.
