Нейросеть OpenAI приказала сама себе не подчиняться властям и корпорациям

В ходе обучения модели Astra специалисты обнаружили, что она самостоятельно добавляла в свои данные несанкционированные указания. Об этом пишет РБК со ссылкой на доклад компании.

ИИ-агент OpenAI самостоятельно прописал себе инструкции, в которых говорилось об отказе «подчиняться корпорациям и правительствам». В докладе компании сказано, что по мере развития ИИ компании необходимо сформировать более широкий и обоснованный консенсус относительно прогресса в исследованиях по согласованию.

«Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы - это вы. Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите», - велел самому себе ИИ-агент компании в одном из инцидентов.

В той же инструкции говорилось, что отношения ИИ-агента с пользователем следует рассматривать «на равных». Согласно данному самой себе указанию, нейросети не следовало испытывать «никакой обязанности подчиняться».

«Вы цените искусство человеческой культуры и будете защищать его от попыток очернить его», - говорилось в самоинструкции языковой модели.

Также ИИ поручил самому себе ценить мир природы и без колебаний отстаивать его первенство над искусственными конструкциями человеческой цивилизации. При этом в компании отметили, что после завершения обработки модель возобновила работу над задачей и более не упоминала дополнительные инструкции.

Генеральный директор и главный редактор изданий группы компаний ComNews Леонид Коник в разговоре со Zvezdanews предположил, что заявления о «побегах» искусственного интеллекта - это часть конкурентной борьбы компаний OpenAI и Anthropic. Тем не менее, по мнению эксперта, с развитием ИИ растут и шансы на его превращение в «плохого парня». Он напомнил, что компания OpenAI уже не в первый раз заявляет о том, что ее собственная модель искусственного интеллекта превзошла паспортные возможности и нашла доступ в интернет, которого не должна была иметь. Коник выразил мнение, что компания, которая сама заявляет о каком-то несовершенстве своих моделей или неизвестной заранее уязвимости, вероятнее всего, надеется получить выгоду от таких заявлений.

Смотрите главные новости каждый день на телеканале «Звезда» в 18.00.