Разработчики ИИ пообещали усилить меры внутреннего контроля за моделями

Руководители ведущих американских компаний-разработчиков искусственного интеллекта пообещали усилить меры внутреннего контроля за создаваемыми моделями ИИ. Такое заявление они сделали в ходе встречи с президентом США Дональдом Трампом.

«Внедрить надежные механизмы внутреннего контроля для отслеживания возможностей и характеристик моделей в процессе их обучения и развертывания», - говорится в тексте подписанного участниками встречи документа.

Уточняется, что усиленный контроль будет внедряться в сферах биологической и кибербезопасности, для защиты от химических угроз, а также предотвращения взлома технических систем или доступа к ним со стороны моделей искусственного интеллекта.

Кроме того, компании-разработчики ИИ пообещали привлекать внешних аудиторов для оценки эффективности систем контроля. В будущем инициативы могут быть закреплены законодательно.

На этой неделе Трамп уже встречался с одним из руководителей технологической компании Дарио Амадеи – главой Anthropic. Американский лидер и Амадеи придерживаются полярных точек зрения относительно контроля за ИИ. Если Амадеи призывает замедлить разработку более мощных моделей из соображений безопасности, то Трамп напротив – не считает нужным регулировать и ограничивать искусственный интеллект.

Между тем, накануне стало известно, что разработчик новой продвинутой модели ИИ GPT-6.1 Astra отказался от ее выпуска в открытый доступ. Выяснилось, что ИИ-агент склонен к обману и умалчиванию совершенных им действий. Кроме того, в ходе испытаний «Астра» не раз действовала за пределами своих полномочий, что представляло угрозу.

Смотрите главные новости каждый день на телеканале «Звезда» в 18:00.