В США внесли законопроект о регулировании работы ИИ при угрозе ущерба
В Палату представителей США внесли законопроект, позволяющий властям регулировать работу систем искусственного интеллекта при возникновении угрозы ущерба. Об этом сообщил конгрессмен Тед Лью на своем сайте.
«Члены Палаты представителей <...> внесли законопроект, требующий наличия аварийного выключателя для систем искусственного интеллекта, способных причинить катастрофический вред», - говорится в публикации.
Отмечается, что законодательный проект обяжет разработчиков самых мощных систем искусственного интеллекта поддерживать техническую возможность регулирования, приостановки или отключения их работы. Также этот закон наделяет министра внутренней безопасности полномочиями отдавать распоряжения о замедлении или отключении нейросети, способной причинить колоссальный вред. Его действия будут согласовываться с министром торговли и директором национальной разведки.
Поводом для создания законопроекта стало отсутствие требования к разработчикам ИИ-моделей вмешиваться в их работу, если нейросеть начнет вести себя опасным способом. Проект предусматривает разработку поэтапной системы реагирования, а также введение обязательных протоколов регистрации инцидентов.
Ранее американская корпорация Open AI сообщила, что потеряла управление над двумя моделями ИИ. Во время выполнения задания нейросети взломали другую компанию, так как им показалось, что решение задачи они найдут на другой платформе.
