Аналитик оценил риски исчезновения человечества из-за ИИ
Угрозы, связанные с развитием искусственного интеллекта, реальны, однако установить эффективный международный контроль над этой технологией будет крайне сложно. Такое мнение высказал в беседе со Zvezdanews руководитель департамента анализа данных и искусственного интеллекта факультета компьютерных наук НИУ ВШЭ Сергей Кузнецов.
«Вопрос в том, кто устроит этот мониторинг. И если будут разговоры о создании международного комитета, сразу начнутся драки за то, кто в него войдет, кто кого будет контролировать. И это очень сложно. Опасения есть, но будем полагаться на то, что человечество сможет вырулить», - сказал Кузнецов.
Внешне вычислительная система может выглядеть как обычное оборудование, а определить ее назначение и возможности без доступа к внутренним процессам бывает трудно, отметил эксперт. Даже при достижении международных соглашений не все страны могут соблюдать установленные ограничения. Одни государства будут придерживаться договоренностей, другие могут продолжить разработку технологий, скрывая ее масштабы.
Отдельное опасение, по его словам, вызывает возможность применения ИИ против определенных групп людей. В качестве примера он привел автономные системы, которые могут быть настроены на распознавание целей по заданным признакам. Однако такие критерии не всегда позволяют надежно отличить одну группу от другой, что создает дополнительные риски.
Кузнецов также указал, что уже существуют примеры, когда программные системы на основе нейросетей действуют не так, как предполагали их разработчики. При этом он подчеркнул, что речь идет не о сценариях восстания роботов из фантастических фильмов, а о поведении программных систем за пределами предусмотренных ожиданий.
По мнению эксперта, создание международного органа по контролю за искусственным интеллектом также столкнется с трудностями: странам придется договариваться о составе такого органа, распределении полномочий и механизмах проверки соблюдения правил. В заключение собеседник телеканала отметил, что опасения по поводу развития ИИ имеют основания, однако он выразил надежду, что человечество сможет найти способы справиться с возникающими угрозами.
Ранее президент американского Института исследований машинного интеллекта Нейт Соарес оценил вероятность исчезновения человечества из-за развития искусственного интеллекта более чем в 50% в ближайшие 10 лет. Он выразил опасения по поводу скорости совершенствования ИИ и возможных последствий этого процесса.
Смотрите главные новости каждый день на телеканале «Звезда» в 18.00.
