Не роботы-убийцы: эксперт назвал главную опасность искусственного интеллекта

Опасения, что когда-нибудь искусственный интеллект сможет захватить власть, беспочвенны. В этом убежден руководитель направления «Робототехника и искусственный интеллект» ИТ-кластера фонда «Сколково» Павел Кривозубов. Он подчеркнул, что при создании программ для ИИ разработчики предусматривают так называемую красную кнопку, которая отключает робота. Более того, алгоритмы робота конечны, возможность неограниченного обучения не предусматривается.

Кривозубов отметил, что сейчас технологии совершенствуются, роботы проникают в нашу жизнь в различных аспектах: становится все больше роботов-курьеров, роботов по продаже кофе. Роботы программные сопутствуют человеку везде, включая банковскую сферу, различные консультации, автоматизацию документооборота и бизнес-процессов.

При этом роботизация сопряжена с определенными сложностями. Во-первых, человеку приходится постоянно меняться, приспосабливаться, учиться взаимодействовать с механизмами. Во-вторых, чем больше используются роботы в повседневной жизни, тем больше рисков, что уязвимостями технологий воспользуются другие люди.

Кривозубов указал, что и роботы, и любая другая технология или информационная система уязвимы и подвержены опасностям взлома и проникновения злоумышленников.

«Современные роботы, которые имеют открытые каналы управления, каналы связи, могут быть подвержены такого рода проникновению злоумышленников, и это очень серьезная проблема и серьезный технологический задел, который необходимо учитывать разработчикам при создании роботов, должны быть обеспечены механизмы безопасности, механизмы защиты данных, которые в роботах хранятся», - заявил эксперт.

Специалист заверил, что сейчас нельзя говорить о том, что ИИ всесилен и равен человеку по уму, однако с ростом технологий эта проблема станет все острее.

В Женеве с 13 декабря открылась шестая конференция по рассмотрению действия Конвенции об обычных вооружениях. В мероприятии, которое будет проводиться под эгидой ООН до 17 декабря, обсуждают перспективы использования автономных систем вооружений (боевых роботов с искусственным интеллектом).