Герой со сверхвозможностями: ИИ внушает страх в человечество

Китайские спецслужбы предупредили, что искусственный интеллект становится ключевым фактором войн. Как заявил министр госбезопасности КНР Чэнь Исинь, ИИ превращается из второстепенного элемента в главного игрока на поле боя. Ранее руководители крупнейших IT-корпораций призывали замедлить темпы развития искусственного интеллекта. По их мнению, нейросетями становится все сложнее управлять.

Видео, которое навело страх на многих интернет-пользователей: нейронка научилась автономно управлять дроном, находить конкретного человека в помещении и следовать за ним. В мире искусственного интеллекта появился новый герой - со сверхвозможностями.

Попросить ИИ нарисовать шар, составить из него модель ракеты, затем спрограммировать компьютерную игру, после чего напечатать готовую ракету на 3D принтере - на все десятки минут личного времени. Раньше это занимало месяцы и годы коллективной работы.

Так, новую платформу презентует компания Open AI - новый Chat GPT Astra уже называют самой интеллектуальной платформой в мире, возможности которой, кажется, еще не все усвоили. И вот в чем главный парадокс: люди, которые быстрее всех в мире развивают искусственный интеллект, просят глав государств его притормозить. Еще недавно Кремниевая долина боялась политиков, которые бы начали регулировать их работу, но теперь разработчики просят их вмешаться как можно скорее.

«Во-первых, мы можем потерять контроль над будущим в пользу ИИ. Это неприемлемо, ИИ всегда должен служить людям. Во вторых, мы можем оказаться в мире с чрезмерной концентрацией власти. Если чрезвычайно мощный ИИ будет использован одним человеком или компанией, чтобы навязать свой мировоззренческий взгляд всем остальным, последствия могут быть крайне антиутопичными», - написал в соцсети Х генеральный директор американской компании Open AI Сэм Альтман.

Он также обсуждал с представителями Белого дома «необходимость» снизить темпы развития искусственного интеллекта. По данным агентства AP, американский президент Дональд Трамп отверг предложение, аргументируя, что в таком случае США могут уступить лидерство Китаю. В последние недели сотрудники ведущих ИИ-компаний публично начали говорить о растущих рисках, связанных с развитием передовых систем.

«Я не буду вам лгать - эти угрозы реальные. Я думаю, что слишком долго отрасль обманывала людей, скрывая тот факт, что у этой технологии есть риски. Идея заключалась в том, чтобы представить ее в максимально позитивном свете. Мы никогда этого не делали, но слишком много компаний в отрасли поступали именно так. Поэтому все начинается с того, чтобы говорить правду. А правда в том, что риски есть», - рассказал глава и сооснователь Anthropic Дарио Амодеи.

Платформы компании Anthropic во всю используют в военных целях. Так, йеменские хуситы использовали их приложение для разработки ракет и систем наведения для передовых видов вооружений, что помогло им установить полный контроль над Баб-эль-Мандебским проливом и захватить ключевые объекты.

Создатели цифровых платформ из США, Китая, России и других стран опубликовали совместное открытое письмо, в котором предупреждают мир о необходимости жесткого контроля ИИ и самых глобальных последствиях вплоть до ядерной войны. Среди ученых, которые подписались под заявлением - почетный профессор Университета Торонто, советник Cusp AI Джеффри Хинтон.

«ИИ смог бы вызвать полный хаос, просто разговаривая с людьми. Он также сможет разрабатывать очень неприятные вирусы - биологические или компьютерные. Он мог бы осуществлять разрушительные кибератаки. И есть просто бесчисленное множество других способов, которыми он мог бы избавиться от нас, если бы захотел. Мы должны выяснить, как спроектировать его так, чтобы он этого не захотел. Вместо этого крупные технологические компании просто гонятся за тем, чтобы сделать его все более и более интеллектуальным, потому что это может принести краткосрочную прибыль», - рассказал он.

То, о чем говорит Хинтон, буквально слово в слово повторяет нейронка уже в диалоге с редакций Zvezdanews. Мы попросили рассказать о дальнейшем развитии сценариев человечества при активном развитии искусственного интеллекта и получили шесть сценариев. Так, нас могут ожидать рост дезинформации и мошенничества, биологическая катастрофа, угроза ядерной войны, появление фейковой информационной реальности, экономическая катастрофа. Самым интересным сценарием нейросеть назвала тот, где искусственный интеллект постепенно получает власть.

Пока это все лишь в теории, все по прежнему в руках человечества: мир может разделиться на страны с полноценными нейронными сетями и страны с ИИ по разрешению. Первые будут автоматизировать экономику, ускорять научные открытия, создавать лекарства, вооружения и новые производства. Вторые останутся потребителями чужих моделей, зависимыми от чужих серверов, правил и политических решений.

Ранее американский предприниматель и миллиардер Илон Маск поддержал призыв Амодеи притормозить разработку продвинутых систем искусственного интеллекта. Он также считает, что сюжет фильма «Терминатор» может стать реальностью.

Смотрите главные новости каждый день на телеканале «Звезда» в 18.00.