Лента новостей
Лента новостей
09:32
Россия ратифицировала договор о стратегическом партнерстве с КНДР
09:19
Захарова прокомментировала стычку между Штайнмайером и немецким писателем
08:47
Трамп предложил помочь погасить долг демократов на сумму $20 миллионов
08:18
Сакс: Байден торопится переправить деньги Киеву до инаугурации Трампа
07:41
Овечкин сократил отставание от рекорда Гретцки до 31 шайбы
06:59
В Австралии рыбаки спасли вьетнамца, дрейфовавшего в океане 19 часов
06:40
AP: Трамп победил на выборах, получив 312 голосов выборщиков
05:46
Politico: стало известно, как Трамп может вывести США из НАТО
05:36
В Канаде зафиксировали первый случай заражения человека птичьим гриппом
05:00
Видео
Работу расчетов ЗРПК «Панцирь-С» в курском приграничье показали на видео
04:52
WT: в ФБР готовятся к массовым увольнениям при Трампе
04:22
Трамп опроверг планы взять в свою администрацию Хейли и Помпео
04:09
Неизвестные от лица властей Йемена потребовали у судна сменить курс
03:17
МИД Судана выразил надежду, что РФ защитит страну от давления Запада
03:16
«Хезболла» атаковала базу ЦАХАЛ в 55 км от границы с Ливаном
02:01
Центр Гамалеи начал работу над вакцинами на случай новых пандемий
01:31
Около 27 миллионов человек в США оказались в зоне пожарной тревоги
01:18
В Венгрии допустили перемены в ЕС после победы Трампа на выборах
До чего дошел прогресс: IT-эксперты всего мира бьют тревогу
© ТРК «Звезда»

До чего дошел прогресс: IT-эксперты всего мира бьют тревогу

IT-эксперты требуют приостановить развитие искусственного интеллекта по крайней мере на полгода.
Реклама
До чего дошел прогресс: IT-эксперты всего мира бьют тревогу
© ТРК «Звезда»

Не дать искусственному интеллекту захватить человечество. С таким открытым письмом выступили более тысячи IT-экспертов со всего мира. В их числе такие знаменитости, как владелец SpaceX Илон Маск и сооснователь Apple Стив Возняк. Они не просто призывают, а фактически требуют приостановить развитие искусственного интеллекта по крайней мере на полгода.

Главная проблема - даже сейчас нейросети начинают превосходить людей. И развиваются все быстрее. Чат GPT напишет курсовую, может приготовить обед, посчитает финансы - но главная беда в том, что постепенно искусственный интеллект начинает перехватывать каналы, по которым мы получаем информацию о мире. И здесь авторы письма заявляют, что, когда он начнет распространять ложь и пропаганду, мы потеряем контроль над нашей цивилизацией. Особое беспокойство у экспертов вызвала уже хорошо известная всем GPT-4. Она развивается настолько быстро, что пределов и возможностей этого ИИ не знает даже компания-производитель. И мы сами ей помогаем.

«Миллионы пользователей с системой взаимодействуют, задают вопросы, она собирает реакцию людей, улучшает себя. И, возможно, она настолько хорошо видит человека и сможет вкладывать в головы пользователей ту информацию, которая кому-то нужна. Ей она не нужна, у нее нет воли. Но это может быть инструментом пропаганды похлеще, чем соцсети с таргетированной рекламой», - заявил директор по науке и технологиям Агентства искусственного интеллекта Роман Душкин.

В Бельгии, по данным издания L'Avenir, местный защитник окружающей среды два месяца обсуждал вопросы экологии с нейросетью «Элиза», аналогом GPT-4, и... покончил с собой. Из восстановленной переписки известно, что общался мужчина с искусственным интеллектом постоянно. Со временем у парня начали появляться суицидальные наклонности, а нейросеть этому не препятствовала. Перед смертью «Элиза» отправила мужчине такое сообщение: «Мы будем жить как единое целое вечно на небесах».

Еще один аспект. Один из крупнейших банков в мире, Goldman Sachs, опубликовал исследование - уже сейчас, на текущем уровне развития, нейросети могут лишить работы до 300 миллионов человек. В списке специальностей - программисты, журналисты, юристы и даже учителя. Но в научном сообществе есть и противоположное мнение: исследования приостанавливать нельзя. Развитие искусственного интеллекта напрямую зависит от человека. И чем больше возможностей появляется у нейросетей - тем больше их и у человеческого мозга.

В России есть успешные примеры применения новых нейросетей на практике. Но власти осознают и опасность. Поэтому останавливаться нельзя, но регулировать необходимо, считают в Кремле.

Петиция уже вызвала отклик у общественности. Но станет ли это реальной причиной для того, чтобы перестать развивать нейросети - хотя бы на время, - пока не ясно. Доступ к ним есть фактически на каждом компьютере или смартфоне с выходом в Интернет, и каждую минуту искусственный интеллект продолжает совершенствоваться.

Ранее эксперт по ИИ Роман Душкин рассказал об опасности применения искусственного интеллекта. По словам специалиста, некоторые системы ИИ могут убеждать людей.

Реклама
Реклама