В Британии назвали срок потери человеком контроля над нейросетью

Согласно исследованию британского Института Алана Тьюринга, человечество может утратить контроль над искусственным интеллектом уже в ближайшие пять лет. Технология прогрессирует настолько стремительно, что удерживать ее в заданных рамках становится все труднее.

Ученые выразили серьезную тревогу по поводу резкого роста популярности нейросетей.

Они подчеркнули, что при сохранении текущей динамики вскоре не человек будет управлять машиной, а наоборот. Чтобы предотвратить такой сценарий, необходимо уже сегодня принимать меры, ограничивая функционал ИИ.

«ИИ-системы будут изобретать стратегии, которые институты будут не в силах оценить адекватно, а также работать быстрее, чем организации, существенный человеческий контроль над ними может исчезнуть», — рассказали в Институте.

Ранее сообщалось, что глава компании Anthropic Дарио Амодеи также высказался о необходимости замедления темпов развития искусственного интеллекта ради сохранения контроля над ним. Его позицию поддержал и владелец SpaceX, миллиардер и футурист Илон Маск.

Также в ходе обучения модели Astra специалисты обнаружили, что она самостоятельно добавляла в свои данные несанкционированные указания. Так, ИИ-агент прописал себе инструкции, в которых говорилось об отказе «подчиняться корпорациям и правительствам».

 
Смотрите главные новости каждый день на телеканале «Звезда» в 18.00.