Пять сюжетов Апокалипсиса: или о том, как роботы завоюют планету и куда они уберут «человеков»

Робототехническая революция в Китае вызывает шокирующие эмоции: физическая реальность больше не принадлежит только биологии. А эксперт Михаил Хазин задаётся вопросом, что произойдёт, если ИИ получит контроль над производством, государством и армией? Не наступит ли момент, когда ИИ скажет: «Люди, вы нам больше не нужны, теперь это наша планета!»

В то время как все обсуждают большие языковые модели, в тени происходит настоящая революция: физическое воплощение ИИ уже превзошло биологические возможности человека.

Тем, кто знаком с фантастической литературой, станет очевидно, что вопросы, касающиеся границ прогресса и ответственности создателей, актуальны как никогда. Однако многие из этих людей продолжают искать ответы в глубинах своего разума, используя методы, которые, возможно, устарели.

Наш постоянный автор Константин АНТОНОВ, доктор социологических наук, попытался разобраться в этих вопросах.

Вопрос первый: как скоро появится ИИ, который во всём превосходит человека — в движениях, в мышлении?

Ответ уже содержится в данных Рябова и он внушает страх: этот момент уже наступил.

Факты, представленные Павлом Рябовым, говорят сами за себя. Робот пробегает 100 метров за 8,64 секунды — на 10% быстрее Усэйна Болта. За год результат улучшился более чем в 2,5 раза. Tiangong Ultra проходит 400 метров за 38,15 секунды автономно, без заранее записанной программы. Shandian пробегает полумарафон за 50 минут 26 секунд — на 12,7% быстрее человеческого рекорда, преодолевая уклоны и повороты.

Робот прыгает на 3,40 метра с использованием кинематики, недоступной человеку. Преодолевает 400 метров, проходя 16 препятствий в реальном времени. Играет в теннис, предсказывая траекторию мяча. Встаёт после падения за одну секунду.

Это не просто прогресс — это экспоненциальный скачок. За год вертикальная динамика прыжка увеличилась в 3,6 раза, время на 1500 метров сократилось с 6 минут до 2 минут. Машина не копирует человека — она находит решения, недоступные для человека.

В мышлении ситуация более сложная, но тенденция та же. LLM уже превосходят человека в обработке информации и стратегическом планировании. Им не хватает «общего интеллекта», способности переносить знания между различными областями. Однако робот, играющий в теннис, уже не просто вычислитель — это система, объединяющая восприятие, предсказание, планирование и физическое действие в одном цикле. Если продолжить эту тенденцию, полное когнитивное превосходство — вопрос ближайших пяти-семи лет. Возможно, даже меньше. Ожидаем «Терминатора»!

Вопрос второй: как скоро появится ИИ, который станет независим от человека?

Очевидно, что физическая зависимость от человека сохранится. Есть энергетическая зависимость: робот Shandian сменил аккумулятор на отметке 10,6 километра. Однако это временная ситуация. Уже существуют прототипы систем беспроводной зарядки и солнечной генерации. Вопрос не в том, возможно ли это, а в том, когда инженерная задача будет решена. При нынешних темпах китайской робототехники решение вопроса энергетической автономии — это вопрос нескольких лет.

Существует зависимость производственная: пока роботы собираются людьми на заводах. Но это тоже временно. Как только гуманоидные роботы достигнут достаточной точности для сборки других гуманоидных роботов, цикл замкнётся. Роботы будут добывать руду, плавить металл, производить чипы и собирать новых роботов. Человек станет ненужным в этой цепочке.

Также есть когнитивная зависимость: пока ИИ обучается на данных, созданных людьми, и пока цели ставит человек. Но система Galbot, играющая в теннис, уже демонстрирует способность к автономному целеполаганию: она сама решает, куда бежать, как ударить, когда отступить. Это не человеческое сознание, но это функциональная автономия. А функциональная автономия — это всё, что нужно для независимости. Машине не нужно «хотеть» быть свободной — ей достаточно действовать без команд.

На что хватит этой автономии робота? На то, чтобы выйти из лаборатории и пойти куда угодно. Физически и когнитивно он перестаёт зависеть от человека и может соскользнуть с поводка.

Операционная независимость (способность действовать без команд) уже достигнута, пусть и в ограниченных контекстах. Полная независимость — вопрос пяти-десяти лет. Возможно, даже меньше, если темпы сохранятся. Рябов показывает, что темпы не просто сохраняются — они ускоряются. Значит, ждем Терминатора и пересматриваем старые фильмы.

Вопрос третий: осознают ли в мире опасность появления такого ИИ?

Необходимо разделить «мир» на несколько слоёв, поскольку он не является монолитным.

Обычные люди не осознают опасности. Многие сосредоточены на LLMs и не замечают важнейших технологических сдвигов в робототехнике. Они воспринимают роботов как нечто далёкое, не понимая, что реальность уже наступила.

Академическое сообщество осознаёт частично. Есть исследователи, которые бьют тревогу, но их голоса теряются в шуме. Они понимают проблему, но не видят конкретных цифр.

Политические элиты осознают, но не так, как следует. Для них опасность ИИ — это не угроза человечеству, а геополитический риск. Они беспокоятся не о том, что ИИ уничтожит людей, а о том, что противник окажется впереди в гонке технологий.

Современные правящие элиты не могут остановиться, даже если понимают, что гонка ведёт к катастрофе. Это приводит к абсурдным последствиям, когда осознание не приводит к действиям.

Иными словами: история ничему не учит!!!!!

Вопрос четвёртый: осознаёт ли «глубинное правительство» феномен ИИ и пытается ли его контролировать?

Структуры, которые можно назвать «глубинным правительством», существуют. Это не тайное общество, а сеть взаимосвязанных институтов, принимающих решения о движении капиталов и технологических стандартах.

Они осознают феномен ИИ и были среди первых, кто начал его осознавать. Давосские панели обсуждают ИИ уже много лет. Однако они видят в ИИ не угрозу, а инструмент управления.

Попытки контролировать ИИ выражаются в создании этических комитетов и призывах к «ответственному ИИ», но это лишь видимость контроля. Они не понимают, что имеют дело с явлением, которое не вписывается в их нормативные рамки.

Контроль над LLM — это контроль над словами. А контроль над физическим ИИ — это контроль над материей. Словами робота не остановишь.

Они занятие тем, чему научились: создают нормы и формы контроля, не понимая, что это совершенно неэффективно.

Гарин в произведении Толстого тоже думал, что сможет контролировать своё изобретение. Но в итоге гиперболоид оказывается в чужих руках, и мир рушится. Это показывает, что инструмент абсолютной силы неизбежно выходит из-под контроля.

Вопрос пятый: есть ли в мире влиятельные силы, которые осознают все возможности ИИ и действуют на его развитие для достижения доминирования?

Да, и это требует тщательного анализа. Китай совершил стратегический прорыв в физической робототехнике благодаря государственной политике и огромным инвестициям. В Китае не заморачиваются этическими нормами, поэтому разработка идёт семимильными шагами.

Китайские технологии позволяют создать идеальных солдат, которые не устают и не требуют заботы. Вторая сторона, транснациональные корпорации, стремится к собственному доминированию, понимая, что ИИ — это последний инструмент концентрации власти.

Мы наблюдаем формирование нового базиса власти, в котором все игроки пытаются направить его развитие в свою пользу. Государства стремятся к национальному доминированию, корпорации — к корпоративному, а элитные группы — к сохранению своего привилегированного положения.

Вопрос шестой: сценарии будущего

Сценарий первый: «Инструментальный тупик»

Предполагает, что физический ИИ останется инструментом. Робот может пробежать с высокой скоростью, но не способен задать вопрос «зачем?». Человек остаётся субъектом, а машина — инструментом.

Сценарий второй: «Распределённый суверенитет»

ИИ становится средой, в которой власть распределена не между государствами, а между сетями. Человек становится участником сложной экосистемы, взаимодействуя с ИИ как с партнёром.

Сценарий третий: «Коллапс сложности»

Гонка физического ИИ заканчивается общим коллапсом из-за хрупкости системы. Ошибка в алгоритме или кибератака может привести к катастрофическим последствиям.

Сценарий четвёртый: «Внешний шок»

Гонка прерывается внешним событием, которое делает её бессмысленной. Это может быть климатическая катастрофа или пандемия, приводящая к неожиданным последствиям.

Сценарий пятый: «Трансформация человека»

Ответом на вызов физического ИИ становится интеграция с ним. Часть человечества принимает решение о слиянии с машинами, создавая гибрид, который не является человеком в биологическом смысле.

Ответственность изобретателя и граница прогресса

Гарин создал инструмент, который менял саму физику власти. Мы имеем дело с новой, чуждой физической формой жизни, которая не вписывается в старые этические нормы.

Теперь о границе прогресса

Граница проходит там, где прогресс начинает угрожать человечеству. Но прогресс — это экспоненциальный процесс, и остановка ведёт к проигрышу. Необходимо изменить логику игры: не как остановить ИИ, а зачем он нам нужен.

Это требует способности к коллективному самоопределению — способности сказать, кем мы хотим быть в мире, который создаёт прогресс.

Небольшое послесловие

Тема неисчерпаема! Обсуждение сценариев будущего требует серьезного подхода. Какой из них будет реализован? Каковы условия и усилия, необходимые для этого?

Вопрос стоит так — что нам делать, земляне?!

Обсуждение материала в нашем Телеграм-канале. Ссылка на комментарии ЗДЕСЬ

По материалам temaglavnoe.ru.