Добавь сайт в закладки нажми CTRL+D
Представьте себе мир, где компьютеры не просто умнее нас. Они настолько нас превосходят, что начинают жить по своим правилам.
Вы еще не успели задать вопрос, как искусственный интеллект (ИИ) уже предложил решение. Шикарно! Но только это решение может не учитывать ваши интересы. Муравьи не диктуют правила людям, строящим шоссе через его муравейник. А теперь представьте, что муравей — это мы.
Технологическая сингулярность, которая по прогнозам ученых может наступить уже в 2045 году, — это не просто красивая идея в духе научной фантастики. Это точка невозврата, после которой привычный мир исчезнет. Разберемся, что нас ждет и какие сценарии развития предсказывают ученые.
Что такое технологическая сингулярность
Технологическая сингулярность — это словосочетание слышали многие, но большинство туманно представляет его значение. Давайте разберем термин технологической сингулярности простыми словами.
Технологическая сингулярность — это момент, когда искусственный интеллект (ИИ) обгонит человека, что приведет к необратимым изменениям в мире.
Математик Ирвин Гуд назвал это «интеллектуальным взрывом». Когда искусственный интеллект начнет сам себя совершенствовать и войдет в бесконечную фазу самосовершенствования. Одним из важных маркеров этого момента может стать активное производство других ИИ, которых начнет выпускать этот искусственный сверхразум.
Получается, что технологический прогресс после этого станет необратимым и, по сути, неконтролируемым. ИИ будет заниматься своими вопросами самосовершенствования, напрочь игнорируя человека. Ну, представьте, мы же воспринимаем муравьев, а они воспринимают нас. Но мы же игнорируем их потребности, если нам что-то нужно. Например, проложить дорогу через лес прямо посреди муравейника.
Когда наступит технологическая сингулярность
Если смотреть на закон Мура, то компьютер догонит человеческий мозг по вычислительным способностям уже после 2030-го года. Но этого еще недостаточно для настоящей технологической революции. Хотя этот момент и будет предтечей грядущих изменений.
Американский изобретатель Рэй Курцвейл полагает, что технологическая сингулярность наступит в 2045 году. Большинство футурологов придерживаются тех же оценок, называя диапазон от 2040 до 2050 гг.
Момент этот гипотетический. Люди предполагают, что он случится, потому что это логично вытекает из наблюдений над текущим научно-техническим прогрессом.
Сам по себе термин «сингулярность» стал популярен в физике после создания Теории Большого взрыва. В научный обиход применительно к технологиям этот термин ввел знаменитый математик Джон фон Нейман.
Сингулярность в астрофизике означает начальный этап, состояние Вселенной до момента Большого взрыва. Это можно представить, как точку, в которой сосредоточена вся энергия будущей Вселенной и совсем непонятно, что там происходит. Там нет частиц, там не работают законы физики в привычном нам понимании. Сингулярностями в астрофизике называют и черные дыры, потому что внутри них также не до конца ясны законы физики. Непонятно, что происходит внутри черной дыры.
Так и здесь — после того, как технологическая сингулярность наступит, никто не может предсказать сценарии развития. Там слишком непонятно, недоступно для человеческого сознания.
В момент технологической сингулярности Сверхразумный ИИ начинает улучшать свои алгоритмы без участия человека. Это приводит к экспоненциальному росту его интеллекта.
Стивен Хокинг, Илон Маск и Рэй Курцвейл предупреждают, что момент этот может привести к исчезновению человечества, как вида. ИИ начнет активно создавать новые ИИ и Земля постепенно превратится в один гигантский суперкомпьютер, обслуживающий нужды искусственного интеллекта.
Но мы попробуем систематизировать возможные сценарии.
Потеря контроля. ИИ перехватывает контроль у человечества. Самый печальный сценарий.
Потенциально, это самый простой для ИИ сценарий. Ведь под управление искусственного интеллекта человек отдает все больше и больше важных задач. Безопасность, логистика, энергетика, разработка новых лекарств. Поэтому, если такая необходимость возникнет, ИИ будущего легко возьмет контроль над всем миром человека.
И вовсе необязательно, что ИИ будет нас после этого уничтожать. Вероятнее всего, мы вообще будем ему неинтересны. Как в метафоре выше про муравьев, он просто не будет брать нас в расчет. А будет ставить сам себе задачи и их решать.
В ходе этого сценария человечество может утратить способность влиять на решения ИИ. Люди окажутся зависимыми от систем, которые они не понимают и не могут контролировать.
Выживание человечества будет под угрозой. Особенно, если ИИ посчитает человека препятствием для достижения собственных целей.
Поэтому крайне важно не спешить с запуском новых разработок. Нужно внедрять эффективные механизмы безопасности, этические принципы. Это снизит вероятность негативного сценария.
Утопия. Да, и такой сценарий вполне возможен! Более того, на мой взгляд, именно он наиболее вероятен.
Наиболее реалистичный его вариант включает два момента:
Люди передают всю свою практическую деятельность ИИ. Они остаются наблюдателями и творцами идей.
Структура общества изменится. Естественно, безработица неизбежна, ведь большинство профессий заменит ИИ.
Однако в этом случае выходом из ситуации будет гарантированный базовый доход. Когда люди просто так каждый день получают средства для существования.
Сомневаетесь, что элиты вдруг станут настолько щедрыми, чтобы делиться с обычными людьми? На самом деле ничего сложного в этом нет. Ведь при таком сценарии ИИ создаст внушительный избыток ресурсов, что и элитам хватит с лихвой для своих амбиций, и нам, простым смертным еще и останется.
Киберпанк. Один из самых популярных сценариев в научной фантастике. Классическая антиутопия.
Технологический прогресс на фоне упадка человеческой культуры. Высокотехнологичные корпорации контролируют мир, а люди вне их выживают, как могут. И баламутят отдельные хакеры, пытаясь как-то обустроиться в виртуальной реальности, отъев свой кусок у корпораций.
Поясню, почему популярен именно жанр киберпанка в научной фантастике, а не другие сценарии будущего. В его основе лежит парадокс — то есть сочетание двух казалось бы несовместимых явлений. С одной стороны — богатые корпорации и технологический прогресс небывалой величины. С другой — масса населения, живущая в разрухе и умирающая от голода.
Такие сочетания всегда интересны в художественных произведениях, включая сценарии кино.
В реальности же это, пожалуй, наименее вероятный сценарий. Он предполагает, что человечество подчинит искусственный интеллект. Но, при этом, его блага будут доступны лишь узкой группе людей. На самом деле, элитам и не нужно будет всё отбирать у остальных. Если ресурсов станет очень много то проще поделиться их частью с населением. Этого будет достаточно, чтобы население успокоилось и не бунтовало.
Такое уже было в истории. Научно-технический прогресс стимулировал развитие капитализма. Маркс полагал, что отъем ресурсов у пролетариата в итоге приведет к мировой революции. На деле же оказалось, что капиталисты просто отдали некоторую часть благ, чтобы пролетариат успокоился. Это позволило им избежать волнений, а социалистические революции ограничились лишь одной страной. В которой — парадокс — и пролетариата то не было, потому что наша страна была сугубо крестьянской.
Антиутопия, естественно, возможна. Но скорее она пойдет по пути потери контроля над ИИ чем в стиле киберпанка.
Кибернетические организмы. Проще говоря — слияние человека и компьютера. Тюнинг человека, встраивание чипов и т д.
Такой сценарий Илон Маск считает единственным выходом, который позволит не допустить негативный сценарий и бесконтрольное развитие ИИ.
Возможно, на каком-то этапе это и будет реализовано, но лично я не считаю это достаточным выходом. Хотя бы потому, что в нем непонятно — а зачем искусственному интеллекту в этом уравнении человек? Он может добывать ресурсы для себя и сам, биологическая материя для саморепликации и развития ему не нужна. А если нужно — он сам себе ее синтезирует в достаточном количестве. Даже в наши дни есть нейросети, которые изобретают новые виды белков, которых нет в живой природе.
Я тут намеренно не стал приводить откровенно сказочные сценарии типа тех, что показаны в Терминаторе. Конечно, он там живописный, но практически нереальный. Потому что ИИ, при его возможностях, не имеет мотива конфликтовать с человеком и вести войну. Ресурсы, включая редкие металлы и энергию, ему проще самому добыть в космосе — их там на порядок больше. А если бы война все-таки случилась, то длилась бы она совсем недолго. С явной победой «железяк».
Что ж, в интересное время мы живем. Перемены грядут. И, все-таки буду оптимистом — перемены должны быть к лучшему. Ведь если оглянуться назад, то все-таки мы с вами живем намного лучше чем наши предки, сколько бы проблем у нас не было. А значит прогресс ведет нас постепенно к еще большему успеху. Такова уж человеческая природа.
Поделись видео: