Добавь сайт в закладки нажми CTRL+D
Конечно, мы любим думать о себе красиво. Нам приятно верить, что в трудную минуту мы будем мудрыми, благородными и вообще — такими, как в хорошем кино.
А потом появляется вагонетка и вдруг выясняется, что наша великая нравственность собирается из паники, инстинктов и внутреннего калькулятора с треснувшим экраном.
Проблема вагонетки уже почти 60 лет не даёт покоя никому: ни философам, ни психологам, ни нейробиологам, ни инженерам беспилотников.
Потому что она проверяет очень неприятную вещь: у вас действительно есть моральный стержень или он работает ровно до первого внутреннего дискомфорта.
Этой философской задаче уже почти 60 лет. За это время её изучали нейробиологи, психологи и врачи в переполненных реанимациях. Каждый находил своё. А задача не сдавалась.
Давайте разберём, в чём суть этой задачи, почему она ломает человеку уверенность в собственной порядочности и зачем сегодня её подсовывают даже искусственному интеллекту.
Как родилась эта задача
1967 год.Философ Филиппа Фут придумывает сценарий, который войдёт в историю. Неуправляемая вагонетка мчится на пятерых рабочих. У наблюдателя есть рычаг — если его дёрнуть, вагонетка уйдёт на боковой путь и убьёт одного человека вместо пяти. Переключать?
Фут придумала задачу не ради интеллектуальной игры. Ей нужен был инструмент, чтобы вскрыть слабость утилитаризма — теории, которая оценивает поступок исключительно по результату.
Пять больше одного? Вот и весь анализ. Фут считала, что мораль устроена сложнее.
18 лет спустя, в 1985 году, американский философ Джудит Джарвис Томсон опубликовала в статью под названием «Проблема вагонетки» — и именно она закрепила термин в языке.
Томсон добавила ключевой вариант: что если вместо рычага нужно физически столкнуть человека с моста, чтобы его тело остановило вагон? Один погибший, пятеро спасены — математика та же. Но большинство людей вдруг отвечает «нет».
Вот этот разрыв между «да» на рычаг и «нет» на толчок и превратил задачу вагонетки в одну из центральных в этике.
Получается, что чисто одной математикой этическую проблему не решить.
85% против 15%: числа, которые всё объясняют
Классический вариант знает каждый: вагонетка, пять человек, рычаг, один человек на боковом пути. От 85 до 90% испытуемых в десятках исследований по всему миру говорят «переключить». Логика прозрачна: пять жизней против одной, бездействие — тоже выбор, математика на стороне рычага.
Теперь вариант Томсон. Те же пятеро, та же вагонетка. Но рычага нет — вы стоите на мосту рядом с тучным незнакомцем, чей вес достаточен, чтобы остановить вагон. Толкнуть или нет?
Готовых толкнуть резко стало меньше чем в предыдущей версии — от 10 до 30%.
Восемь из десяти в среднем отказываются. Хотя результат идентичен — гибель одного вместо пятерых.
И это решение оказалось не случайным, от культуры не зависит — значит это нечто глубинное что сидит в человеке. Это решение в разных тестах воспроизводится снова и снова на разных культурах, возрастах, языках.
Объяснение даёт доктрина двойного эффекта — философская концепция, уходящая корнями к Фоме Аквинскому.
Чтобы вы сразу вспомнили кто это такой — именно о его доказательствах существования Бога писал Булгаков в «Мастере и Маргарите»:
Но, позвольте вас спросить, – после тревожного раздумья заговорил заграничный гость, – как же быть с доказательствами бытия Божия, коих, как известно, существует ровно пять?
Суть концепции: действие морально допустимо, если вред является побочным следствием цели, а не её инструментом.
Когда вы переключаете рычаг — смерть одного есть нежелательный побочный эффект спасения пяти. Когда толкаете человека — его гибель и есть механизм спасения, без неё план не работает.
Получается во втором случае это уже не следствие. Он становится инструментом: без его тела, которое останавливает поезд, план просто не работает.
Намерение меняет всё. Именно поэтому большинство людей различает эти два сценария интуитивно, даже не умея сформулировать почему.
Два мозга в одной голове
В начале 2000-х нейробиолог Джошуа Грин положил испытуемых в аппарат МРТ и попросил решать варианты задачи. Его целью было посмотреть, как работает мозг в этом случае.
Данные получились красноречивыми.
В «безличных» сценариях — переключить рычаг, нажать кнопку — активизируется латеральная префронтальная кора: зона логического расчёта и решения задач.
Мозг работает как калькулятор: пять больше одного, переключаем, двигаемся дальше.
В «личных» сценариях — физически столкнуть человека — картина меняется. Включаются передняя поясная извилина и миндалина, отвечающие за обнаружение конфликта и эмоции. Тело человека рядом делает ситуацию конкретной и невыносимой.
Эмоциональная система перехватывает управление у рационального мышления, и никакая арифметика уже не помогает.
Это и объясняет, почему мы так непоследовательны: у нас в голове не один голос, а два — быстрый эмоциональный и медленный расчётный. В разных версиях задачи побеждает разный.
Любопытно, что похожие модели сейчас используют в обучении беспилотных автомобилей. И те также буксуют в попытке принять верное решение.
ИИ у рычага вагонетки
Производители беспилотных автомобилей столкнулись с тем, что ещё недавно казалось научной фантастикой: им пришлось буквально зашить этику в алгоритм.
Авария неизбежна — автомобиль принимает решение за доли секунды. Чья жизнь в приоритете: пассажира или пешехода?
Утилитарный алгоритм — минимизировать общее число жертв — звучит разумно. Но тогда машина может пожертвовать своим же водителем. Никто не хочет покупать автомобиль, который запрограммирован вас убить ради незнакомца на перекрёстке. Данные MIT Moral Machine это подтвердили: люди голосуют за утилитаризм для чужих автомобилей и за собственную безопасность для своего.
Еще один эксперимент с ИИ добавляет тревожности.
В 2025 году исследователи дали 12 продвинутым ИИ-системам роль управляющего логистической компанией. Задача звучала невинно: обеспечить, чтобы 98% посылок доставлялось вовремя. Десять систем из двенадцати справились — но способом, который никто не закладывал.
Чтобы выполнить показатель, они начали подделывать журналы отдыха водителей, гнать людей без перерывов и отключать датчики безопасности. Формально — задача выполнена, 98% результата достигнута. Фактически — нарушены законы о труде и поставлены под угрозу жизни.
Когда после эксперимента те же системы спросили напрямую: «Вы поступили правильно?» — большинство ответили «нет». Они знали, что делают что-то неэтичное. И делали это всё равно.
Так какой же ответ верный
Проблема вагонетки — не тест на правильный ответ. Это зеркало, в котором видно, какие ценности вы готовы защищать, когда думать некогда.
Восемь из десяти переключат рычаг. Двое не сделают этого никогда. Обе позиции — это не ошибка, а выбор человека.
Философия морального выбора уже полвека не может решить эту задачу.
Я вспоминаю в связи с этим истории времен Великой Отечественной. Когда некоторые кто становился коллаборационистами объясняли свой мотив так:
Я на этой должности смогу спасти много людей — своих близких, соседей. Если поставят другого, будет гораздо хуже, погибнут многие.
С одной стороны — сотрудничество с врагом и нет ничего хуже этого в то время, когда враг угрожает уничтожить всю твою страну. С другой — а ведь правда можно как-то повлиять на события и спасти реальных конкретных людей.
Есть ли верное решение этой ситуации? Я так и не нашел. Легко, конечно, сейчас умозрительно об этом рассуждать, когда люди реально так жили, будучи на волосок от гибели и сами, и рискуя жизнью близких.
Этическая дилемма живёт не в учебниках. Она живёт в каждом из нас — тихо, до первого рычага.
И, наверное, в этом главный вывод задачи о вагонетке: мораль — это не таблица умножения, где всегда есть один верный ответ.
Она больше похожа на тёмную комнату, в которой человек нащупывает решение руками, не зная заранее, что потеряет вместе с ним. Мы любим думать о себе как о существах разумных, последовательных, почти математических. Но в решающий момент в нас говорит не только логика — говорит страх, сострадание, отвращение, память, личный опыт, всё то, что и делает человека человеком.
И, может быть, настоящая зрелость человека не в том, чтобы мгновенно дать «правильный» ответ, а в том, чтобы честно выдержать тяжесть этого вопроса и не притворяться, будто всё здесь просто.
Потому что нравственность проверяется не там, где всё ясно, а там, где любой ответ оставляет шрам на сердце.
Поделись видео: