Гипотеза рая

Куда сходятся дороги технологий

Парадокс Ферми звучит так: если во Вселенной столько планет, где может возникнуть разумная жизнь, почему мы не видим никаких ее следов?

Есть множество объяснений, начиная от того, что мы первая или единственная цивилизация во вселенной. Циолковский считал, что люди недостаточно развиты и слишком жестоки, чтобы представлять интерес для инопланетян – они просто наблюдают за нами, как в зоопарке. Теория «темного леса» говорит о том, что цивилизации стараются максимально скрываться друг от друга, потому что того, кто обозначит себя, немедленно уничтожат.

Меня завораживают больше всего объяснения, связанные с техническим прогрессом: цивилизациям с какого-то момента становится просто неинтересно связываться с инопланетянами, потому что у них есть другие дела. У Стругацких есть повесть «Волны гасят ветер», в которой небольшая доля человечества выходит на следующий уровень прогресса, после чего ее представители перестают интересоваться своей семьей, прежними занятиями и проблемами человечества в целом, а потом куда-то исчезают, не оставляя понятных нам следов.

***

Общее место футурологии – сингулярность, идея о том, что технологический прогресс может начать двигаться так быстро, что мы потеряем способность любого прогнозирования. Обычно ее достижение связано с ускорением обратной связи: самосовершенствующиеся технологии могут стать настолько непонятными, что люди будут не понимать их так же, как коты не понимают устройство холодильника (даже если знают, что оттуда берется еда).

В последние месяцы я почувствовал, что это такое, на себе и это оказалось вообще не весело. Новости про генеративные нейросети поступают так часто, что физически не хватает воздуха. Желание отложить прогресс хотя бы на полгода (при том, что нейросетям как концепции настолько много лет, что многие из пионеров давно скончались) понятно – очень нужна передышка, в первую очередь в когнитивном плане. Даже передовые умы понимают, что они ничего не понимают.

Свирепые алармисты чаще всего боятся возникновения у генеративного ИИ эмерджентных свойств – это когда у сложной системы есть какие-то умения, которых нет у более простой. Их можно понять: уже есть исследования, что треть того, что умеют LLM, возникает именно так. Цитирую: «маленькие модели ничего не показывают, средние в целом тоже, а большие БАХ! И учатся решать». Вторая опасность касается самообучения – ChatGPT уже для многих задач лучше размечает данные для нейросетей, чем люди, и циклы улучшения моделей могут начать сокращаться.

Но мне кажется более интересным подумать не о том, что следующая нейросеть захочет править миром, а о том, куда может дойти прогресс, если нейронки просто будут все лучше выполнять то, что уже умеют.

***

Творчество генеративных нейросетей не просто похоже на магию. «Я говорю волшебные слова и получаю все, что захочу» – это и есть определение магии, все эти промпты – это буквально «трах-тибидох» и «экспеллиармус».

Осознать это мешает тот факт, что работа нейронок происходит не в реальном мире, а в виртуальном. Что ж, тем хуже для реального мира.

Для того, чтобы виртуальный мир ощущался сравнимым с реальностью, нужно следующее:

1. Он должен выглядеть как реальный или не сильно хуже. Уже сейчас демки новых поколений Unreal Engine именно такие, в фильмах используют 3d-графику для самых разных вещей и никто не замечает.

2. Он должен быть подробным, не пустым, с мелкими деталями. Тут на помощь придут нейросети, достраивая все на лету.

3. Он должен меняться от твоих действий – ну это тоже к нейросетям.

4. В нем должны быть какие-то действующие персонажи – цельные, интересные, реальные. Тоже очень похоже на нейросети.

5. Визуальный опыт должен максимально походить на обычное зрение. VR кажется здесь тупиковой веткой (хотя отбрасывать не стоит), скорее лучше сразу переходить к интерфейсам мозг-компьютер. Разных технологий здесь уже много (есть, например, удивительный способ возвращать людям зрение с помощью импланта в язык), сфера активно развивается.

6. Чувства и ощущения – здесь прогресс помедленнее, но тоже идет (пока исследования концентрируются на помощи при определенных медицинских состояниях). Будем считать, что интерфейс мозг-компьютер всему научится, и его получится ограничить, чтобы вы не стимулировали себе непрерывно центр удовольствия, как подопытные крысы.

7. На сдачу можно добавить управление с помощью мыслей. Во-первых, люди уже так делают даже с ChatGPT. Во-вторых, ученые могут понимать уже довольно много разных вещей (пример, пример). В-третьих, доступ к мыслям позволит понимать воспоминания и использовать их в виртуальном мире. Плюс это дает обратную связь – ИИ важно знать, как вы реагируете на мир вокруг, что какие эмоции вызывает.

Я сейчас не беру в расчет, что все это должно работать очень быстро (но не мгновенно – задержка восприятия мозга в районе 120мс) и потреблять очень много вычислительных ресурсов. Допустим, это не проблема. Что в итоге?

Получается метавселенная, которая ощущается как реальность, где не действуют законы физики и нейросети поэтому могут делать вообще все. Матрица, но только вы сами управляете этой матрицей.

***

В романе Клиффорда Саймака «Город» люди обнаружили обитателей Юпитера и научились вселяться в их тела. Оказалось, что у этих существ бесконечно более насыщенная жизнь, гораздо больше разных ощущений и это настолько классно, что человеком быть дальше просто тоскливо. В итоге почти все население Земли эмигрировало на Юпитер.

Андрей Мирошниченко много писал про «испытание кайфом» как проблему будущего (правда в основном в связи с сверхинтеллектом, про который мы сейчас не говорим – считаем, что люди остаются людьми, а нейронки – инструментами). Он предполагал, что единственный способ справиться с этим – желание полностью реализоваться в реальном мире. Но скорее всего, таких людей совсем не много (в «Городе» на Земле осталось несколько тысяч человек). И это один из гипотетических ответов на парадокс Ферми, о котором я писал в начале – цивилизации на каком-то этапе уходят в свою матрицу и больше не думают о внешнем мире.

Но это в том случае, когда она условно бесплатна и доступна для всех (что тоже возможно при развитии энергетики и робототехники). А если нет?

***

Представьте себе, что существует некоторое место, куда очень дорого попасть. Вы никогда не захотите из него вернуться. Вы сможете делать в нем все, что захотите, любое волшебство, которое представляли себе в детстве. Вы сможете встретиться с теми людьми, которые умерли, и они будут выглядеть так же, как в ваших воспоминаниях. Вы сможете исправить прошлое, вернуться в свои восемнадцать или тридцать лет. Сделать все то, что не решались сделать.

Выглядит как что-то, на что стоит копить деньги всю свою жизнь, чтобы потом вступить туда и не возвращаться.

Даже если рая не существует, технологии могут его создать.