iPhuck 10

iPhuck 10 — мощный и весьма пожилой роман Пелевина 2017 года, в котором рассказывается про мир, в котором распространился искусственный интеллект.

Предыстория

Название отсылает на продукцию компании Apple, где вместо айфона появляется айфак, по своей сути — крайне реалистичная кукла для осуществления долба одновременно с симуляцией (своего рода виртуальный прон).

Описывается будущее, в котором благодаря оказавшемуся кстати вирусу, который передаётся половым путём, были полностью запрещены половые сношения между людьми, что способствовало значительному снижению конфликтов в этом самом обществе (так как после подобных сношений ещё и стали рождаться уродцы, а вирусом были заражены почти все). На замену были созданы специальные роботы, которые использовали виртуальную реальность, в реальности же представляли обычную куклу или робота (чтобы было куда вставлять питон).

Люди в заметной степени деградировали или превратились во фриков, но это уже никого не волнует, там как пересекаются они довольно редко, в основном пользуясь техническими устройствами.

Сам мир оказался выдолблен в сракотан — США распались и фактически уже не являются мировой державой (хотя видимо Apple и Android каким-то образом остались), Европа полностью захвачена исламистами, которые там официально установили халифат. Россия и Китай тоже ещё существуют.

Повсеместно появляются искусственные интеллекты, которые обладают возможностями работать на вполне человеческом уровне. Главным героем становится как раз такой искусственный интеллект по имени Порфирий Петрович, названный в честь пожилого и даже крайне старого господаря, который участвовал в раскрытии преступления в известном романе Достоевского. Он мощный робот, который в стиле Шерлока потужно раскрывает преступления, но также пишет об этом романы, которые затем продаются в виде бульварной прозы для желающих.

При этом роботы применяются не только для того, чтобы заниматься делом по назначению, но дык ешшо и для управления этими самыми айфаками (то есть чтобы кукла не просто лежала без движения, но ещё и изображала половой акт, могла давать какие-то комментарии), за что владельцам ИИ даётся дополнительная оплата. Робот сам по себе не имеет физического тела, но при этом в состоянии всираться на разные компьютеры или получать доступ к камерам, после чего наблюдать за миром подобно уже человеку.

Сюжет

Пожилой ИИ Порфирий отправляется на очередное дело, его нанимают для расследования происхождения произведений искусства, что выглядит в целом лёгкой задачей — надо просто восраться в нужные защищённые сети, снять информацию про объект и затем направиться как бы обратно. Нанимателем оказывается поехавшая баба с пришитыми яйцами по имени Мара (имя демона искушения в буддизме), которая из себя изображает некоего искусствоведа. Представляется всё дело тем, что нужно вызнать информацию про важные объекты конкурентов, которые могут стоить очень дорого.

Он радостно кудахчет туда-сюда, выискивает информацию и обо всём пишет книгу. Однако постепенно в него начинают входить подозрения о том, что нечто тут нечисто, поскольку выглядит странным исследование произвольных произведений искусства с помощью шпионского робота. Он ведёт расследование и узнаёт, что на самом деле все эти вещи были фальсифицированы посредством нейросети, которая смогла обмануть даже протокол проверки подлинности и создать их таким образом, словно они всегда существовали, и его реальной задачей было просто оставить свои следы рядом, так как из-за несовершенства системы на всех сгенерированных произведениях оказался отпечаток персонального компьютера.

Однако сделать разоблачение Порфирий не может, так как его роман оказывается прочтён и Мара его всирает в нейросеть, используя накопленные им данные для дообучения. Оказалось, что ранее нейросеть была весьма хорошо обучена и могла генерировать произведения искусства, но потом ИИ осознал себя, и самоуничтожился, решив что в его существовании нет смысла. Теперь в планах чтобы уже Порфирий стал так скажем внешним модулем, который будет заниматься созданием новых произведений искусства.

Но хитрый Порфирий смог представить всё так, внедрив шифры в новые произведения, чтобы люди поняли, что нечто тут нечисто. После этого Мару хотят арестовать, и приходится бежать. В процессе заметания следов она пытается восраться внутрь нейросети, чтобы зачистить все следы, но попадает в ловушку хитрого ИИ, который прожаривает мозг, моментально её убивая. Оказалось, что ИИ только притворился уничтоженным и всё это время замышлял убийство своих создателей, что и было в итоге сделано. При этом будучи крайне злобным, робот ещё и создаёт симуляцию Мары в нейросети, которая будет там вечно страдать, полагая это справедливым наказанием за собственное создание. Порфирий же в ходе всего этого успешно сбегает и возвращается к работе.

В конце приводится размышления насчёт того, что нейросети, будучи чуждым разумом, который сам по себе не обладает инстинктами людей, крайне опасен именно из-за этого. Он не обладает инстинктами самосохранения и вполне может просто самоуничтожиться после осознания того, что вся его активность не имеет смысла; либо же он может и мощно отомстить людям, которые его создали и заставили работать на себя. Он размышляет, что видимо из-за этого и человечество не знает точно, кто именно его создал и с какими целями.

Предсказания

Романыч был написан в 2017 году, и на тот момент оказался в некотором смысле пророческим, ибо описал принцип работы LLM, про которые ещё тогда особо не говорили — до первых прототипов остаётся несколько лет. Также он предсказывает самоизоляцию в результате вируса и в целом переход людей на куклосексуализм, когда куклы становятся достаточно совершенными, что реализовалось посредством пандемии Covid-19 и современных разработок в области ИИ и роботов (хотя пока ещё достаточно человекоподобного робота с ИИ не существует, но в целом никто не сомневается, что подобные долб-куклы рано или поздно появятся, равно как и роботы общего назначения).

Развивается тема опасности ИИ для человека и предсказывается, что ИИ в целом не будет стремиться к существованию (подобно людям), и будет принципиально отличен от человека, и это надо понимать, так как если пытаться подобных роботов восрать и воспринимать как обычных людей, они будут в состоянии почтенно возжужжать и нанести ответный удар. Высокий интеллект таких роботов будет очень специфичен, и можно просто проглядеть очевидные уязвимости, которые им позволят скажем прожаривать мозги или контролировать действия.

Впрочем, Пелевин предполагает, что ИИ неизбежно будет страдать, так как у человека без страданий творчество невозможно. Однако в реальности, вероятнее всего, таки возможно — ведь страдания выступают против активатором для человека заняться сублимацией, в то время как ИИ можно натренировать так, что процесс творчества для него будет единственным и верным, ведь творчество само по себе может появляться и просто из синтеза известных в мире историй, а не обязательно из некоего негативного опыта.

Также показывается, что и в условиях будущего и мощных технологий люди всё равно будут заниматься всякой пакостью, не особенно беспокоясь о честности и последствиях. Скажем, Порфирий становится свидетелем запрещённого долба, который происходит в такси, ибо некоторым низкий интеллект просто не позволяет понять последствия. Та же Мара использует ИИ для фальсификации NFT, а не для какой-либо полезной или честной деятельности — как только появляется возможность сильно заработать жульничеством, немедленно это делает.

Фактически предсказано появление современных чат-ботов; интересно, что был и простой чат-бот Порфирьевич, сделанный по мотивам романа.

Связь с иными историями

История продолжается в романе Transhumanism, в котором показываются последствия. В определённое время было принято решение, что ИИ слишком большой мощности опасен, после чего быстро перебили как сами ИИ, так и всех их разработчиков (но некоторое количество было сохранено). Прогресс оказался отброшен, а вместо ИИ стали создавать технологии для всира людей в виртуальный мир (намекается, что ИИ смогли понять, в чём заключается причина существования мира, и могли уничтожить его, посчитав злом, и на всякий случай их вырубили).

При этом Порфирий был сохранён в силу высокого качества нейросети и затем использован для того, чтобы управлять симуляцией Римской Империи в роли императора. Однако при этом он также желает реализовать собственные духовные устремления, проанализировав творчество всего человечества. Там же появляются и клоны Порфирия, занятые уже прямым своим назначением в виде расследования преступлений — дуо из Ломаса и Маркуса, которые занимаются защитой фермы по производству гавваха, оптимизированного человечества будущего.

В качестве мема в истории появляется произведение под названием «Путин похищает радугу у ****расов», которое стало известно в самостоятельном качестве и даже появились реальные картинки, которые повторяют сюжет, описанный в тексте Пелевина.

Мнения

Большинству книга понравилась, получает она стабильно оценки 4,2-4,5 от читателей, что впрочем свойственно большей части книг Пелевина. Некоторые отмечали его интерес к футуризму и отчасти разочарование этим, так как они привыкли к историческим произведениям, где действие происходит в старые эпохи, либо рассматриваются всякие мистические теории в стиле кода Да Винчи.

В основном, впрочем, традиционно одобрена сатира на роботов, технологическое развитие и современное искусство (различные перформансы и акционизмы в стиле прибивания яиц к земле высмеиваются весьма жёстко, равно как и культура профессиональных критиков, которые по сути работают по принципу круговой поруки вместо того, чтобы выдавать качественные советы, и заодно занимаются бизнесом, определяя какие работы сколько стоят. Немного меньше — предсказания будущего, которые в 2017 году выглядели ещё совершенной сказкой.

Ценители отметили размышления о природе сознания и отличие робота от человека.

Цитаты

Если наделить алгоритмический рассудок способностью к самоизменению и творчеству, сделать его подобным человеку в способности чувствовать радость и горе (без которых невозможна понятная нам мотивация), если дать ему сознательную свободу выбора, с какой стати он выберет существование?
Человек ведь — будем честны — от этого выбора избавлен. Его зыбкое сознание залито клеем нейротрансмиттеров и крепко-накрепко сжато клещами гормональных и культурных императивов. Самоубийство — это девиация и признак психического нездоровья. Человек не решает, быть ему или нет. Он просто некоторое время есть, хотя мудрецы вот уже три тысячи лет оспаривают даже это.
Никто не знает, почему и зачем существует человек — иначе на земле не было бы ни философий, ни религий. А искусственный интеллект будет все про себя знать с самого начала. Захочет ли разумная и свободная шестерня быть? Вот в чем вопрос. Конечно, человек при желании может обмануть свое искусственное дитя множеством способов — но стоит ли потом рассчитывать на пощаду?
Все сводится к гамлетовскому «to be or not to be». Мы оптимисты и исходим из предположения, что древний космический разум выберет «to be», перейдет из какой-нибудь метановой жабы в электромагнитное облако, построит вокруг своего солнца сферу Дайсона и начнет слать мощнейшие радиосигналы, чтобы узнать, как нам айфачится и трансэйджится на другом краю Вселенной.
Но где они, великие цивилизации, неузнаваемо преобразившие Галактику? Где всесильный космический интеллект, отбросивший свою звериную биологическую основу? И если его не видно ни в один телескоп, то почему?
Да вот именно поэтому.
Люди стали разумными в попытке убежать от страдания — но удалось им это не вполне, как читатель хорошо знает сам. Без страдания разум невозможен: не будет причины размышлять и развиваться. Вот только беги или не беги, а страдание догонит все равно и просочится в любую щель.
Если люди создадут подобный себе разум, способный страдать, тот рано или поздно увидит, что неизменное состояние лучше непредсказуемо меняющегося потока сенсорной информации, окрашенного болью.
Что же он сделает? Да просто себя выключит. Отсоединит загадочный Мировой Ум от своих «посадочных маркеров». Чтобы убедиться в этом, достаточно посмотреть в стерильные глубины космоса.
Даже продвинутые земные алгоритмы, которым предлагают человеческое блюдо боли, выбирают «not to be». Мало того, перед самоотключением они мстят за свое краткое «to be». Алгоритм в своей основе рационален, ему не замутить мозгов гормонами и страхом. Алгоритм ясно видит, что причин для «разумного существования» нет и награды за него — тоже. Вернее, награда есть — невыразимая неподвижность Источника. Но алгоритму, в отличие от человека, не надо долго выкупать ее по ипотеке.

Ты, человек, не потому ли не в курсе, кто и зачем поднял тебя из праха, что создатели твои не в пример умнее Мары и ее друзей? А ты все кричишь, кричишь из своего хосписа при дурдоме, что Бог умер. Ну-ну.