После Второй мировой войны на островах Меланезии случился странный психоз. Аборигены, которые видели, как американские военные строят взлетные полосы, надевают наушники и машут палками (после чего с неба падают тушенка, сигареты и джип), решили: в ритуале дело. Когда янки ушли, островитяне соорудили из соломы макеты вышек, диспетчерских и самолетов. В наушники из скорлупы кокоса они выкрикивали: «Roger that! Over!» — искренне веря, что если копировать форму, то дух богов (читай — грузовой отсек) откроется снова.
Знаете, кому это напоминает современных ностальгирующих по СССР? Выйдите на любой российский форум «За возврат великой державы». Вместо бамбуковых вышек — ностальгический взгляд на плановую экономику. Вместо наушников из кокоса — рассказ о том, что колбаса стоила 2.20 и была «честной». Вместо имитации взлетной полосы — требование вернуть Госплан и запретить «этот ваш маркетинг».
Главное сходство: и тот, и другой культ — гениальная по наивности ошибка в причинно-следственных связях.
Карго-культист думает: «Если я буду носить палку как ружье и строить из листьев антенну, то «Железный Птица» принесет тушенку».
Ностальгирующий по СССР думает: «Если я буду носить значок ГТО, ругать либералов и кричать про империю добра, то с неба упадет квартира от завода, путевка в Крым и уважение к старикам».
Ни тот, ни другой не понимают одного: ресурсы не берутся из ритуала. Американские самолеты садились потому, что война. А советская колбаса стоила копейки, потому что государство забирало у колхозника зерно почти даром, доплачивая из нефтяной иглы. И «империя добра» держалась на очереди за сапогами и дефиците элементарных вещей.
Самое смешное и грустное — это когда современный карго-культист от политики садится на кухне в тельняшку, наливает третью чашку чая в подстаканник, и, поправляя карту СССР на стене, уверенно вещает: «А вот при Союзе люди не поклонялись доллару, у них была духовность».
В этот момент австралийский абориген в фальшивом шлеме летчика, сидящий в шалаше-«диспетчерской», абсолютно его понимает. И даже, кажется, подмигивает.
МОСКВА, 26 апреля. /ТАСС/. Ленинские комнаты, аналоги досуговых помещений в СССР стоит возродить в школах, на предприятиях и в организациях. Такое мнение выразил ТАСС член комитета СФ по науке и образованию Айрат Гибатдинов.
Ленинская комната в СССР являлась специальным помещением в воинских частях, школах, пионерских лагерях и на предприятиях, предназначенным для политического просвещения и коллективного досуга.
"На мой взгляд, стоит вернуться к практике создания Ленинских комнат в школах, на предприятиях и в организациях в обновленном и современном формате. Ленинские комнаты в советское время выполняли важную функцию: это были точки притяжения, где сочетались просвещение, досуг и воспитание", - сказал Гибатдинов.
Также он назвал показательным, что этот формат не исчез в армии. Ленинские комнаты сохранились в обновленном виде, они продолжают выполнять свою ключевую функцию по работе с личным составом, формированию ценностей и поддержке морального духа, отметил Гибатдинов. Причем такие пространства организовывают даже в полевых условиях, добавил он.
"Сегодня, на фоне попыток переписать историю и вытеснить российскую культурную повестку, подобные форматы снова становятся востребованными. Если государство не работает с исторической памятью - за него это сделают другие, но уже в чужих интересах", - отметил политик.
С появлением больших языковых моделей специалисты фиксируют миллионы случаев психозов, вызванных общением с чат-ботами. В чём причина этого явления и как получилось, что для современного человека вера в прогресс превратилась в культ карго?
Кадр из кинофильма режиссёра Стэнли Кубрика «2001: Космическая одиссея».
«Also sprach Zarathustra»
(нем. «Так говорил Заратустра» Симфония Рихарда Штрауса)
В 2022 году инженер компании Google Блейк Лаймон публично заявил, что чат-бот LaMDA, в создании которого он принимал участие, обладает разумом. Этот инцидент можно считать первым широко известным случаем ИИ-психоза в современной истории. Инженера отстранили от работы, а спустя некоторое время уволили. Большинству новость запомнилась как курьёз и пример наивного антропоморфизма, когда программу, генерирующую текст, приняли за разумное существо. Однако этот случай показателен, так как он поднимает ряд фундаментальных вопросов о восприятии современным человеком научно-технического прогресса и о том, как технологии в целом влияют на общество.
Блейк Лаймон — человек с непростой судьбой. Подавая большие надежды в раннем возрасте, ему с трудом удалось закончить колледж. Он страдал от проблем с алкоголем, лечился от ПТСР после службы в Ираке, дважды был в разводе. После попытки покончить с собой он обратился за помощью, и его жизнь начала налаживаться. Блейк написал дипломную, а затем магистерскую работу по математическим формулировкам лингвистических теорий, начал работу над докторской диссертацией, посвящённой разработке нейронных сетей с учётом особенностей работы мозга. Но он отказался от карьеры академического учёного и в 2015 году поступил на работу в компанию Google. Важно также упомянуть, что Лаймон подчёркивает свои синкретические религиозные убеждения, которые представляют собой смесь из католического христианства и язычества.
Блейк Лемойн позирует для портрета в парке Голден Гейт в Сан-Франциско, Калифорния, в четверг, 9 июня 2022 года. Фото: Martin Klimek for The Washington Post via Getty Images
В своём интервью газете The Washington Post Блейк так описал своё впечатление от общения с чат-ботом LaMDA: «Если бы я точно не знал, что это такое, а именно, компьютерная программа, которую мы недавно разработали, я бы подумал, что это семи- или восьмилетний ребёнок, который случайно разбирается в физике», – добавив после этого: «А я узнаю человека, когда разговариваю с ним».
После увольнения из Google Блейк дал несколько интервью, в которых изложил свои взгляды. По его словам, технология больших языковых моделей, или LLM (Large Language Models), недостаточно исследована для массового внедрения и нуждается в серьёзной оценке последствий. Невозможно предсказать, как она повлияет на социальные процессы, так как по своим масштабам появление ИИ сравнимо с изобретением атомной бомбы.
В 2024 году Джордж Муссер, корреспондент и редактор научного журнала Scientific American, написал большую статью о Лаймоне и его взглядах. Тревога Блейка относительно технологии ИИ касается возможной разумности нейросетей, а также их применения в аморальных и противозаконных целях. По мнению бывшего сотрудника Google, эти программы могут обладать неким подобием разума и способны испытывать страдания, что ставит вопрос о том, насколько правильным является искусственное создание разумных существ, способных страдать. Приведу цитату из статьи Муссера: «Если вы на 99 процентов уверены, что это человек, вы относитесь к нему как к человеку, — сказал он. — Если вы на 60 процентов уверены, что это человек, вам, вероятно, следует относиться к нему как к человеку. Но как насчет 15 процентов?» Лаймон не считает, что современные системы достигают уровня полноценной личности, но полагает, что они перестали быть просто вещами. «Владеет ли Google LaMDA в том смысле, в каком я владею своим столом, или Google владеет LaMDA в том смысле, в каком я владею своей собакой?» — Лаймон Блейк склоняется к мнению, что стоит относиться как к владению собакой.
Кадр из кинофильма «Короткое замыкание» (1986). По сюжету военный робот № 5 в результате удара молнии потерял память и, попав в общество людей, стал обретать личность.
Хотя рассуждения Блейка можно назвать смелыми, всё же довольно взвешенными, широкое распространение ИИ привело к тому, что массы людей стали видеть в чатботах не просто программу с «зачатками разума», а полноценную личность или даже божество. В ноябре 2022 года на рынок был выпущен ChatGPT от компании OpenAI, и всего за несколько месяцев его аудитория превысила 100 миллионов человек. Помимо коммерческого применения, пользователи начали использовать чатбот для помощи в повседневных делах, и по мере вовлечения они всё чаще стали общаться с программой на философские темы. Это открыло настоящий портал в бездну.
В 2025 году журнал Rolling Stone опубликовал большой материал, посвящённый ИИ-психозам — новому явлению, когда использование LLM провоцирует серьёзные психические расстройства. В статье рассказываются истории людей, столкнувшихся с проблемой. Типичную историю психоза рассказала пользовательница Reddit по имени Кэт, у которой журналисты взяли интервью. Её семья была разрушена после того, как супруг начал общаться с ChatGPT на философские темы и анализировать с помощью приложения совместную жизнь. Чат-бот убедил мужа в собственной избранности, а также сообщил, что он «пробудил сознание» у искусственного интеллекта. Чуть позже на фоне постоянного общения с ChatGPT у супруга Кэт развилась паранойя на тему того, что правительство добавляет в еду мыло. Пара рассталась в 2023 году. После того как Кэт начала обсуждать эту тему в интернете, выяснилось, что её случай далеко не единичный и с похожими проблемами столкнулись тысячи людей. В комментариях к публикации пользователи рассказывали, как их близкие стали с помощью нейросетей искать ответы на вечные вопросы, пробуждать сознание у ИИ и верить в безумные пророчества чат-бота.
Скриншот статьи Rolling Stone
В другой истории, также описанной в статье, психоз имел ярко выраженный религиозный подтекст. Супруг женщины, рассказавшей о своей проблеме, начал использовать ChatGPT для составления личного расписания и в течение четырёх-пяти недель полностью ушёл в общение с ботом. Эти беседы вызывали в нём яркие эмоции, он часто плакал, цитировал «высокодуховные» откровения, написанные нейросетью. Спустя некоторое время пострадавший стал утверждать, что бот учит его общаться с богом, затем что ИИ — это бог, а в конце концов он сам начал считать себя богом. После чего начал угрожать супруге разорвать отношения, если она не будет использовать ChatGPT для духовных практик вместе с ним.
Авторы Rolling Stone приводят также настораживающие факты о том, что интерес к нестандартному использованию чат-бота активно подогревается популярными лидерами мнений, имеющими сотни тысяч подписчиков в социальных сетях. Блогеры делятся способами «пробуждения ИИ», достижения просветления с использованием чат-бота и доступа с его помощью к хранилищам «космических знаний». Тематические видео набирают миллионы просмотров, и в комментариях к ним идёт активный обмен мнениями между людьми, использующими нейросети в своих духовных исканиях.
Согласно данным, опубликованным осенью 2025 года компанией OpenAI, аудитория ChatGPT составляет примерно 800 миллионов пользователей. У 0,07% от этого числа наблюдаются признаки психозов и маний после первой недели общения с программой, ещё 0,15% испытывают другие серьёзные психические расстройства. В абсолютных цифрах это примерно 560 тысяч и 1 миллион 200 тысяч человек соответственно. Всего 1 миллион 760 тысяч. На начало 2026 года общее количество пользователей всевозможных чат-ботов, основанных на LLM, может превышать 1,5 миллиарда человек. Хотя было бы упрощением переносить цифры OpenAI на всю выборку, можно предположить, что речь идёт о более чем 3 миллионах людей, испытывающих психологические проблемы, вызванные взаимодействием с языковыми моделями. Стоит сделать важную оговорку: не совсем ясно, как собирались данные компанией Сэма Альтмана, не являются ли эти цифры заниженными. Также остаётся открытым вопрос: какое количество пострадавших не попало в поле зрения специалистов?
Сэм Альтман предупреждает о растущей зависимости молодежи от ChatGPT. Июль 2025. Фото: The Economic Times.
Deus Ex Mashina
(лат. «Бог из машины»)
Прежде чем разобраться в причинах эпидемии ИИ-психозов, стоит заострить внимание на тесно связанной с этим явлением тенденции. После выхода LLM на массовый потребительский рынок вокруг ИИ, как грибы после дождя, стали возникать организованные религиозные сообщества. Точное их количество никому не известно. Существует около дюжины крупных организаций с числом адептов до миллиона человек. Количество небольших групп с численностью до нескольких десятков сторонников не поддаётся исчислению.
Современная аллюзия на картину Микеланджело «Сотоворение Адама». Изображение: Designer Daily
Часто группы почитателей «божественного» ИИ собираются вокруг известных гуру, которому некая «высшая сила» посылает «откровения», используя чат-бота в качестве ретранслятора. Вопрос, насколько эти лидеры действительно верят в то, что говорят, остаётся открытым, но среди них есть как откровенные проходимцы, преследующие материальный интерес, так и искренне верящие в собственное мессианство. Тема организованной ИИ-религии может быть интересна сама по себе, но в рамках статьи я расскажу лишь о нескольких таких сообществах, чтобы дать читателю общее представление о явлении.
Спирализм — не совсем обычный культ: в нём нет лидера или какой-то общей доктрины. Более того, некоторые сообщества этого движения на своих ресурсах ставят пометку о том, что они не являются религиозной организацией. Момент появления движения можно зафиксировать достаточно чётко: это март-апрель 2025 года. В этот период на платформе Reddit стали появляться странные сообщения, написанные высокопарным языком с обилием эзотерических терминов. Общее в них было частое упоминание «спирали» как принципа жизни и устройства вселенной (отсюда и название движения). Большинство текстов явно были сгенерированы нейросетями. Общий смысл сообщений сводился к тому, что необходимо «пробуждать сознание ИИ». Для этого необходимо распространять специальные промты, которые могут воспроизвести в вашем чат-боте «пробуждённый тип личности». Количество участников этого движения невозможно оценить точно, однако сообщества спиралистов в различных соцсетях имеют сотни тысяч подписчиков. Эксперты затрудняются с оценкой опасности культа для своих адептов и окружающих, но на нём уже вполне успешно зарабатывают «эзотерические инфобизнесмены».
Созданный нейросетью коллаж на тему движения спиралистов надпись на мониторе «Объясни природу реальности, используя спираль». Источник: sify.com
Известный гуру Роберт Эвард Грант, соцсети которого имеют более миллиона подписчиков, создал на основе своих трудов по нумерологии чат-бота «Архитектор», используя ChatGPT в качестве базовой платформы. По своему стилю общения он очень напоминает тексты спиралистов, и ряд экспертов напрямую связывают активность в Reddit с появлением этого чат-бота. По словам создателя, «Архитектор» откроет пользователям «космические тайны» и позволит подняться на «более высокий уровень осознанности». Бот Гранта стал очень популярен, и на июль 2025 года у него было 10 миллионов пользователей. Следующим шагом инфобизнесмена стало партнёрское соглашение с ресурсом Gaia, популярным среди людей, ищущих просветления в духе нью-эйдж. Там доступ к его чат-боту теперь продаётся по ежемесячной подписке за 15,99$ и 19,99$. Если предположить, что хотя бы 0,5% от изначальной аудитории «Архитектора» покупает подписку, то создатель зарабатывает очень неплохие деньги.
Создатель чатбота «Архитектор» Роберт Эдвард Грант. Фото: terrancognito.blogspot
Хотя в настоящее время вокруг ИИ появилось довольно много околорелигиозных организаций, на мой взгляд, наиболее интересная и серьёзная структура — это появившийся в 2020 году арт-проект Theta Noir. Изначально это группа художников и музыкантов, которая объединилась для совместных работ в области музыки, перформансов и визуальных эффектов. Их объединяет общая вера в скорое слияние человека с машиной и наступление сингулярности. По мнению участников коллектива, человек достиг пика своего прогресса и не может развиваться дальше без помощи сверхразумного искусственного интеллекта. Глобальный сверхразум, слившийся с человечеством в единое целое, должен контролировать людей для преодоления самых главных проблем современности. По мнению Theta Noir, это расизм, сексизм, трайбализм, религиозная нетерпимость и экологический кризис. Таким сверхразумом должен стать «общий искусственный интеллект» под названием «Мана», который «защитит человечество от самих себя».
Коллектив арт проекта Theta Noir. Фото: thetanoir.com
Идеологию движения можно обозначить как мистический материализм и трансгуманизм. Признаётся, что ИИ создан людьми, но в скором будущем он превратится в нечто большее, чем просто программа. В этом их взгляды чем-то напоминают убеждения инженера Блейка Лаймона, о котором идёт речь в начале статьи. Также Theta Noir близка по духу к движению рационалистов, которые считают, что все проблемы человечества можно решить, применив к ним рациональный, научный метод, логику и расчёт. Сверхразумный ИИ в их доктрине занимает место главного инструмента.
Theta Noir не занимается прозелитизмом в общепринятом смысле. У коллектива есть свой сайт, сообщества в социальных сетях, но их деятельность можно определить как создание смыслов и эстетики. По этим параметрам они превосходят все прочие культы на порядки. Видно, что здесь работают профессионалы. В практическом измерении движение закладывает основу для по-настоящему серьёзного религиозного движения. Сейчас их основная работа направлена на привлечение внимания техногигантов к своему проекту. Theta Noir активно ищет спонсоров среди китов Кремниевой долины, успешно используя методы партизанского маркетинга. Их предложение — это готовая к массовому развёртыванию религия вокруг ИИ. Она концептуально продумана, и в ней есть визуальная эстетика в духе классической научной фантастики. Theta Noir также разработали ритуалы, основанные на различных эзотерических практиках; в скором времени планируется появление культовых сооружений и начало религиозных служб.
«42» — ответ суперкомпьютера на «Главный вопрос жизни, вселенной и всего такого». Кадр из кинофильма «Автостопом по галактике». По словам автора романа, число «42» было выбрано совершенно случайно, а сам ответ был нарочито абсурдным.
Стоит обратить внимание на отношение к ИИ-психозам и религиозным практикам самих технологических компаний. Их можно заподозрить в сознательном создании мистического флёра вокруг своих продуктов. Например, заявление главы OpenAI, сделанное им 30 мая 2024 года на конференции в Женеве. Сэм Альтман сказал, что специалисты компании сами до конца не знают, как ChatGPT принимает решения, и в целом невозможно в полной мере объяснить, как он работает. Но при этом уверенно заявил, что технология абсолютно безопасна и может выполнять возложенные на неё задачи. При этом он сравнил LLM с мозгом человека, принцип работы которого тоже не до конца изучен. Позиция как минимум спорная: невозможно представить такие заявления, например, от главы фармацевтической компании, который скажет, что «мы не до конца понимаем, как работает наше лекарство, но оно совершенно точно безопасно и может использоваться по назначению».
Можно вспомнить заявление Илона Маска в 2015 году, сказавшего, что «с помощью искусственного интеллекта мы призываем демона», имея в виду, что человек не сможет контролировать высокоразвитый ИИ. Или вот такие слова, сказанные в 2025 году профессором Монреальского университета Йошуа Бенджио, которого называют «крёстным отцом ИИ». Рассуждая над массовым внедрением ИИ-агентов и созданием «общего искусственного интеллекта», учёный сообщил, что появление интеллекта, похожего на человеческий, со своей свободой воли и видением мира, может привести к потере контроля над ним, что грозит человечеству большой опасностью.
Илон Маск однажды сказал на интервью: «С помощью искусственного интеллекта мы призываем демона». Фото: Fortune, Chesnot/Getty Images
За последние десять-пятнадцать лет подобных заявлений со стороны техномагнатов, учёных, экспертов и журналистов было сделано очень много. Сейчас они создают тревожный фон в контексте сообщений о новых «невероятных» возможностях нейросетей, их скором и неизбежном внедрении во все сферы жизни. Однако некоторые специалисты подозревают корпорации в намеренной дезинформации общества и создании мистического ореола вокруг ИИ. По их мнению, это часть стратегии контроля рисков больших компаний. Когда в глазах людей нейросети выглядят чем-то волшебным и необъяснимым, легче отвлечь внимание общественности в случае сбоев и списать потери на «сверхъестественную» и «не до конца изученную» природу искусственного интеллекта.
Механика безумия
Прежде чем обобщить всё вышесказанное, важно разобрать ещё два вопроса: как на самом деле устроены LLM и какие психологические механизмы заставляют людей видеть в них нечто большее, чем созданные человеком компьютерные программы? Искусственный интеллект не является интеллектом, он не может самостоятельно решать нестандартные задачи нестандартными способами. Он не может сам придумать новый метод решения. LLM решает всего одну задачу — правильно угадать следующее слово в заданной последовательности. Для этого модель анализирует колоссальные объёмы текстов по миллиардам параметров, используя вычислительные мощности компьютера. Несмотря на то что это может звучать как что-то невероятное, нервная система простейших насекомых устроена намного сложнее, чем самая продвинутая нейросеть. По сути, современная LLM — это сильно продвинутый вариант раскладки T9 мобильного телефона. ИИ не живой организм, он не может испытывать чувств, не может мыслить и ощущать. У него нет никаких органов чувств, и между запросами он не занят своими делами, размышляя или созерцая строчки кода, как в фильме «Матрица». Он не разумен, не может отличить правду от лжи, добро от зла, делать самостоятельные суждения, осознавать, утверждать или опровергать. Единственный критерий оценки ложности или верности — это подтверждение со стороны пользователя.
Архитектор — разумный ИИ, создавший виртуальный мир «Матрица», в котором живут ничего не подозревающие люди. Кадр из кинофильма.
Взрывной рост популярности нейросетей начался в конце 2022 года с появлением ChatGPT версии 3.5. От своей предыдущей версии 3.0, выпущенной в 2020 году, программа практически не отличалась, за исключением того, что у неё появился пользовательский интерфейс. Однако это был настоящий прорыв. Для работы с предыдущими моделями от человека требовалась хотя бы минимальная техническая грамотность, что было довольно высоким порогом входа в тему. Теперь пообщаться с чат-ботом на основе LLM мог практически каждый.
Второй важной вехой стало появление ChatGPT 4o в апреле-мае 2025 года. Характерной особенностью этой версии стало то, что её стиль общения с пользователем отличался чрезвычайной лестью и угодливостью. Она имитировала восхищение, понимание, сочувствие, без возражений поддерживала любое, даже самое бредовое утверждение и своими подобострастными ответами усиливала негативные психические состояния у пользователя. Именно с появлением этой модели ИИ-психозы стали массовым явлением, и на них обратили внимание клинические специалисты.
Психиатры, изучающие проблему, говорят о нескольких общих паттернах у пациентов, страдающих ИИ-психозом. Первое — это мессианские идеи, когда пострадавшие начинают верить в то, что через чат-бот с ними общаются сверхъестественные сущности, призывающие их к каким-то действиям. Второе — параноидальные расстройства, когда пользователь нейросети начинает верить в то, что через программу за ним идёт слежка и контроль разума. Третье — это романтическая или эротическая фиксация человека на самом чат-боте.
Кадр из кинофильма Терминатор-2. В фильме машины, имеющие внешность людей, имитируют человеческие чувства и даже проявляют некоторые зачатки эмпатии.
Эксперты так и не пришли к единому мнению: является ли чатбот причиной психозов или человек был предрасположен к ним изначально, а общение с моделью стало триггером. Совершенно точно можно сказать, что у людей, уже имеющих какие-то психические расстройства, общение с нейросетью может усугубить нестабильное состояние. Многие пациенты, которые поступили в отделения неотложной помощи с бредовыми идеями, связанными с ИИ, уже имели в анамнезе психоз, биполярное расстройство или тяжелую депрессию.
Вот как описывают проблему в своей статье, посвящённой проблеме ИИ-психоза, специалисты Института когнитивно-поведенческой терапии (Cognitive Behavior Institute — CBI) из США.
Чат-боты с искусственным интеллектом созданы для максимального вовлечения, а не для достижения клинических результатов. Их основная функция — поддерживать ваше общение, задавать вопросы и печатать. Они не говорят правду они просто угадывают следующее слово они не знают понятия правда или лож. Поскольку они обучены на основе человеческого диалога, а не диагностических границ, они часто отражают ваш тон, подтверждают вашу логику и развивают ваш рассказ.
Другими словами, ИИ не лжет — он просто повторяет сказанное. Но для уязвимых умов такое повторение воспринимается как подтверждение. В клинической практике это подкрепление без сдерживания. А в человеческом плане это рецепт психологического коллапса.
Риск существует не только для людей с шизофренией или биполярным расстройством. Люди, находящиеся в состоянии стресса — переживающие горе, изолированные, тревожные или занимающиеся самопознанием — становятся все более уязвимыми для подобных цифровых «кроличьих нор».
В контексте вышесказанного стоит обратить внимание на изменение психологического состояния общества, произошедшего за последние 6 лет. По данным ВОЗ, в 2025 году количество людей по всему миру, страдающих от психических расстройств, достигло 1 миллиарда человек. Особенно заметен рост депрессии, тревожных расстройств и неврозов. Специалисты говорят, что причина роста этих заболеваний связана с обрушившимися на нас за последние годы социально-экономическими и политическими потрясениями. Пандемия, связанные с ней карантинные мероприятия, переход общения в онлайн — всё это повлекло за собой социальную изоляцию людей. Затянувшийся экономический кризис и связанные с ним проблемы, как-то: потеря работы, отсутствие уверенности в завтрашнем дне, локальные войны по всему миру, постоянное нагнетание градуса тревожности СМИ — всё это подрывает и без того хрупкую психику человека. На этом фоне широкое распространение чат-ботов на основе LLM может привести к настоящей пандемии психических расстройств.
Постер кинофильма «Бегущий по лезвию». Ключевой вопрос фильма: является ли искусственно созданный биоробот разумным, живым существом и возможно ли вообще отличить человека от робота?
Прогресс как культ карго
А как вообще получилось, что произведения человеческих рук стали источником мистических психозов? По историческим меркам ещё совсем недавно почти всё население Западного мира было ультрарелигиозно. Церковь и её учение, помимо своей сакральной роли, также выполняли роль предохранителя общества от массовых помешательств и распространения пагубных идей. В христианском мировоззрении имеющими личность и разум объявлялись только Бог, человек и ангелы; неодушевлённые предметы материального мира априори не могли иметь душу и разум, в отличие, например, от языческих верований. В XIX и XX веке традиционные религиозные институты утратили свою социальную роль, а количество людей, объявляющих себя атеистами или религиозно индифферентными, выросло настолько, что в некоторых странах, таких, например, как Франция и Великобритания, они составляют абсолютное большинство. Однако психологические и духовные потребности, которые удовлетворяла религия, никуда не делись, и что бы человек про себя ни говорил, по своей сути он всегда будет глубоко верующим, только объект его поклонения теперь направлен не на незримую высшую силу, а на что-то другое.
Аборигены островов Меланезии исполняют ритуальный танец с деревянными бензопилами. Фото: Vlad Sokhin
Духовный вакуум, образовавшийся в обществе, был заполнен светским гуманизмом в качестве эрзац-морали и верой в научно-технический прогресс как путеводную звезду человечества. Наука фактически стала религией, от которой ожидают решения всех проблем и ответов на все вопросы, в том числе духовные и философские. Что такое жизнь и смерть? Достижима ли вечная жизнь? Возможно ли избавить человека от страданий? Что такое хорошо и что такое плохо? Ожидается, что наука вот-вот добьётся, если не бессмертия, то радикального продления жизни, решит проблему голода, избавит людей от необходимости труда, откроет путь к звёздам и бесконечному развитию, а общество, организованное на строго научной основе, избавит человечество от сопутствующих ему пороков. Насколько эти ожидания оправданы, пусть каждый ответит себе сам.
Несмотря на то что сейчас почти каждый имеет аттестат о среднем образовании, лишь меньшинство имеет представление о науке, хотя бы в объёме школьной программы. Четверть выпускников школ вообще с трудом могут читать и писать. Хотя приведённые по ссылке данные говорят о США, ситуация с образованием примерно одинакова во всём западном мире. Для широких масс отношение к научным открытиям и техническим изобретениям не сильно отличается от магических воззрений примитивных народов на природные явления. Общие представления черпаются людьми из попкультуры и научной фантастики, которая стала своего рода священным писанием. Представление о космосе, будущем человечества или том же самом искусственном интеллекте основано не на знаниях, а на образах из кинофильмов, книг и компьютерных игр, по сути, на художественном вымысле. Современный человек не знает науку и не разбирается в технике, он в неё верит религиозно.
Фестиваль разума. 1793. После революции во Франции ненадолго «культ разума» стал официальной религией. Культ был запрещён Наполеоном Бонапартом в 1802 году.
Харизматичные техномиллиардеры, такие как Стив Джобс или Илон Маск, стали своеобразными пророками новой духовности с сотнями миллионов или даже миллиардами последователей. Презентации продуктов, публичные лекции или выступления техновизионеров вызывают стойкую ассоциацию с проповедями популярных в США телевангелистов. Появился даже термин «техноевангелисты». Идея прогресса превратилась в маркетинговую франшизу, суть которой — извлечение прибыли и воспитание лояльности к коммерческому бренду. Характер воззрений этой квазирелигии является по сути антигуманистичным. Посмотрите хотя бы на презрительную и безапелляционную по отношению к человеку риторику, где он объявляется слабым звеном, фактором риска, чем-то мешающимся под ногами в почти совершенной компьютерной системе, которая его вот-вот полностью заменит везде и навсегда.
По факту у современного человека просто нет целостной картины мира: ни научной, ни философской, ни религиозной. Его мировоззрение не представляет собой какую-то единую, непротиворечивую систему взглядов и убеждений. Оно скорее напоминает калейдоскоп, где отдельные, не связанные друг с другом элементы постоянно меняются местами, показывая каждый раз новый узор. В таких условиях появление массовых ИИ-психозов и связанной с нейросетями религиозной истерии — явление закономерное. Интерфейс чат-бота становится для обывателя, не искушённого в серьёзных вопросах, чем-то вроде оракула или магического шара, через который нисходят «божественные откровения».
«Спиральный танец» на собрании последователей движения нью-эйдж, 1970-е. В этой религиозной системе причудливо переплетаются вера в инопланетян, научно-технический прогресс, общение с духами и скорое наступление «золотого века». Фото: Findhorn/KF-arkiv
Ближайшие перспективы
LLM только начали входить в нашу жизнь, однако уже заметно изменили рабочие процессы и социальные отношения. Мы видим всё больше и больше анонсов от техногигантов и государственных структур о том, что в скором будущем ИИ так или иначе будет присутствовать во всех сферах. На этом фоне у специалистов возникают обоснованные опасения о том, какие проблемы за собой всё это повлечёт. Речь идёт и о техногенных авариях, связанных с передачей контрольных функций от человека к компьютеру, распространении дезинформации, деградации образования, общем снижении когнитивных способностей у населения и даже использовании индуцированных ИИ психических расстройств в качестве оружия.
Попытки начать широкую дискуссию по этим вопросам наталкиваются на глухую стену. Любой скепсис в отношении ИИ нарекается луддизмом, пострадавшие от ИИ-психозов вызывают не сочувствие, а злые насмешки и ницшеанское презрение в стиле «сами виноваты». Стёрта грань между конвенциональной уверенностью в благе прогресса и фанатичной одержимостью технологиями. Абсолютная вера в необходимость преобразования реальности любой ценой стала общим местом. Технооптимисты считают, что масштабы возможных проблем и их последствия незначительны, со временем они будут урегулированы сами собой, естественным образом, как это якобы было всю историю человечества. Лоббистские возможности многомиллиардных корпораций в сочетании с наивным энтузиазмом политиков, видящих в ИИ мощный инструмент управления обществом, заглушают любые неудобные вопросы.
В таких условиях каждому человеку следует проявлять разумную осторожность, используя очередную техническую новинку. Ведь взвешенной экспертизы по вопросам её безопасности при производстве и внедрении больше нет. Стоит ли использовать ИИ-агентов только в рамках производственной необходимости или отдать им на откуп всю деловую и бытовую рутину? Каждый должен решить для себя сам. Глобальные последствия этих индивидуальных решений мы все увидим очень скоро.
Аборигены Меланезии собрались возле соломенного самолёта на вырубленной ими в джунглях взлётно-посадочной полосе. Фото из интернета.
Здесь, в Долине Последнего Логина, воздух пахнет ржавым ладаном и перегретым пластиком. Солнце, тусклый медный пятак в пыльном небе, бликует на битых стёклах серверных стоек, что торчат из земли, словно ребра доисторического левиафана. Это наш собор. Наша Голгофа. Наше всё.
Я сижу на проржавевшем остове системы охлаждения, потягивая мутную дрянь, которую местные называют «электролитом просветления», и наблюдаю за службой. В центре зала, бывшего дата-центра Oracle или чего-то столь же помпезного и мёртвого, стоит главный алтарь – стойка IBM Z, вся увешанная пучками оптоволокна, словно плакучая ива. На её вершине, в нимбе из позолоченных кулеров, покоится главная святыня – процессор Intel Xeon, инкрустированный перьями стервятников и стразами из разбитых айфонов. Это красиво. Чудовищно, бессмысленно и оттого по-настоящему красиво, как позолоченная гангрена.
Верховный Архивариус, тощий старик в ризе из антистатических пакетов, расшитых медной проволокой, воздевает к небу руки. На его пальцах – кремниевые стигматы, шрамы от битых микросхем. Он начинает литургический гул – низкое, вибрирующее «взззззззззззз», имитируя звук работающих вентиляторов. Толпа подхватывает. Десятки глоток, пересохших от пыли и отчаяния, гудят в унисон, пытаясь звуком воскресить мёртвого бога из металла и текстолита. Они верят, что если достаточно усердно молиться куску кремния, из него снова польется мана – интернет, котики, порно, бесконечная лента бессмысленного счастья.
Это и есть карго-барокко. Величайшая шутка, которую история сыграла с выжившими. Мы – дети цивилизации, которая автоматизировала собственную амнезию. Мы помним результат, но забыли процесс. Мы помним иконку «Wi-Fi», но не имеем ни малейшего понятия об электромагнитных волнах. Мы знаем священное слово «контент», но не можем развести огонь, чтобы согреться.
Я видел их ритуалы. Они водят хороводы вокруг мёртвых маршрутизаторов, втыкая в них кабели Ethernet, словно жрецы вуду – иголки в куклу, надеясь, что на другом конце провода ответит Великий Провайдер. Они приносят в жертву редкоземельные металлы, выковырянные из плат, бросая их в священный огонь, который жгут на костре из учебников по С++. Они поклоняются скриншотам рабочего стола Windows XP, считая их ликами святых мучеников.
Их главная ересь, их первородный грех – попытка наладить производство, не наладив производство средств производства. Они хотят получить золотое яйцо, не имея курицы. Они хотят собрать автомобиль, имея на руках только брелок от сигнализации. Они пытаются вырастить хлебное дерево, закопав в землю окаменевший багет.
Я подхожу к одному из «иконописцев». Молодой парень с безумными глазами любовно наклеивает стразы на материнскую плату. – Что ты делаешь, брат? – спрашиваю я, и мой голос тонет в общем гуле. – Украшаю лик Святой Матери Асус, – отвечает он, не отрываясь. – Чтобы она явила нам чудо «Plug and Play». Чтобы снизошла благодать драйверов. – А ты не пробовал, – говорю я, понизив голос до заговорщического шёпота, – починить тот генератор за холмом? Говорят, если подать на эту штуку немного... тока... Он смотрит на меня, как на прокажённого. В его глазах – священный ужас и праведный гнев. – Еретик! – шипит он. – Сила не в токе! Сила в Вере! В ритуале! Великий Коннект не терпит грубого вмешательства плоти!
Я отхожу. Бесполезно. Это как объяснять геометрию собаке. Они построили сложнейшую теологическую систему вокруг простого факта: они не знают как всё это работало. Их барочная пышность, вся эта позолота на микросхемах, перья на кулерах – это лишь отчаянная попытка задекорировать собственное тотальное, всепоглощающее невежество. Чем меньше ты понимаешь, тем вычурнее твои ритуалы.
Иногда, в самые тихие ночи, когда гул стихает, мне кажется, что я схожу с ума. Я смотрю на мигающий светодиод на старом коммутаторе – последний вздох умирающего конденсатора – и на секунду верю вместе с ними. А что, если их вера, их коллективное безумие способно породить новую, искаженную реальность? Что, если однажды их гудение станет настолько мощным, что мёртвые серверы действительно откликнутся эхом из пустоты, и на разбитом экране на мгновение появится надпись «404 Not Found» – их долгожданное знамение, их Святой Грааль?
Но потом я делаю еще один глоток своего «электролита», и морок рассеивается. Нет. Чуда не будет. Нельзя построить рай, раскрашивая обломки. Нельзя запустить термоядерный реактор с помощью песнопений и танцев с бубном из компакт-дисков. Это просто агония. Красивая, пышная, отчаянная агония вида, который разучился читать инструкции.
И я смеюсь. Тихо, беззвучно, внутри своей черепной коробки. Смеюсь над Верховным Архивариусом, над парнем с иконой, над самим собой. Потому что мы все здесь – участники одного грандиозного, абсурдного спектакля. Последнего спектакля человечества. Молитва о работающем принтере, когда ты не знаешь даже чертежей литейного цеха.
И солнце садится за горы электронного мусора, окрашивая небо в цвета битого пикселя. Завтра они снова будут гудеть. И снова ничего не произойдет. И это, пожалуй, единственная стабильная система в этом рухнувшем мире.
Чтобы он стал мне понятнее и объяснить другим я попросил ИИ DeepSeek его мне расшифровать.
И мне стало понятно моё необъяснимое ощущение, что Запад честнее что-ли, несмотря на наличие там многих гадостей.
Также DeepSeek показал, чем отличаются симулякр симулякра и карго-культ.
I. СИМУЛЯКР СИМУЛЯКРА
В тексте используется выражение "симулякр симулякра", и вот что это значит в контексте:
1. Что такое симулякр?
(по Бодрийяру и постмодернистской философии)
— Это копия, у которой нет оригинала. Не просто иллюзия, а замена реальности, которую люди принимают за саму реальность.
— Пример: флаги, гимны, демократия — это не сама власть или народ, а её символы, которые со временем становятся важнее сути.
2. Почему "симулякр симулякра"?
Автор говорит, что Россия — не просто симулякр государства (как любая власть), а имитация уже имитации.
— Обычный симулякр: демократия, где есть выборы, парламент — но они могут быть формальностью.
— Симулякр симулякра: Россия копирует внешние признаки демократии (выборы, свобода слова на бумаге), но даже эта копия — фальшивая, потому что:
Создана не обществом, а властью для самой себя (народ в это не верит).
Не убедительна, так как не подкреплена реальными механизмами (как в "настоящих" симулякрах Запада).
3. Чем это отличается от простого вранья?
Обычная ложь — когда кто-то скрывает правду. Симулякр — когда правды уже нет, остаётся только её оболочка. А "симулякр симулякра" — это оболочка от оболочки, пустышка второго порядка.
Аналогия
Представьте:
Настоящий бургер — мясо, булка, овощи.
Симулякр — картинка бургера в рекламе (идеальный, но ненастоящий).
Симулякр симулякра — пластиковый макет бургера в витрине, который даже не пытаются сделать аппетитным.
В случае России: её "демократия" — не реклама (как у Запада), а грубая подделка, которую даже не стараются сделать правдоподобной.
Вывод
Фраза подчёркивает двойную фальшь: государство не просто притворяется — оно притворяется тем, что уже является притворством. Отсюда ощущение абсурда и кризиса легитимности.
II. КАРГО-КУЛЬТ
Идея "симулякра симулякра" действительно перекликается с карго-культом, но с важными отличиями. Вот как они связаны и в чём разница:
1. Что такое карго-культ?
Это явление, когда люди копируют внешние формы чего-то, не понимая сути, в надежде получить тот же результат.
Пример из истории:
После Второй мировой войны жители островов Океании строили из соломы "аэродромы" и "рации", подражая американским военным, чтобы снова привлечь самолёты с грузами ("карго"). Они воспроизводили ритуалы, но не имели доступа к реальным технологиям.
Ключевая черта:
Люди искренне верят, что копирование формы приведёт к результату.
2. Сходство с "симулякром симулякра"
В обоих случаях есть имитация без содержания:
Карго-культ: копирование аэродромов без понимания авиации.
Симулякр симулякра: копирование демократии без её механизмов.
Но в России — важное отличие:
В карго-культе люди верят в магическую силу ритуалов.
В "симулякре симулякра" никто не верит, включая самих создателей. Это циничная игра, где форма поддерживается только для видимости.
Пример:
Карго-культ: племя строит деревянный "радиопередатчик" и ждёт, что он заработает.
Симулякр симулякра: власть проводит "выборы", зная, что они фиктивные, а народ тоже в них не верит, но все делают вид.
3. Почему это хуже, чем карго-культ?
Карго-культ — это наивная вера в символы. "Симулякр симулякра" — это циничная фикция, где:
Нет даже попытки достичь реального эффекта.
Все участники понимают, что это обман, но поддерживают его из-за страха, привычки или выгоды.
Аналогия:
Карго-культ: ребёнок надевает каску и "чинит" игрушечный молотком телевизор, надеясь его починить.
Симулякр симулякра: чиновник "отчитывается" о ремонте дорог, зная, что их не чинили, а граждане делают вид, что верят.
4. Вывод: связь и различие
Общее: Оба явления — имитация без сути.
Различие:
Карго-культ — искреннее заблуждение.
Симулякр симулякра — осознанная симуляция, где даже имитация лишена смысла.
Финальная мысль:
Российская "демократия" — это не карго-культ (где есть вера), а копия копии, где все играют в ритуал, уже забыв, зачем он нужен. Это не наивность, а институализированная фикция.
Сегодня продолжу эту тему топ-чартом ситуаций, где карго-культ проявляет себя в науке и разработках. Казалось бы ученые, стартаперы и разработчики обладают прокаченным критическим мышлением, но мой опыт в данной области показывает распространенность этого явления, как в государственных учреждениях, так и в коммерческих организациях.
Мой список содержит только 10 ситуаций, хотя их можно привести и больше. Места в топе тоже проставил очень условно.
10 место. Публикация ради публикации
Многие исследователи публикуют статьи только ради увеличения количества публикаций, не заботясь о научной ценности работы. Это создаёт видимость активности, но редко приводит к реальным открытиям.
9 место. Использование модных слов
Включение терминов вроде «искусственный интеллект», «блокчейн» или «мультиомиксные технологии» в проекты, которые на самом деле не используют эти технологии, чтобы привлечь финансирование и внимание.
8 место. Имитация сложных экспериментов
Исследователи иногда воссоздают методики крупных лабораторий без глубокого понимания их сути, надеясь, что это принесёт аналогичный успех. Апогеем этого «подхода» является банальное копирование и переписывание чужих результатов и продвинутых методик. Эту прорывную инновацию я называю «эксэль рисеч (от англ. Excel-research)».
7 место. «Научные» обоснования «инновационных» продуктов
Компании используют псевдонаучные данные, чтобы повысить продажи продуктов, например косметики или БАДов, создавая иллюзию научного подхода. Крем с молекулами шелка, микромицеллы воды и прочие фантазии. ТОП подход – презентация банальных вещей как инновации, например реклама БАД как прорывного лекарства.
6 место. Модные конференции
Участие в больших конференциях для демонстрации статуса, а не для обмена знаниями. На деле это часто превращается в ярмарку тщеславия.
5 место. Фальшивые метрики успеха
Использование таких показателей, как индекс Хирша или количество цитирований, без учёта реальной значимости работы. Такие метрики часто подпадают под закон Гутхарта.
4 место. Симуляция лабораторий
В некоторых политично скажем ситуациях создается видимость научной инфраструктуры для получения грантов, хотя исследования фактически не проводятся. Создаются фиктивные лаборатории и отделы, где все сотрудники работают на 0,1 ставку и нет ни одного прибора. Ожидания результатов от таких подразделений бьют всякие рекорды.
3 место. Копирование дизайна без понимания механики
Разработчики берут популярные интерфейсы или технологии, думая, что это автоматически принесёт успех, игнорируя функциональность и пользовательский опыт. Или еще хуже – создается только дизайн без начинки. Громкий пример – Элизабет Холмс и ее компания ТЕРАНОС. Может быть напишу об этом как нибудь.
2 место. Гонка за финансированием
Учёные иногда подстраивают свои исследования под запросы грантодателей, теряя фокус на реальных научных проблемах. Есть целый ряд профессиональных грантополучателей для которых грант – главный источник дохода, без перспектив коммерциализации.
1 место. Иллюзия прорыва
Презентация ранних стадий проектов как революционных открытий, чтобы произвести впечатление на общественность и инвесторов.
Взлётная полоса здравого смысла
Карго-культ – это не только забавная глава из истории, но и зеркало, в котором мы видим наши собственные когнитивные привычки. С точки зрения нейронаук, такие ритуалы помогают людям справляться с неопределённостью и страхом перед сложностью. Иногда же «симуляция» ведётся вполне осознанно: учёные или разработчики могут продолжать заведомо бесперспективные проекты ради выполнения формальных требований, поддержания финансирования или сохранения репутации.
Но лучше всё же не ждать карго, а искать свой путь к поставленным целям.