Карго‑культ искусственного интеллекта — это совокупность практик, дискурсов и инвестиционных решений, где участники тщательно копируют внешние атрибуты «продвинутого ИИ» и успешных AI-компаний, не контролируя механизмы получения добавленной ценности, реальные эффекты использования и границы возможностей технологии, при этом продолжая верить в её квазимагическую силу. В результате возникает устойчивая социально‑техническая система, где ритуалы вокруг ИИ (слова, метрики, архитектуры, инвестиционные тезисы) оторвались от инженерии и стали жить собственной жизнью, иногда независимо от фактической полезности конкретных технических решений.
Это первая часть серии статей, посвященных исследованию феномена карго-культа ИИ. В первой части мы рассмотрим базовые понятия: метафору «карго‑культа», причины появления карго-культа ИИ, функции, механизм самовоспроизводства и уязвимые точки этого карго-культа. В других частях этой серии статей последуют рекомендации и описание практик по контролю влияния карго-культа ИИ на ваши проекты в социально-значимых областях.
О метафоре «карго‑культа»
Термин «карго‑культ» восходит к меланезийским практикам имитации военных аэродромов и ритуалов, чтобы «призвать» грузы, при этом реальные логистические и индустриальные причины появления карго были неизвестны. В научной и инженерной культуре отсюда выросла метафора «cargo cult science» и «cargo cult programming» — следование формальным процедурам, шаблонам и коду без понимания того, почему они работают и работают ли вообще. В сфере ИИ эта метафора применяется как к мифологизации идеи суперинтеллекта, так и к повседневной практике компаний, которые воспроизводят видимость «AI‑инноваций» без прозрачной причинной связи с результатами. Отдельные исследования прямо говорят об «AI cargo cult» как о ситуации, когда общество и бизнес имитируют язык и атрибуты «сверхразумного ИИ», не имея ни теории такого интеллекта, ни проверяемого плана проекта его появления.
Причины появления карго-культа ИИ
- Исторически мощная метафора «карго‑культа» оказалась удобным шаблоном описания ситуаций, где наблюдается имитация успешной формы без понимания содержания, включая робототехнику и ИИ.
- Современные ML-модели, особенно большие языковые модели (LLM), воспроизводят правдоподобный текст, создавая сильную иллюзию понимания и «интеллекта», что делает их естественной мишенью для проекции ожиданий и успешной мифологизации.
- Медиадискурс о неизбежном «суперинтеллекте» и «сингулярности» создал нарратив, в котором достаточно верить в скорое появление сверхчеловеческого ИИ и инвестировать в любые большие модели, чтобы «успеть в будущее».
- Экономические стимулы подталкивают компании объявлять о масштабных AI‑инициативах: это легко конвертируется в рост оценки и курсовых ожиданий, независимо от того, есть ли воспроизводимые данные о приросте продуктивности.
- Отчёты и обзоры фиксируют, что до 40 млрд долларов уже тратится на неудачные или не приносящие эффекта AI‑проекты, что указывает на структурный разрыв между заявленной повесткой ИИ и реальными результатами.
Функции карго-культа ИИ
- Карго‑культ ИИ эффективно мобилизует капиталы и человеческие ресурсы: отправными точками векторов усилий являются завышенные ожидания и мифы, которые используются для запуска масштабных инфраструктурных проектов, которые затем становятся основой для более трезвых и полезных применений.
- Он ускоряет диффузию базовых инструментов и практик: даже если значительная доля AI‑проектов не даёт прямого эффекта, накопленные компетенции, датасеты и инфраструктура далее используются в более прагматичных контекстах.
- Риторика о «суперинтеллекте» и «AGI» задаёт воображаемый горизонт, вокруг которого организуются исследовательские программы и обсуждаются фундаментальные вопросы о природе интеллекта и моделировании мира.
- Метафора «AI cargo cult» служит критическим инструментом: обозначая ситуацию как карго‑культ, участники дискуссии получают язык для различения поверхностной имитации и содержательной работы с моделями и данными.
- Само существование карго‑культа ИИ делает видимыми социальные, экономические и когнитивные механизмы, через которые общество осваивает радикально новые технологии, часто проходя фазу мифа и ритуала до фазы отбора реально работающих практик.
Механизм самовоспроизводства карго-культа ИИ
- Карго‑культ питается асимметрией знания: небольшие группы специалистов понимают ограничения и статистическую природу моделей, тогда как массовая аудитория, включая часть менеджеров и инвесторов, видит только впечатляющие демо и рекламные нарративы.
- Медиасреда и социальные сети тиражируют истории об «удивительных» успехах ИИ, сильно реже проговаривая неудачи, что формирует селективное восприятие и поддерживает ожидание почти магического эффекта от любых AI‑внедрений.
- Институциональные практики в корпорациях — обязательные «AI‑стратегии», централизованные «AI‑центры компетенций», формальные KPI «% процессов с ИИ» — создают устойчивые ритуалы, которые продолжаются по инерции, даже если причинная связь с результатами слаба.
- Публикационная и карьерная логика в исследовательском сообществе поощряет добавление «AI», «ML» и «deep learning» в названия работ и продуктов, что усиливает видимость повсеместного присутствия ИИ и подкрепляет ожидание революции.
- Наконец, сама идея «AI cargo cult» начинает работать как мем: появляясь в статьях, колонках и научных текстах, она структурирует разговор и тем самым помогает воспроизводить как критику, так и оборонительные нарративы вокруг ИИ.
Уязвимые точки карго-культа ИИ
- Карго‑культ ИИ особенно уязвим в точке соприкосновения с жёсткими финансовыми и операционными метриками: обзоры показывают высокую долю провалившихся GenAI‑пилотов и отсутствие значимого влияния на итоговую прибыль во многих корпорациях.
- Публичные кейсы разоблачений — когда компании приписывали ИИ рост продуктивности или автоматизацию, а позже выяснялось, что работу выполняли люди, — подрывают доверие к риторике «магического» ИИ.
- Требования воспроизводимости, прозрачности и методологической строгости в науке (дискуссия о «cargo cult science») делают видимыми случаи, когда под видом ИИ предлагаются слабые или нереплицируемые результаты.
- Этические и регуляторные обсуждения ИИ требуют явного указания границ применимости, источников данных и возможных вредов, что плохо сочетается с неопределёнными обещаниями «универсального» интеллекта.
- Пузырь ожиданий вокруг ИИ, по оценке аналитиков, подвержен тем же механизмам сдувания, что и в прошлых технологических циклах: по мере накопления неудачных кейсов и усталости инвесторов карго‑культ теряет часть экономической подпитки.
Во второй части статьи поговорим о практиках, которые разрушают самовоспроизводство карго-культа ИИ.