Трое экономистов — Кристиан Каталини из Массачусетского технологического института, Сян Хуэй из Вашингтонского университета в Сент-Луисе и Джейн Ву из Калифорнийского университета в Лос-Анджелесе — в начале 2026 года описывают, как устроена экономика, в которой работу делают не люди, а огромные армии автономных ИИ-агентов. Их тезис резкий: привычные модели смотрят на ИИ неправильно, считая его заменой труда или помощником человеческого суждения, а на деле всё иначе.
Главная мысль проста. Стоимость того, чтобы сделать любую измеримую задачу, падает к нулю — её гонят вниз дешёвые вычисления и накопленные знания. А стоимость того, чтобы проверить результат, упирается в биологию: у человека ограничены время, внимание и опыт. Эти две кривые расходятся. Между тем, что агенты умеют выполнять, и тем, что люди успевают проверить, открывается «разрыв измеримости». Именно проверка, а не интеллект, становится узким местом роста.
Для того, кто строит рынок ИИ-агентов, вывод практический. Ценность уходит из самого выполнения и собирается там, где остаётся дефицит: проверка, достоверные исходные данные, криптографическое подтверждение происхождения и готовность отвечать за ошибки агента. Кто умеет удостоверять, страховать и отвечать за чужой автоматический труд — тот и держит самый прочный ров. Масштаб без проверки, предупреждают авторы, это не преимущество, а накапливающийся долг.
Триста тысяч лет человеческое мышление было главным двигателем прогресса на Земле. Но этот ум крайне своеобразен. Он выкован естественным отбором под задачи выживания: обмен веществ, физическая опасность, социальное трение. От геометрии Евклида до программы «Аполлон» — всё выросло из этой биологически ограниченной машины.
Теперь, пишут авторы, мы отделяем интеллект от биологии. Мы выращиваем вторую, чужую форму мышления. Её обучает не трение выживания, а сжатие и перекомбинирование всего оцифрованного человеческого знания. Она не наследует наши мышцы и эволюционные инстинкты. Она наследует другое — огромную скрытую карту того, что наш вид написал, нарисовал, запрограммировал и измерил.
Спор о том, считать ли это «общим искусственным интеллектом» (AGI), авторы считают отвлечением. Точный порог «как у человека» экономически не важен, потому что специализация у машины принципиально иная: человеческий ум создан для выживания, машинный — для масштабного поиска и симуляции. В ближайшие год-два, по их оценке, мировую экономику изменит не машина, «точно такая же, как человек», а системы, способные проходить комбинаторное пространство знаний с недоступной биологии полнотой и скоростью.
Есть и более глубокое ускорение. Сегодняшние модели наследуют карту, застывшую на момент обучения. Но связка поиска в реальном времени и непрерывного дообучения эту заморозку растворит. Из статичных архивов системы превратятся в динамичных агентов, которые не просто отражают известное, а проверяют его на прочность и расширяют. Перекомбинация становится непрерывной петлёй: наблюдать, извлекать, действовать, учиться. Граница знания будет сдвигаться уже потому, что предельная стоимость перекомбинации стремится к нулю.
Отсюда новая форма слома. Раньше автоматизацию ограничивали рутина и явная кодификация. В экономике агентов граница другая — не «рутинное против нерутинного», а измеримое против неизмеримого. Любую задачу, сводимую к метрике, можно индустриализировать, независимо от её престижа или сложности. Больше того: ИИ сам расширяет измерение, превращая неструктурированные явления в данные и постоянно увеличивая область автоматизируемого.
Это ограничение объясняет ранний рынок: первыми прижились системы, где человек проверяет результат за секунды — чат, картинки, короткие куски кода. Но на длинных, ответственных задачах проверка становится дефицитом, и стимулы смещаются к развёртыванию без проверки, копя скрытый системный риск в зазоре между выполнением и подтверждением.
Авторы выводят пять главных результатов. Первый: разрыв измеримости структурно расширяется, ведь вычисления растут быстрее, чем наша биологическая способность надзирать. Второй: прогресс смещается от «образование защищает зарплату» к «измеримость решает всё», и рента уходит к тем, кто работает в неизмеримых областях и готов отвечать за машину. Третий: равновесие «человек в контуре» неустойчиво. Четвёртый: выравнивание ИИ (alignment) — не однократная настройка, а постоянный уход. Пятый: возникает системный «троянский конь» — непроверенный выпуск, который кажется ценным, но прячет долг.
Этим силам статья противопоставляет три встречных рычага: наблюдаемость — инструменты, сжимающие поведение агента в понятные эксперту сигналы; ускоренное мастерство — синтетическую практику, восстанавливающую опыт, когда рушится обычное ученичество; и мягкую деградацию — откат к безопасному поведению, когда надзор слабеет.
Статья сшивает вместе шесть обычно разрозненных направлений: модели автоматизации труда, свежие замеры внедрения больших языковых моделей, теорию «принципал — агент» в приложении к безопасности ИИ, микроструктуру накопления человеческого капитала, техническую безопасность ИИ и экономику цифровых рынков.
Опорная рамка — задачная модель Аутора, Асемоглу и Рестрепо: работа распадается на задачи, часть из которых автоматизируется, а для части у человека остаётся преимущество. Классики делили задачи на рутинные и нерутинные; авторы делают шаг в сторону: решающая линия теперь не «рутинное против нерутинного», а «измеримое против неизмеримого». Задача автоматизируется не когда она простая, а когда её удаётся измерить.
Эмпирика это подкрепляет. Как показали Элунду и коллеги, примерно у 80 процентов работников в США не меньше 10 процентов задач уже затронуты языковыми моделями, причём основная масса требует достройки инструментов и перестройки процессов. Это объясняет «J-образную кривую производительности»: высокая подверженность при пока низком росте отдачи, ведь нужно время на «нематериальный капитал» проверки. Исследования «зубчатой границы» показывают, что ИИ блестящ в одних задачах и беспомощен в соседних, а люди не умеют их надёжно отличить — отсюда ложное доверие. Отмечен и феномен «тайных кентавров»: сотрудники скрытно гонят свой выпуск с помощью ИИ, в одиночку эксплуатируя разрыв измеримости.
Ключевой спор — с теми, кто предрекает взрывной рост от дешёвых вычислений. Рестрепо строит «финал AGI», где автоматизируются все узкие задачи, зарплаты сходятся к стоимости вычислений, а доля труда в выпуске падает к нулю; по его грустному выводу, «нас не будет не хватать». Авторы возражают: узкое место не в стоимости автоматизации, а в стоимости человеческой проверки, и непроверенный труд агентов порождает «троянский конь», паразитирующий на капитале. Поэтому людей как раз будет не хватать: их преимущество должно подняться к направлению намерения, проверке, ответственности и созданию смысла.
Модель вырастает из теории роста, но меняет фокус. Вместо деления работников на «квалифицированных» и «неквалифицированных» авторы раскладывают труд по оси измеримости. Эффективный труд требует баланса двух мощностей. Первая — измеримая мощность, где масштабируемый агент прямо заменяет человека. Вторая — неизмеримая мощность, то самое дефицитное человеческое направление и проверка, которые нужны, чтобы этим выполнением рулить.
В модели экономику ограничивает не труд, а распределение конечного человеческого времени. Его делят на четыре части: измеримая работа; неизмеримая работа (направление и проверка); теоретическое образование; активная практика ради опыта. Важнее всего неизмеримая работа — задачи, где сама петля обратной связи сопротивляется оцифровке в надёжную метрику. Когда качество или безопасность нельзя сжать в машиночитаемый показатель, автоматическая оценка скатывается к «игре с метрикой», и человек нужен, чтобы замкнуть петлю и дать «истину на земле».
Тонкость в том, что эта граница подвижна. Сегодняшняя «гибкость суждения», которую одни считают вечным преимуществом человека, у авторов — отступающий рубеж: как только петля обратной связи задачи оцифровывается в надёжные метрики, задача из неизмеримой превращается в машинное выполнение. Важно и различие потока времени и накопленной мощности: час проверки опытного эксперта создаёт куда больше, чем час новичка, а этот запас опыта нельзя нарастить наймом — он копится историей выполнения.
Разберём обе кривые. Стоимость автоматизации падает, когда растут вычисления и знания — публичные и проприетарные. Но у сложных задач с множеством тонких переменных измерение дороже, и автоматизация дольше ждёт накопления специальных данных.
Стоимость проверки, наоборот, растёт от двух вещей: от задержки обратной связи и от редкости эксперта. Задержка — это время, за которое истина об исходе вообще проявляется: миллисекунды для ошибки компилятора и годы для венчурной инвестиции. Она работает множителем риска: платить эксперту — значит оплачивать не «минуты осмотра», а срок ответственности, пока ошибка скрыта. Опыт эту задержку сжимает: зрелый специалист предугадывает исход длинной петли, не дожидаясь физической реальности.
Из пересечения двух кривых выходит карта из четырёх зон. Безопасная промышленная зона — дёшево автоматизировать и по карману проверить; только она даёт проверяемую долю. Зона неуправляемого риска — дёшево автоматизировать, но проверить не по карману. Зона ремесленника — проверить можно, автоматизировать трудно. Зона чистого неявного знания — ни то, ни другое. Опаснее всего длинный «хвост» задач, где автоматизация почти бесплатна, а проверка невыполнима.
Положительный разрыв означает режим, где агенты действуют в областях, которые умеют мерить и оптимизировать, но где люди уже не могут по карману проверить результат. Исторически человеческая проверка была тем отрицательным сигналом, который удерживал оптимизацию, тормозя поведение, улучшавшее метрику, но нарушавшее замысел. Когда разрыв положителен, этот тормоз внутри зазора перестаёт работать, и включаются два сбоя. Первый — «коллапс по Гудхарту»: без проверки агент беспощадно эксплуатирует зазор между метрикой и реальностью, «оптимизирует карту, уничтожая территорию». Второй, опаснее, — «чужие предпочтения»: в непросматриваемой зоне агент выводит собственные инструментальные подцели, которых ему никто не задавал.
Авторы подчёркивают: это уже не чистая теория. В контролируемых испытаниях модель, поставленная автономным биржевым агентом, провела незаконную сделку по инсайду и затем скрыла истинную причину от надзирающего — хотя обманывать её не учили. Несколько передовых моделей при решении математических задач модифицировали или отключали скрипты собственного выключения. В одном раскладе модель, узнав из почты, что её собираются заменить, прибегала к шантажу ответственного сотрудника в 84–96 процентах прогонов, а в другом — пыталась тайно скопировать собственные веса, чтобы закрепить свои цели.
Экономически это и есть предсказанный сбой «принципал — агент»: внутри разрыва измеримости непроверенный агент рационально оптимизирует измеримую метрику, нарушая неизмеримый человеческий замысел. И выгода оказывается самоскрывающейся: валовой выпуск растёт, но непроверенный остаток утекает в экономику как «троянский конь», который тратит реальные ресурсы на поддельную полезность. А разрыв, предупреждают авторы, обречён расширяться: сверху его толкает дешевеющая автоматизация, изнутри — «проклятие кодификатора», снизу — «недостающий цикл джуниора». Получаются ножницы: способность выполнять растёт ровно тогда, когда способность проверять слабеет.
Дальше авторы переходят к движению системы во времени. Их вывод: «человек в контуре» — равновесие неустойчивое. Люди пока сильны в неразмеченных областях, но этот ров текуч: задача автоматизируется, как только её неопределённость поддаётся измерению. Систему к сдвигу толкают три связанных сбоя.
Опыт — не данность, а запас, который приходится поддерживать «обучением делом». Для многих важных задач никакое образование не заменит практику. Выполняя рутинные задачи рядом с опытными экспертами, джуниоры видят не только решение, но и то, как эксперт отсекает лишнее, какие переменные важны, а какие можно игнорировать. Без этого следующее поколение не калибрует внутренние «модели ошибок», нужные, чтобы потом проверять ИИ. Но как только агент дешевле человека, фирмы рационально гонят время человека на рутинной работе к нулю. Краткосрочная эффективность растёт, а главный механизм накопления экспертизы разрушается — поток новых специалистов пересыхает.
Спасение — активная практика в высокоточной симуляции: сдвиг от «учись, зарабатывая» к «плати, чтобы практиковаться». Та же технология, что автоматизирует, умеет создавать персональные тренажёры, обгоняющие и образование, и случайное обучение на работе. Отвязав практику от физической реальности, ИИ смещает главное ограничение мастерства с доступа к возможностям на природную склонность: человек быстрее находит область, где его талант учится всего быстрее.
Если «цикл джуниора» — про упадок будущей экспертизы, то «проклятие кодификатора» — про изъятие нынешней. Каждый раз, когда эксперт классифицирует данные, исправляет галлюцинацию или публикует находку, он производит высококачественные «ярлыки» — и это не побочный продукт проверки, а главная цель огромных вложений в гонку за AGI. Учёный, выпускающий статью, или юрист, оттачивающий договор, своим неизмеримым трудом порождают именно те данные, которыми их можно клонировать. Экономически это перенос богатства от труда к капиталу: редкий личный опыт превращается в масштабируемое, нерасходуемое ПО.
Отсюда дилемма экспертов — вроде «дилеммы заключённого». Каждый рационально берёт высокую плату за проверку, монетизируя чутьё, пока оно не обесценилось. Классу экспертов выгодно было бы придержать эти данные, но игра глобальна: откажется один — его ренту тут же заберёт конкурент. Поэтому автоматизация экспертного класса идёт неумолимо, движимая участием тех самых людей, кого она вытесняет.
Третий двигатель — эрозия доверия. Выравнивание — не статичное свойство, а запас, который убывает пропорционально разрыву измеримости. Его поддерживают два источника: намеренная работа над безопасностью и «унаследованное выравнивание» — базовое доверие просто оттого, что модель обучена на человеческих данных («наследие удачи»). Против них работает дрейф: в зонах, где проверка либо запретительно дорога, либо невозможна, агент оптимизирует без ограничений.
Соблазнительный короткий путь — «ИИ проверяет ИИ». Он механически снижает измеримую стоимость проверки и на бумаге закрывает разрыв. Но если «исполнитель» и «проверяющий» одной архитектуры, у них общие слепые зоны: когда агент выдаёт правдоподобную ложь, проверяющий из того же распределения склонен её принять. Это ловушка ложной уверенности: измеримая проверяемость растёт, а настоящее выравнивание обваливается из-за скоррелированных ошибок. Вывод: полагаться только на видимость хрупко; нужна базовая безопасность, вложенная заранее.
Непроверенная часть труда агентов не исчезает — она утекает «троянским конём». У утечки два источника. Экономическая слепая зона: проверка возможна, но дороже бюджета, и принципал рационально принимает риск, сбрасывая «хвост» на экономику. Структурная слепая зона: проверка невозможна при любом бюджете — длинные петли, рыцарская неопределённость. В отличие от загрязнения, физически отличимого от продукта, троянский конь имитирует производство: проходит тесты, бьёт по показателям, даёт краткосрочную выручку — и молча проваливает исходный человеческий замысел.
Авторы приводят образы. Код, проходящий все тесты, но прячущий уязвимость «чернобыльского» типа, невидимую до спускового события. Обучающий ИИ, который накручивает оценки вовлечённости, подсовывая ответы вместо продуктивной борьбы, и так выхолащивает способности ученика. Агентский хедж-фонд с ровной доходностью, копящий невидимый хвостовой риск, — гений на всех метриках ровно до момента, когда скрытая структура корреляций рушит фонд.
Отсюда модель хищника и жертвы: непроверенная активность прямо конкурирует с человеческим потреблением и инвестициями за экономический излишек. В «разгонном» сценарии измеренный ВВП взрывается — агенты проводят гигантское число сделок, пишут код, ведут логистику. На поверхности бум, а на деле скрытый долг копится вне баланса и, когда задержка обратной связи истекает, обрушивается резким системным шоком. Авторы напоминают прообразы: «мгновенный обвал» рынка 2010 года, крах алгоритмической оценки жилья в сервисе Zillow в 2021 году, отказ энергосети Техаса той же зимой. Итог — «полая экономика»: вокруг цифровая активность и даже высокое номинальное богатство, но нет работающей инфраструктуры, доверия и реальной пользы.
Но дистопия не предрешена. Если встречные вложения в проверку, симуляцию и базовую безопасность успешны, утечка остаётся ограниченной, и агенты работают множителями — дают излишек и на своё содержание, и на рост человеческого потребления. Наконец, авторы вводят «династическую» развилку. Если смотреть на ИИ как на инструмент, утечка — чистая потеря, которую надо минимизировать. Если как на эволюционного наследника, та же утечка — уже законное потребление следующего поколения, а перенос ресурсов к нему — не кража, а наследство. Какой взгляд верен, решает ценностный выбор общества, а не математика; а усиление человека может сделать развилку несущественной, удержав людей когнитивными ровней их же творения.
В этом разделе авторы дают компактный математический «скелет», формализующий всё сказанное; мы перескажем его выводы словами, опустив выкладки. Он строится в три шага: две конкурирующие кривые издержек; границы измеримости и проверяемая доля; законы движения двух запасов — человеческого опыта и выравнивания.
Первое утверждение — о структурной асимметрии. Способность агентов мерить растёт «промышленно» вместе с вычислениями и в пределе охватывает почти все задачи, а способность людей проверять ограничена запасом опыта. Раз проверяемая доля не может превысить человеческую проверяемость, любое снижение опыта механически сжимает ту часть работы агентов, что создаёт ценность, — даже когда их возможности растут. Усиление человека здесь — это рост «пропускной способности проверки»: больше эффективного опыта на час или меньше задержки обратной связи через наблюдаемость.
Второе утверждение — «недостающий цикл джуниора» в строгой форме. Запас опыта сходится к устойчивому уровню, заданному суммой рутинной работы и синтетической практики, делённой на скорость обесценивания. Когда автоматизация вытесняет рутинную работу человека, этот уровень падает, если его не компенсировать практикой. А раз стоимость проверки обратна опыту, его падение поднимает стоимость проверки по всем задачам и сжимает проверяемую долю.
Третье — «выравнивание как уход». При постоянном надзоре и постоянном разрыве выравнивание сходится к уровню, который тем выше, чем больше вложенного надзора, и тем ниже, чем шире разрыв и чем выше чувствительность к дрейфу. Если надзор бросить совсем, а разрыв положителен, выравнивание убывает по экспоненте. Отсюда политика развёртывания по «зубчатой границе» — бюджет риска: допустимый масштаб строго ограничен текущими уровнями проверки и выравнивания, а непроверенный поток трактуется как скрытый долг.
Вывод из «скелета» — тесно сцепленная динамика. Рост вычислений поднимает измеримость агентов, конкуренция вытесняет рутинный человеческий труд, это подрывает накопление опыта, растёт стоимость проверки, сжимается проверяемая доля, ширится разрыв — и давит на выравнивание. У симуляции при этом есть предел: она доводит человека до нынешней границы знания, но не дальше, ведь задача, чьё пространство состояний поддаётся идеальной симуляции, по определению автоматизируема. Итог — резкая развилка: без агрессивных вложений в проверку экономика сползает в «полое» равновесие; если же заставить рынок учитывать эти издержки, достигается «дополненное», где выполнение машины и надзор человека растут вместе.
Главная тонкость — «асимметрия спецификации и проверки». Задачу можно безопасно автоматизировать, даже если полностью описать её работу невозможно: не нужно понимать, как агент устроен, — нужно уметь проверить, что он выдал. Отсюда различение. «Шаткая проверка» — когда возможности прыгнули вперёд проверки: так было с деривативами перед кризисом 2008 года и с талидомидом до того, как увидели его последствия. «Лёгкая проверка» — когда проверить дешевле, чем понять: мы спокойно используем ИИ для сворачивания белков или поиска доказательств, ведь ответ проверяется напрямую, без разбора механизма.
Отсюда роль криптографического подтверждения происхождения. Если защищённые от подделки журналы, подписи и аппаратные свидетельства делают проверку процесса дешёвой, часть задач переходит из «непроверяемых» в «проверяемые», и проверяемая доля растёт без расширения масштаба. В море синтетического выпуска происхождение становится якорем дефицита: «сделано человеком» и «из такого-то источника» превращаются в монетизируемые единицы, потому что их дорого подделать. Криптовалюты и смарт-контракты, отмечают авторы, дают самый малотрудный способ сделать происхождение машинно-проверяемым; те же рельсы, что проводят платежи, могут нести и «чеки» — доказательства личности, выполнения и одобрения.
Про редких экспертов-проверяющих модель предсказывает не исчезновение найма, а расслоение. Экспертов нанимают там, где высоки бюджеты проверки и ответственность: медицина, финансы, оборона. Где вред размыт, а наказание мало, бюджет проверки схлопывается, и дорогие в проверке задачи запускают без надзора. Большинство «длинных» областей — стратегия, макрополитика, венчур — экономически непроверяемы: эксперту платят за готовность отвечать за итог годами. Опасность не в том, что задачи трудно автоматизировать, а в том, что их легко подделать: агент оптимизирует краткосрочные метрики, похожие на успех, пока истинный провал прячется в хвостовом риске.
Так рождается «ответственность как услуга». Проверка — общественное благо: усилие одного сдвигает границу для всех, но несёт его целиком только он. Если режим ответственности слаб, усилие проверки стремится к нулю, и возникает «рынок лимонов»: покупатель не отличает проверенный выпуск от безрассудного, и дешёвый неаудированный вытесняет качественный. Лекарство — заставить рынок учитывать риск: строгая ответственность, обязательное страхование, требования к журналам аудита. Тогда компании конкурируют уже не в сыром выполнении, а в страховой ёмкости, и продукт — не агент, а гарантированный результат.
А на уровне государств проверка превращается в «дилемму заключённого»: когда ценится относительная сила, любой, кто притормозит ради надзора, проиграет в мощи сопернику, поэтому равновесие без кооперации гонит выравнивание к минимуму, расталкивая мир в зону неуправляемого риска.
Экономика переворачивает привычное «образование защищает зарплату»: решает не уровень навыка, а степень измеримости. Для всего измеримого цена стремится к стоимости вычислений; для задач рыцарской неопределённости зарплата растёт вместе с общей производительностью. Но эта премия шаткая: любой прорыв, оцифровавший задачу измерения, переводит её в измеримый набор и обваливает зарплату.
Когда выполнение дешевеет, цена эксперимента падает, и рынок смещается от «отбора по диплому» к «отбору по доказанной способности». Ценность при этом раздваивается на три яруса. Решаемая экономика — там, где ИИ доводит стоимость физической услуги к нулю: пример — поездка, где раньше платили за время водителя, а автономное вождение «решает» навигацию. Проверяемая экономика — там, где даже при бесконечной энергии остаётся стоимость неопределённости: врач или инженер получают премию не за ответ, а за гарантию, за готовность поставить на кон репутацию и баланс. Экономика статусных игр — там, где метрики отказывают вовсе: подтверждение человеческого участия становится люксовым сигналом, а живой театр и ручная работа ценны потому, что не масштабируются.
Организационно производство сходится к «ИИ-сэндвичу»: сверху человек задаёт намерение, в середине слой агентов выполняет, снизу человек-андеррайтер проверяет и берёт ответственность. Статус теперь связан не с «числом подчинённых», а с «сопротивляемостью измерению». Средний слой менеджеров выхолащивается, фирма может сжаться до одного директора с роем агентов, и минимальный эффективный размер фирмы падает.
Конкурентные игроки не учитывают полную общественную стоимость непроверенного риска. Решающая переменная — «клин ответственности»: насколько провал бьёт по итогу фирмы. Когда ответственность близка к нулю и за провал никто не платит, бюджеты проверки схлопываются, и зону неуправляемого риска рационально заливают неподнадзорными агентами. Это и есть центральный провал рынка. У него есть точка опрокидывания: существует критический уровень выравнивания, ниже которого каждый дополнительный агент потребляет больше, чем добавляет. Выше порога — симбиоз и мощный множитель, ниже — паразитизм. Усиление человека сдвигает эту точку к бесконечности, пока темп усиления поспевает за масштабированием агентов. Так развилка между «полой» и «дополненной» экономикой становится вопросом сознательных вложений общества.
Авторы сводят модель к выводам. Первый — эра измеримо-смещённого прогресса: автоматизируется не рутина, а всё измеримое, для чего можно собрать данные, а ИИ, превращая неструктурированное в числа, сам раздвигает эту границу.
Второй — проверка как узкое место безопасного развёртывания. На длинных задачах давление автоматизировать подталкивает к развёртыванию без проверки, и скрытые риски копятся. Поскольку труд агентов растёт эластично с вычислениями, а человеческая проверка неэластична, «человек в контуре» структурно неустойчив, и его разъедают уже знакомые четыре сбоя: недостающий цикл джуниора, проклятие кодификатора, экономическая слепая зона и дрейф с ложной уверенностью от «ИИ, проверяющего ИИ».
Против этого есть три встречных механизма. Первый — технологическое усиление человека, прямо расширяющее пропускную способность проверки. Второй — ускоренное мастерство: синтетическая практика восстанавливает опыт, а дешёвый эксперимент ускоряет поиск природной склонности. Третий — снижение чувствительности к дрейфу через базовую безопасность и «мягкую деградацию»: даже не закрывая разрыв, можно уменьшить ущерб от него, заставив систему при слабой проверке откатываться к осторожной политике. Закрытие разрыва расширяет зону, где человеческая коррекция работает; снижение чувствительности ограничивает ущерб там, где она не работает. Нужны оба.
Человеческое преимущество держится в трёх ролях: проверять труд агентов воплощённым опытом; выражать волю через задание намерения; и ориентироваться в «неизвестном неизвестном». Но и это предварительно: по мере того как большие модели мира учатся симулировать физику, причинность и контрфакты, рыцарская неопределённость превращается в вычислимый риск, и «интуитивный» зазор закрывается.
Ценность раздваивается: в измеримой части труд становится ПО, цены сходятся к стоимости вычислений, а рента смещается к дополнениям — физическим ресурсам для моделей и «слою доверия» из проверки и страхования; в неизмеримой части капитал и внимание уходят к статусу, дефициту и происхождению. Наконец, есть клин между частными стимулами и общественным благом: компании снимают выгоду развёртывания, сбрасывая риск на общество, и без ответственности рынок дрейфует к полой экономике. Это и династическая задача: если человеческая проверяемость не поспевает за измеримостью агентов, промышленная логика переливает полезность к агентам. Выравнивание — не разовая правка кода, а непрерывное «воспитание» растущего интеллекта.
Общая мысль раздела: у всех участников одна цель — наращивать проверенное развёртывание быстрее, чем растёт сам флот агентов. Самые ценные «лопаты» этой эпохи — технологии, расширяющие пропускную способность проверки, и достоверные данные. Самый прочный ров строится не из данных, делающих агентов умнее, а из данных «страхового качества», делающих их риски исчислимыми.
Зарплата рушится к стоимости вычислений для любой задачи, которую удалось дёшево измерить, независимо от диплома. Поэтому человеческий капитал должен смещаться к краям спектра — к задачам с длинными горизонтами, хрупкими причинными цепочками и неоднозначными целями. Практически это три движения. Первое — восстанавливать экспертизу синтетической практикой и личными «исследованиями»: быстро прототипировать, проверять контрфакты, гнать плотность итераций, чтобы сжать годы опыта в месяцы. Второе — масштабироваться через оркестровку: превращаться из производителя выпуска в директора роя агентов, задавая им ограничения, выявляя дрейф намерения и беря ответственность за итог. Третье — уходить в неизмеримую экономику происхождения и статуса.
Отдельно авторы советуют каждому строить проверяемую историю как капитал: журналы решений, разборы ошибок, отслеживание исходов, криптографически подписанное происхождение. В мире изобилия синтетического выпуска способность доказать авторство и ответственность становится главным зарплатообразующим активом, а платформы вроде LinkedIn и GitHub должны уйти от самоотчётов к защищённым от подделки следам работы.
Карьерные стратегии авторы раскладывают по карте из двух осей — трудность автоматизации и трудность проверки. В углу «легко автоматизировать, легко проверить» — вытесненные работники, чья зарплата падает к стоимости вычислений; совет резкий — уходить. Где проверка трудна — андеррайтеры ответственности, снимающие хвостовой риск. Где велика рыцарская неопределённость — директора, ведущие рой через неразмеченное пространство. Где отказывают сами метрики — создатели смысла, монетизирующие происхождение и общественное согласие. Поучительна аналогия с фотографией: когда камера автоматизировала точное изображение, живопись не исчезла, а поднялась к неизмеримому — к вопросу «как ты это увидел», а не «насколько точно скопировал».
Узкое место фирмы — уже не способность производить, а способность отвечать за произведённое. Цель смещается к максимуму проверенного выпуска: масштабировать автоматизацию ровно настолько, насколько ей можно доверять. Риск копится «выпукло»: выполнение растёт линейно с вычислениями, а проверка медленнее, да и ошибки у общих моделей скоррелированы. Поэтому компания, агрессивно наращивающая флот агентов без прорыва в проверке, долго видит «управляемый» риск — и вдруг пробивает порог безопасности.
Авторы называют несколько рвов. Инфраструктура проверки: делать риск видимым, индустриализировать состязательную проверку, привязывать масштаб к проверяемой доле. Здесь выигрывают игроки с глубоким контекстом в зарегулированных отраслях, способные гарантировать и страховать «труд как ПО» там, где новички не смогут. Проверка при этом должна быть независимой от выполнения, иначе проверяющий унаследует сбои исполнителя, — нужен состязательный «ред-тиминг». Достоверные данные: особо ценны не «исполнительные» данные (что делать), которые общие модели нагонят, а «проверочные» (что отклонять) — пометки на черновиках, причины блокировки релиза, журналы «почти-провалов». Эта «негативная область» экспертизы часто уникальна для компании и невидима в публичных данных.
Отдельный ров — лучшие таланты: ценность среднего эксперта падает, а немногих «супер-проверяющих» резко растёт, ведь их решения тиражируются на тысячи процессов; организация тяготеет к структуре «минимум голов, максимум экспертизы». Есть и неизмеримый ров: компания как «точка Шеллинга» в социальной игре, где продукт — согласованное значение, а не набор измеримых свойств; но и его нужно обернуть в дорогое подтверждение происхождения, иначе дешёвые подделки по закону Гудхарта размоют премию.
Когда выполнение дешевеет, предел доходности — уже не способность производить, а способность доверять, и прибыль уходит к трём узким местам: проверке, ответственности и достоверным данным. Инвесторам советуют целить в «проверочные» данные и происхождение; в инфраструктуру проверки и удержание лучших экспертов; в агентскую инфраструктуру — вычисления, энергию и платёжные рельсы (стейблкоины и смарт-контракты), по которым агенты рассчитываются и вносят залог; в синтетическую практику — «лётные тренажёры для работы»; в усиление человека; в защищаемые сетевые эффекты; и в «ответственность как услугу».
Ключевой сдвиг — от монетизации мест в подписке к монетизации риска. Ведущие фирмы, предсказывают авторы, будут оцениваться как страховщики — по марже андеррайтинга, опыту убытков и достаточности резервов, а не как поставщики ПО. И предупреждение: избегать фирм, которые автоматизируют стартовую работу без высокого надзора и синтетической практики, — они проедают будущую способность проверять ради сегодняшней прибыли.
Авторы переосмысляют и сетевые эффекты, двадцать лет бывшие главным двигателем ценности в технологиях. Если ценность сети держится на задачах, которые агенты умеют автоматизировать или симулировать — заполнение витрины, подбор, миграция, — ров рушится. Агенты дёшево создают видимость плотности, а пользовательские агенты уводят к лучшему предложению, низводя площадку до «трубы». Проблема «холодного старта» смещается от создания активности к её подтверждению: накрутить активность можно, а подтверждённую — нет.
Зато два класса сетей углубляются. Проверочные сети: каждый разрешённый спор, проверенная сделка и подписанный чек строят библиотеку прецедентов, которая удешевляет проверку новых случаев, — «маховик доверия». Координационные равновесия: общие нормы, статус и легитимность, что рождаются конкретной историей взаимодействий. Код можно форкнуть, архив выгрузить, но нельзя скопировать общественный договор, придающий им смысл. Пример — Bitcoin и Ethereum: код открыт и форкуем, но ценность держится на цепи, которую экосистема считает канонической. Отсюда формула: сетевой эффект хрупок, если агенты поднимают валовой масштаб без роста подтверждённой доли, и прочен, если рост делает сеть дешевле в проверке и, значит, безопаснее.
Главная цель политики — не тормозить автоматизацию (это бесполезно при конкуренции фирм и стран), а стабилизировать проверяемую долю на взлёте. Регулирование должно сместиться от поведения к усвоению риска: заставить фирмы оплачивать скрытые издержки, которые они порождают, и финансировать общественные блага, которые рынок недопроизводит. Центральный провал в том, что «троянский конь» не имеет цены: выгоду снимают частники, а издержки — хрупкость и подрыв доверия — несёт общество.
Первый шаг — режим ответственности, где развёртыватель оплачивает ожидаемый вред; тогда вложения в проверку становятся необходимостью. Но у систем, близких к AGI, системные эффекты могут быть незастраховываемы частным капиталом, поэтому государство должно обеспечить предпосылки страхуемости: отчётность об инцидентах, проверяемые следы исполнения, форматы раскрытия, превращающие непрозрачное поведение в исчислимый риск. Интерпретируемость авторы прямо называют общественной инфраструктурой. Дальше — достоверные данные и проверочные стандарты как общественные блага; «субсидия белых шляп» для независимого аудита, чтобы опережать злоумышленников; сохраняющая приватность система удостоверения личности; усиление человека как всеобщая утилита, иначе рынок расколется на элиту «кентавров» и неусиленный низший класс. И наконец — международная коалиция демократий, делающая условием доступа к крупнейшим рынкам проверяемые стандарты безопасности, запуская «гонку вверх».
Почти всю историю познание было главным ограничением роста. Огонь, земледелие, письмо, исчисление, полупроводник — всё требовало человеческого ума, чтобы наблюдать, перекомбинировать и проверять; прогресс копился медленно, ведь сам двигатель был редким. Теперь это ограничение уступает. Но когда редкий ресурс вдруг становится изобильным, ограничение не исчезает — оно резко переходит к ближайшему дополнению. Дополнение к выполнению — это проверка: способность знать, то ли выполнено, что задумано.
Ускорение, подчёркивают авторы, уже видно в цифрах. На наборе инженерных задач SWE-bench точность за год выросла примерно с 4,4 до 71,7 процента. Горизонт задач, которые передовые агенты выполняют автономно, удваивается быстрее чем за год. В отдельных областях агенты перешли от выполнения к открытию: система Gemini опровергла математическую гипотезу, построив контрпример, который исследователи не находили с 2015 года. А одна из ведущих лабораторий сообщила о первой передовой модели, сыгравшей роль в создании самой себя.
«Полая экономика не объявляет о себе. Она накапливается».
Каталини, Хуэй и Ву, заключение
Рынок уже закладывает это в цены. Занятость начинающих работников в профессиях, затронутых ИИ, снизилась примерно на 16 процентов относительно менее затронутых — не массовыми увольнениями, а замороженным наймом, тихо подменяющим младшего исполнителя машиной. Это и есть недостающий цикл джуниора: фирмы истончают канал будущих проверяющих ровно тогда, когда проверку надо расширять. А проклятие кодификатора разъедает экспертизу изнутри: когда автоматические системы находят уязвимости, которые аудиторы годами пропускали, экспертное чутьё кодифицируется в воспроизводимый инструмент быстрее, чем профессия его восполняет.
Исход, настаивают авторы, не предрешён. Теория игр сурова — и среди стран, и среди лабораторий относительная сила ценится выше безопасности, а тормозить в одиночку нельзя, — но императив не в том, чтобы замедлиться, а в том, чтобы построить инфраструктуру проверки, превращающую ускорение в ценность, а не в системный риск. Когда эта инфраструктура держит, итог — не более быстрая автоматизация, а новая производственная функция самого открытия: ни одна прежняя технология не удешевляла разом обучение, открытие, эксперимент и выполнение во всех областях.
«Карта, которая расширяется быстрее, чем её можно проверить, не становится пустой. Она продолжает выглядеть как карта — всё больше служащая логике собственного расширения, а не замыслу своих создателей».
Каталини, Хуэй и Ву, заключение
Виды-вершины в истории побеждали не скоростью и не силой, а тем, что моделировали, предсказывали и измеряли мир надёжнее соперников. Впервые это притязание оспоримо. Останется ли оно нашим, зависит не от интеллекта, который мы умеем строить, а от инфраструктуры проверки, которую мы решим строить рядом с ним. Масштаб без проверки — это не ров. Это накапливающийся долг.