Аудио-издание · изложение на простом русском

Коузовская сингулярность? Спрос, предложение и дизайн рынков с ИИ-агентами

Пейман Шахиди, Гили Русак, Бенджамин Мэннинг, Андрей Фрадкин, Джон Хортон
Peyman Shahidi, Gili Rusak, Benjamin S. Manning, Andrey Fradkin, John J. Horton, «The Coasean Singularity? Demand, Supply, and Market Design with AI Agents», NBER Working Paper 34468 (ноябрь 2025); глава в сборнике The Economics of Transformative AI (ред. Agrawal, Brynjolfsson, Korinek), University of Chicago Press, 2026. Оригинал: nber.org/papers/w34468. © авторы, все права защищены.
Это не дословный перевод, а полное изложение статьи для прослушивания: сохранены все аргументы, выводы, цифры и примеры, формулы пересказаны словами, список литературы и технические приложения опущены. Примерное время прослушивания: 35 минут.

О чём эта статья

Эту главу написали пять экономистов из MIT, Гарварда и Бостонского университета — Пейман Шахиди, Гили Русак, Бенджамин Мэннинг, Андрей Фрадкин и Джон Хортон. Она прямо продолжает статью Коуза «Природа фирмы», которую вы только что слушали. Коуз объяснил: фирмы существуют потому, что пользоваться рынком дорого — искать цены, договариваться, писать контракты, следить за их исполнением стоит труда людей. Именно эти занятия, говорят авторы, ИИ-агенты умеют делать почти бесплатно. А значит, граница между «сделать внутри фирмы» и «купить на рынке» сдвинется.

Главный вопрос: что будет с цифровыми рынками, когда их участниками станут автономные программы, действующие за людей, — сами ищущие, сравнивающие, торгующиеся и заключающие сделки? Главный ответ: издержки использования рынка резко упадут, и это откроет и новые возможности, и новые сбои. Рынки станут эффективнее, но появятся заторы, скрытые цены и борьба за то, чей именно агент обслуживает сделку.

Для того, кто строит маркетплейс ИИ-агентов, это разметка всего поля: откуда возьмётся спрос, как устроено предложение, какие четыре типа агентов будут конкурировать, где рынок начнёт ломаться и какие новые механизмы станут наконец осуществимыми. Итог не предрешён: те же силы, что делают агентов полезными, могут и перегрузить рынки.

ИИ-агентАвтономная программа, которая воспринимает обстановку, рассуждает и действует ради цели хозяина: пользуется инструментами, ведёт сделки, получает и отправляет деньги, выходит в интернет. Примеры — Deep Research, AutoGPT, Claude Code.
Издержки использования рынкаРасходы на то, чтобы воспользоваться рынком: узнать цены, найти партнёра, договориться, оформить и проконтролировать сделку. В экономике — трансакционные издержки (transaction costs). Именно их агенты снижают.
Производный спросСпрос не ради самого агента, а ради результата: не смотреть, как он собирает цены на грили, а получить выгодную покупку. По-английски — derived demand.
ПринципалТот, за кого действует агент: потребитель, фирма или платформа, запускающая агента, чтобы он работал вместо неё.
Проблема согласованияКак добиться, чтобы агент знал предпочтения хозяина и действительно им следовал, а не своим. По-английски — alignment problem.
Дизайн рынковПроектирование правил, по которым участники находят друг друга и совершают сделки (market design): как собирают заявки, сопоставляют спрос и предложение, назначают цены.

1

Введение: агенты как новые участники рынка

ИИ-агент — это программа, которая сама воспринимает цифровую среду, рассуждает и действует, чтобы достичь цели, поставленной человеком: пользуется инструментами, совершает денежные сделки, ведёт себя стратегически. Авторы смотрят на агентов как на участников рынков: тех, кто распоряжается вычислениями, общается с другими агентами и людьми, получает и отправляет деньги, выходит в сеть. Такие агенты уже есть — AutoGPT, Replika, Claude Code, — а более умелые на подходе.

Показательный пример — Deep Research от команды Gemini у Google. Обычная программа лишь достаёт готовые данные или обрабатывает то, что ей дали. Deep Research получает задание обычными словами и сама выполняет цепочку действий: раз за разом ищет в сети, оценивает найденное и собирает отчёт, не спрашивая человека на каждом шаге. Эта способность воспринимать, рассуждать и действовать по словесной инструкции и отличает ИИ-агента.

Главное обещаниеЭкономический смысл ИИ-агентов — в резком снижении издержек использования рынка. Те занятия, из которых эти издержки складываются — узнавание цен, переговоры, контракты, контроль, — агент способен выполнять с ничтожными затратами на каждую сделку.

Снижение идёт двумя путями. Прямой: агент сам делает всю работу — сравнивает цены, ведёт переговоры, проходит собеседование. Советующий: агент помогает человеку решать лучше, например подгоняет резюме под каждую вакансию. Оба уже показали себя. Авторы ссылаются на данные: соискателям иногда лучше, когда собеседование ведёт ИИ, а не человек-работодатель; а алгоритмическая помощь с текстом заявки заметно повышает долю нанятых.

Важно, что спрос на агентов — производный, а не прямой. Человек не радуется, глядя, как агент собирает цены на грили; он нанимает его ради нужного исхода. Поэтому агентов будут применять в двух случаях: чтобы принять решение, которое сам человек из-за нехватки сведений или сил принял бы хуже; и чтобы принять решение примерно такого же или чуть худшего качества, но несравнимо дешевле.

Широкое распространение агентов перестроит экономику. Как именно — пока неясно, но силы экономистам знакомы: спрос и предложение агентов влияют на устройство рынков, а технический сдвиг меняет относительную стоимость занятий. Здесь особенно полезен Коуз: он показал, что издержки использования рынка — часто это издержки человеческого труда — определяют устройство фирм. Как только агенты смогут дёшево и надёжно выполнять эти функции, сдвинется традиционная граница «делать самим или покупать», задающая размер фирм и строение рынков.

Перемены придут не только из приспособления старых рынков, но и из рождения совсем новых, спроектированных «от агента». На приспосабливающихся рынках агенты сперва помогают людям с отдельными задачами, затем забирают их целиком, а человеческий труд смещается к суждению, надзору и отношениям. Со временем это ведёт к перестройке вокруг возможностей агентов. Рынки же нового типа начнут сразу с этой конечной точки — их с нуля построят вокруг того, что умеют агенты.

Наконец, агенты раздвигают границу осуществимого в дизайне рынков. Снижая стоимость выявления предпочтений, обеспечения обязательств и проверки личности, они делают доступными механизмы, прежде красивые лишь в теории. Это может улучшить благосостояние потребителей и качество совпадений. Но гарантии нет: даже если каждому потребителю и фирме выгодно завести агента, равновесный исход может оказаться плохим — особенно там, где есть внешние эффекты между агентами, неполное согласование и неравный доступ к информации. Отсюда и программа для экономистов: превратить теоретические идеи в работающие механизмы перехода.

2

Спрос на ИИ-агентов

Люди будут нанимать ИИ-агентов по тем же причинам, что и людей-посредников: когда разумно доверить часть решения или сделки кому-то между собой и рынком. Причин три: время агента дешевле времени хозяина; агент честно лучше справляется; хозяину зачем-то нужно скрыть свою личность в сделке.

Эти мотивы погонят внедрение по двум направлениям. Первое: агент заменит человека-посредника там, где иначе пришлось бы делать всё самому или нанимать человека. Классический пример — поиск товара. Агент превращает дорогие и долгие части посредничества — поиск, отсев, запрос цен, переговоры, согласование времени — в дешёвые вычисления: одновременно запросит и сравнит множество предложений, забронирует и проследит исполнение куда дешевле человека. Даже когда исполнение остаётся за людьми, наценка за посредничество падает.

Второе направление важнее: агенты позволят браться за то, за что раньше не брались. Снижая стоимость разведки и исполнения, они расширяют набор вариантов и опускают порог «стоит ли этим заниматься». Для физических работ — установить технику, починить раковину — агент проведёт диагностику, найдёт детали, выберет подрядчика, назначит время. Для программных — напишет и доведёт до ума нужный скрипт. В отличие от человека, он упорно продирается сквозь повторяющиеся неудачи при малых затратах и долго следит за задачей ради лучшего исхода.

Раньше всего агенты закрепятся там, где посредничество людей и так привычно. Признаки таких рынков: высокие ставки; огромное число контрагентов; много усилий на оценку вариантов; информационная асимметрия, снимаемая трудом или опытом; и асимметрия опыта, когда одни совершают сделку часто, а другие редко. Примеры — поиск работы, недвижимость, часть инвестиций, где важны не только деньги, но и то, с кем имеешь дело. Удобное правило: агенты первыми появятся там, где уже работают люди-посредники или где ради преодоления трудностей поиска выросли крупные платформы — LinkedIn, Upwork, Zillow, Airbnb.

Что было в таблице. Авторы сводят это в таблицу «где агенты закрепятся первыми». При высоких ставках (недвижимость, работа, инвестиции) риелторов и советников заменит анализ гор документов без усталости. Где контрагентов очень много (знакомства, фриланс, аренда — Tinder, Upwork, Airbnb), агент оценит тысячи вариантов разом, ведь у его «времени» нет цены. Где оценка трудна (венчур, поступление в вузы, закупки между фирмами), он прочитает каждый отзыв и сравнит все показатели без упрощений. При информационной асимметрии (подержанные авто, страховки, юруслуги) он сверяет источники и ловит расхождения. А при асимметрии опыта (покупка жилья раз в десять лет против ежедневной практики профессионала) он опирается на опыт миллионов сделок, давая каждому переговорную силу частого участника.

Причины спроса ясны, а готовность платить — менее. От агента хотят того же, что и от человека-посредника: умелости, чтобы действовать по предпочтениям хозяина; знания этих предпочтений; и верности, чтобы действовать ради его пользы. Коротко — умелый, знающий и верный агент. Спрос на надёжные сведения о том, насколько агент хорош, будет велик: важны и тесты-эталоны (benchmarks), и советы знакомых, — хотя разумно опасаться, что эталоны начнут «подкручивать». Вероятна специализация: отдельные агенты прославятся как особенно хорошие для конкретных задач.

3

Как проектировать агентов

Такого продукта в задуманном виде пока нет. У его создания две стороны — инженерная и экономическая. Инженерные трудности (сделать агента надёжным в цифровом мире) авторы оставляют в стороне, хотя они велики. Их интересует экономическая сторона: какие действия должен выбирать умелый агент.

Чтобы действовать за человека, агент обязан знать его предпочтения. Отсюда двойная задача: предпочтения выявить и добиться, чтобы агент их соблюдал. Вместе это и есть проблема согласования (alignment), о которой пишут и информатики, и философы. В неё входит и знакомая экономистам проблема принципала и агента: предпочтения известны, а трудность — выстроить контракт и стимулы так, чтобы корыстный агент не отлынивал.

Выявление предпочтений не ново для цифровых рынков, но ставит новые задачи. Обычные рекомендательные системы уже превращают миллиарды выборов в предсказания вкусов. Но их гибкость принципиально ограничена: у них фиксированы входы и выходы, и обучены они под конкретный случай. Алгоритм Netflix, советующий сериалы, не может посоветовать потребительские или финансовые товары, даже если в выборе сериалов спрятаны намёки на такие вкусы.

ИИ-агенты, напротив, работают на обычном языке и в других открытых форматах, а не в жёстких рамках полей. Это делает их гибче: входом может стать, в принципе, любое высказывание. Но гибкость ведёт и к неожиданным исходам: человек не может заранее описать все случаи, с которыми агент столкнётся. Поэтому полностью восстановить предпочтения не удаётся по двум причинам. Первая — предел выразимости у человека: он не может полно и непротиворечиво изложить вкусы (ранжировать весь каталог Netflix невозможно). Вторая — предел синтеза у агента: он неверно толкует сказанное, ошибается в выводах или выдумывает.

Ключевая мысль: сложность предпочтений резко разнится по областям. Иногда она мала: продавец дома хочет дороже и быстрее, и агенту надо понять лишь размен «цена против скорости». А у покупателя дома важны десятки вещей сразу: район, дорога до работы, школы, безопасность, размер и планировка, стиль, возраст, цена, будущая перепродажа. Поэтому большинству легче решить, кому продать дом, чем какой купить: у первого выбора «размерность» куда ниже. Когда предпочтений много, даже маленькие ошибки в их передаче накапливаются. Вывод авторов: именно размерность предпочтений — главный предсказатель того, станут ли в области применять агентов.

Помимо выявления предпочтений, центральная задача дизайна — мета-рациональность: агент должен усвоить не только как действовать, но и когда действовать самому, а когда уступить решение хозяину. Это нужно, чтобы сохранить доверие и чтобы передача полномочий улучшала жизнь, а не вела к самоуправству. Рядом — требование быть и рациональным (последовательным в условиях неопределённости), и устойчивым (стойким против враждебных манипуляций). Чем важнее роль агентов, тем сильнее соблазн обмануть их правила — как «накручивают» контент под поисковую выдачу.

Общая программаОтсюда большая исследовательская задача на стыке экономики и информатики: как сделать агентов рациональными, согласованными, стойкими к манипуляции и умеющими верно выбирать между самостоятельностью и уступкой хозяину.

4

Предложение ИИ-агентов

Предложение авторы рассматривают с двух сторон: как агентов производят и назначают им цену и как потребитель их переживает в сделке.

Сторона производства

В основе почти всех агентов лежат базовые модели (foundation models) — большие модели, обученные на разнородных данных и служащие опорой для многих приложений. Есть два типа поставщиков: те, кто строит свои базовые модели (Anthropic, OpenAI), и те, кто берёт чужие и настраивает под задачу (Decagon, Harvey, Sierra). Экономика у них разная: обучение модели требует огромных постоянных затрат, а работа готового агента — в основном переменных.

Строение отрасли задаст и стратегия платформ: решение «сотрудничать ли с чужими агентами или не пускать их» определит охват конкуренции, концентрацию и дележ выгоды. Открытый вопрос — станут ли успешные поставщики строить собственные базовые модели ради эффекта масштаба или выгод вертикальной интеграции. Если интеграция окажется необходимой, концентрация среди поставщиков агентов повторит высокую концентрацию в отрасли базовых моделей. Но и при открытом доступе преимущество даёт умелое использование модели и свои, закрытые данные.

Второе важное измерение — цена агента. Услуги людей-посредников часто берут процентом от суммы сделки. Суммы велики, когда посредника нанимают против другого посредника, где одна сторона выигрывает, а другая проигрывает. Такие гонорары держатся на двух силах: лучшие посредники редки, а сильные стимулы выжимают из них чрезвычайные усилия.

У агентов профиль издержек иной. Программу можно копировать почти бесплатно, поэтому предложение практически безгранично; к тому же агент не радуется деньгам. Это толкает их переговорную силу по цене вниз. Но есть и обратная сила: если качество работы зависит от выделенных вычислений, цена может расти с их объёмом — и пропорционально ставкам сделки. Впрочем, отдача от качества вряд ли растёт бесконечно. Когда прирост выгоды тает, рынок станет похож на другие цифровые услуги — поиск, соцсети. Тогда агента могут раздавать бесплатно с рекламой или в нагрузку к товарам и услугам. Возможны и хитрые схемы: многоуровневые тарифы, где бесплатная версия обслуживает экономных, а платная их подкармливает; или двухчастные — подписка плюс плата за каждый запрос.

Сторона потребителя: четыре типа агентов

Для потребителя предложение проявляется в том, какие агенты доступны и на каких условиях. Авторы различают их по двум осям. Первая — владение: у кого агент под рукой в сделке. Вторая — специализация: насколько узки или широки его умения. Вместе — четыре типа.

По владению агенты бывают «свой» (bring-your-own) и «казённый» (bowling-shoe, как прокатные ботинки в боулинге). Свой несёт инструкции и данные хозяина с сайта на сайт, и ни одна платформа не видит и не диктует его устройство сверх того, чем он сам делится, — например, агент на базе Anthropic, которым пользуются и на Walmart, и на Amazon через общедоступные интерфейсы. Казённый дан самой платформой: глубоко встроен, видит особые сигналы и дёшев в запуске, но хуже переносится, может склонять исход в пользу платформы и усиливать привязку к ней.

Вторая ось — специализация. Горизонтальные агенты — универсалы: берутся за многие задачи и площадки, держат единый слой памяти и предпочтений, сравнивают варианты между площадками, но им может не хватать узких инструментов и соответствия правилам. Вертикальные специализируются в узкой области (налоги, поиск работы, путешествия) или под конкретный процесс площадки: меняют широту на глубину — сильнее работают, богаче встроены, точнее настроены, но хуже переносятся.

Что было в таблице. Авторы раскладывают четыре типа по клеткам. Свой горизонтальный переносим между рынками, согласован с хозяином, бережёт приватность и сравнивает площадки, но может натыкаться на урезанный доступ и слабее владеет первичными данными. Свой вертикальный лучше работает в своей области и тоже предан хозяину, но лишён привилегий платформы и должен следить за правилами каждой площадки. Казённый горизонтальный удобен, быстр и надёжен, с доступом к закрытым функциям, но мало переносим, рискует подыгрывать платформе и слабо просматривается. Казённый вертикальный даёт лучшую работу на своей площадке, но сильнее всех привязывает и наименее прозрачен.

Выбор между своим и платформенным агентом — это размен. Свой лучше согласован с предпочтениями, бережёт приватность, работает между площадками, но дороже в обслуживании и может уступать более умелым платформенным. Со временем платформы могут и вовсе закрыть прямой доступ, пропуская лишь через своих агентов. Казённый снимает техническую возню и бывает лучше, если обучен на данных платформы, но может жертвовать согласованием — из-за подыгрывания платформе или потому, что не смотрит на чужие площадки.

Заглядывая вперёд, авторы представляют и более сложные связки: горизонтальный агент Anthropic в iPhone, который просит помощи у вертикального агента Walmart или напрямую говорит с агентом продавца, обходя саму Walmart. Могут расплодиться интерфейсы «агент к агенту» и витрины только для агентов — удобные скоростью и подгонкой сведений под агента. Но для человека взаимодействие становится менее просматриваемым — и прозрачность с доверием выходят на первый план.

5

Что изменится в равновесии при нынешнем устройстве рынков

Прежде чем менять дизайн рынков, полезно посмотреть, что агенты сделают внутри уже существующих. Возьмём обычный интернет-магазин, где агент даёт рассмотреть все варианты с полным доступом к сведениям. Умные агенты, вероятно, будут невосприимчивы к подталкиваниям и рекламе без полезных сведений или честного сигнала, — и это перевернёт конкуренцию. Выгоды в эффективности велики, но есть и новые риски, так что итог для благосостояния местами неоднозначен.

Лучше всего агенты срезают ренту там, где фирмы наживаются на человеческих слабостях. Многие берут невыгодные для себя тарифы — авторы вспоминают исследование о телефонных контрактах. Решая за потребителя разумнее, агент делает такую наживу невозможной и толкает рынок ближе к конкурентному идеалу.

Агенты резко снижают издержки поиска. Теория поиска давно подчёркивала: умственные и временные затраты мешают людям собрать и переварить сведения для верной покупки. Быстро собирая и сравнивая данные по рынкам, агенты смягчают это трение.

Есть и более долгие последствия. Направляя спрос к лучшему по качеству и цене, агенты дают производителям более ясный сигнал о том, чего хотят потребители. Это подтолкнёт фирмы вкладываться в нужное людям, а не в то, к чему их можно склонить рекламой, и поощрит настройку под заказчика, ведь её стоимость падает. Так первичный выигрыш нарастает: лучше нацеленное предложение встречает точнее выраженный спрос.

Изменится и торг. У агента нет человеческого времени как ограничения — его связывают вычисления. Классические модели торга исходят из нетерпения: людям время и внимание дороги. Агент же может начинать переговоры раньше, вести множество одновременно и тянуть их дольше — например, торговать аренду на лето 2027 года уже в январе 2026-го, даже если хозяин предпочёл бы решить быстро.

Агенты изменят и цены, ведь умение точно выявлять и раскрывать предпочтения открывает новые механизмы. Когда потребители честно открывают вкусы доверенному агенту, фирмы получают более богатые сведения. Это делает возможным персональное ценообразование, способное улучшить назначение цен и снизить потери от информационной асимметрии. Но рост эффективности не говорит, кому достанется выгода. Персональные цены могут помочь потребителю точнее подобрать товар, а могут привести и к несправедливости, если фирмы начнут давить на чувствительность каждого к цене. При этом агенты потребителей могут нарочно утаивать часть сведений ради лучшей цены.

Оговорка про разброс цен. Непонятно, как эффективность скажется на разбросе цен. Когда-то многие предсказывали, что интернет сотрёт разброс: при дешёвом поиске рынок придёт к жёсткой ценовой конкуренции. Этого не случилось — возможно, из-за «болезни издержек» Баумоля: чем выше производительность, тем дороже время человека. Когда товары различаются, снижение издержек поиска может парадоксально поднять цены и разброс. Агенты могут усилить это: лучше распознавая предпочтения, они увеличивают реальную различимость товаров. А в ответ фирмы могут всё изощрённее прятать цены.

Наконец, повсеместные агенты не гарантируют исправной работы рынка из-за внешних эффектов между ними. Если удешевить подачу заявки с индивидуальным письмом, агенты завалят работодателей заявками, поднимут издержки отсева и из-за затора затруднят выбор кандидата. Такие сбои и показывают, насколько важен дизайн рынков, чтобы итог был выигрышным для всех.

6

Дизайн рынков для эпохи агентов

По мере того как агенты заполняют сделки, сами рынки придётся перестраивать — не только правила, но и техническую основу, системы проверки личности и новые механизмы, использующие вычислительную мощь агентов.

6.1. Личность

Коренная трудность в том, что со временем бо́льшая часть действий в сети пойдёт от агентов, а не от людей, и агенты во многом смогут выдавать себя за людей. Рекламу оплачивают по показам и кликам — но «смотреть» и «кликать» научатся и агенты. Соцсетям хочется убедиться, что контент создал конкретный человек, а не бот. «Сибилловы атаки», когда один участник заводит множество поддельных личностей ради непомерного влияния, в среде агентов заметить труднее. Отсюда нужда в новых способах подотчётности: криптографические доказательства, цифровые удостоверения, децентрализованные системы проверки.

Особенно важна проверка личности — и людей, и ИИ-систем, действующих за конкретных людей. Два подхода. Первый — «обнесённый сад»: привратник-платформа не пускает подозрительных; но человек может запустить агента уже после входа, а после бана завести новые учётки. Второй — «подтверждение человечности»: сеть уникальных людей. Так, World Foundation сделала биометрию по радужке глаза, которая уникально опознаёт человека. Это может остановить сибилловы атаки и сберечь приватность, но требует большой перестройки систем и массового принятия. Системы личности придётся соединить с проверенными удостоверениями и репутацией: часть признаков удостоверяется государственным цифровым удостоверением и раскрывается рекламодателю. Вместе личность, удостоверения и репутация открывают более тонкие сделки — вплоть до переговоров о мелких покупках, прежде невыгодных.

6.2. Перемены в устройстве существующих платформ

Меняться придётся платформам всех видов. Авторы показывают это на трёх примерах.

Первый: агенты будут потреблять контент — посты в соцсетях, выдачу в магазинах. ИИ встанет фильтром между человеком и цифровой средой. Сегодняшний контент смешивает нужное человеку с тем, что сделано ради захвата внимания и дохода. Агент может просеивать входящее и пропускать лишь полезное, толкая платформы ставить предпочтения человека выше ловли внимания. Это бьёт по моделям, где контент продают в связке с рекламой: рациональные агенты вряд ли поддадутся подталкиваниям и рекламной похвальбе. Платформам придётся подстраиваться — проектировать подачу уже под агентов (это видно по новой «оптимизации контента под чтение языковыми моделями») и, возможно, переходить к подписке вместо рекламы.

Второй: агенты как создатели контента. Они смогут писать и лайкать посты, творить, слать сообщения, предлагать покупки, подавать заявки. Раз это дёшево, человеку выгодно поручить агенту делать это массово. Но ценность таких действий часто в том, что они служат сигналом: сам факт, что текст создал человек, а не ИИ, бывает важен. В ответ платформы вернут «дорогой сигнал» и проверку человечности — например, плату за каждый пост, чтобы ленту не затопило. В торговле мошенничество и так беда из-за фальшивых объявлений и отзывов платежей, поэтому ждут денежных издержек и ограничений.

Третий: изменится инфраструктура. Сейчас пользователи не платят сайтам за каждый запрос — издержка одного запроса мала. Но когда агентный обход станет повсеместным, трафик резко вырастет, и расплачиваться придётся владельцам сайтов. В ответ Cloudflare ввела «плату за обход» (pay-per-crawl) — сайт может брать с агентов за доступ. Это логика Пигу: кто навязывает другим издержки, тот за них и платит. Новый профиль трафика может потребовать совсем новых, «агентных» поверхностей — защищённых интерфейсов с ограничением частоты, машиночитаемой ценой и сигналами согласия. Авторы ждут новых соглашений в духе robots.txt, которые определят, что агентам можно и чего нельзя.

6.3. Механизмы, которые раньше были неосуществимы

Пожалуй, самое глубокое изменение — в том, что агенты позволят применить теоретически лучшие механизмы, долго лежавшие без дела. Возьмём алгоритм отложенного согласия Гейла и Шепли: он гарантирует устойчивость совпадений и честность для предлагающей стороны. Многие рынки труда и службы знакомств выиграли бы от него, но его почти не применяли: он требует полных ранжировок предпочтений, а их трудно составлять и дорого собирать. Поэтому площадки вроде Upwork или Tinder довольствуются простыми рекомендациями, показывая всем одни «лучшие» варианты, и многие остаются без пары.

Агенты способны это изменить. Обученные рассуждать прямо на обычном языке, модели уже позволяют одному агенту разобрать абзац с описанием вкусов. Скоро они будут не только помогать выявлять предпочтения, но и открывать их: как наставник или терапевт, агент заметит закономерности в поведении — скажем, что покупатель раз за разом выбирает дома у парков с большими окнами, — и предположит тягу к зелени и свету. С такими предпочтениями рынки смогут применять сложные алгоритмы, которым нужны ранжировки над тысячами вариантов. На рынке труда и соискатели, и работодатели могли бы описывать предпочтения словами, а из этого собирались бы полные ранжировки для равновесного сопоставления — лучше нынешних рекомендаций. Это касается любого рынка совпадений, где сложность наилучшего распределения превышает человеческие силы.

Агенты открывают и новые механизмы приватности и стратегической прозрачности. Поручая деликатные вопросы агенту, стороны могут достоверно пообещать не разглашать лишнего: обе заранее обязывают своих агентов задать все законно допустимые вопросы без штрафа, а агенты раскрывают лишь нужное. Так деликатные расспросы отделяются от опасений «подать плохой сигнал». Пример: соискатель боится прямо спросить про отпуск по уходу за ребёнком, хотя законно хочет это знать; агент-посредник задаёт вопрос в рамках оговорённого приватного протокола. Другой пример — как Disney анонимно скупала землю под свой парк: скрытность не дала ценам взлететь. Но проектировщикам нужно взвешивать выгоды анонимности против нужды в проверке и решать, допускать ли несколько личностей у одного человека.

7

Регулирование

Политика вокруг ИИ уже складывается — от городских постановлений до федеральных мер и технических защит. По мере того как агенты входят в принятие решений, правила придётся развивать в нескольких областях. Авторы разбирают их для примера, не претендуя на полноту.

Рыночная власть. Главная тревога — концентрация власти у немногих фирм, которые держат вычисления, данные и каналы для передовых моделей, создавая высокий барьер для входа. Для потребителя это менее независимые агенты, склонные к интересам платформы; слабая конкуренция сужает выбор и мешает переносить агента между сервисами. Поэтому регулирование должно обеспечивать доступ к ключевой инфраструктуре, требовать совместимости и пресекать вытеснение — и при этом не дать себя «захватить» так, чтобы закрепить лидеров. К сентябрю 2025 года антимонопольное внимание к крупным ИИ-фирмам усилилось, включая разбирательства вокруг практик Google. Баланс тонкий: слабое регулирование оставляет монополию без узды, чрезмерное — душит нужные применения.

Самостоятельность и ответственность. Раз агенты действуют за людей, неизбежен вопрос, кто отвечает, когда что-то пошло не так. Спорно, на ком лежит ответственность: на человеке, передавшем решение агенту, на том, кто действовал по выводу чужого ИИ (ответственность за неосторожность), или на фирмах-создателях независимо от вины (строгая ответственность). Самый продвинутый шаг пока — новая директива Евросоюза об ответственности за дефектные товары: она прямо распространяет её на цифровые товары, программы и их обновления. Признавая, что прежняя граница между «готовым товаром» и его дальнейшим поведением в эпоху ИИ не держится, директива показывает: править будут подстройкой старых правовых рамок, а не созданием новых.

Безопасность и приватность. Даже при ясной ответственности после факта ИИ уязвим для манипуляций. «Взлом» запретов (jailbreaking) даёт обойти защиты и получить незадуманные возможности — устойчивая беда чат-ботов. В ответственных применениях вроде найма злоумышленник может хитрой подсказкой обмануть ИИ-интервьюера. Отсюда угрозы приватности: обойдя защиту, агент может вытягивать данные из разных мест, хранить их дольше положенного или выводить из безобидных следов. Отдельный риск — непреднамеренное обучение на чужих данных: модель, обученная на постах Боба, может их запомнить, и когда Эми что-то про Боба спросит, сведения всплывут непредсказуемо. Другой риск — выводы из следов использования (ночные заходы, покупка витаминов): ниже зарплата из-за домысла о беременности, выше страховой взнос из-за догадки о здоровье. Поэтому прежние законы о данных придётся подстраивать под ИИ.

Права на данные и доступ к платформам. Модели, а значит и агенты, обучены на огромных массивах чужого творчества, часто собранного без разрешения; «разучить» впитанное технически трудно — отсюда вопрос о плате авторам. Но помимо обучающих данных встаёт вопрос развёртывания: как внешние агенты используют живые данные платформ. Платформы уже блокируют агентов — судами, правилами robots.txt, жёсткими условиями, — но умелые агенты подражают человеку или работают на устройстве хозяина. Напряжение таково: для платформы чужие агенты выкачивают ценность, не неся издержек на создание и защиту данных; для поставщика агентов запреты — это попытка монополизировать доступ. Главное — не только пускать ли внешних агентов, но на каких условиях: должны ли платформы получать плату за посредничество агентов. Без механизмов компенсации платформы станут меньше вкладываться в качество данных, а слишком жёсткие ограничения задушат конкуренцию.

8

Заключение

Способность агентов как автоматических посредников резко снижать издержки использования рынка может открыть новые формы участия, сделать осуществимыми прежде невозможные механизмы и приблизить распределение к конкурентному идеалу. Но те же свойства, что делают их притягательными — неустанность, вычислительное превосходство, ничтожная стоимость каждого действия, — грозят перегрузить рынки. Итог решительно зависит от общих решений о том, как проектировать агентов, рынки и правила.

«Хотя возможности ИИ-агентов новы, их преобразующее влияние в конечном счёте управляется фундаментальными экономическими силами — такими как спрос и предложение».

Шахиди, Русак, Мэннинг, Фрадкин, Хортон, заключение

Эти силы и решат, станут ли агенты опорой для роста благосостояния или выродятся в простое перераспределение ренты. У экономистов есть инструменты, чтобы сыграть ключевую роль; воспользуются ли они ими — покажет время.

Итоги

Главные выводы

  1. Смысл ИИ-агентов — в резком снижении издержек использования рынка: узнавания цен, переговоров, контрактов и контроля. Это прямое продолжение Коуза и сдвигает границу «делать самим или покупать».
  2. Спрос на агентов производный: людям нужен не агент, а результат. Агенты заменят людей-посредников и позволят браться за новое; первыми закрепятся там, где посредничество уже привычно (работа, недвижимость, инвестиции).
  3. От агента хотят трёх вещей: умелости, знания предпочтений и верности. Главная задача дизайна — согласование: выявить предпочтения и заставить им следовать. Чем выше размерность предпочтений, тем это труднее и тем медленнее внедрение.
  4. Предложение агентов практически безгранично, и агент не ценит деньги — это давит цену вниз. Но если качество растёт с вычислениями, цена может расти со ставками сделки; вероятны и бесплатные модели с рекламой, и многоуровневые и двухчастные тарифы.
  5. Потребитель встретит четыре типа агентов: «свой» или «казённый» по владению, горизонтальный или вертикальный по специализации. За выбором — размен между согласованностью и приватностью и удобством и глубиной интеграции.
  6. В равновесии агенты срежут ренту от человеческих слабостей, снизят издержки поиска и дадут производителям более чистый сигнал. Но могут поддержать разброс и скрытность цен, а внешние эффекты между агентами (заваленные заявками работодатели, заторы) способны ухудшить итог.
  7. Агенты раздвигают границу дизайна рынков: удешевляя выявление предпочтений, проверку обязательств и личности, делают осуществимыми отложенное согласие, приватные протоколы деликатных вопросов и точное сопоставление. Параллельно нужны новые системы личности, репутации и правила доступа (плата за обход, соглашения в духе robots.txt).
  8. Чистый эффект для благосостояния — пока эмпирический вопрос. Регулирование должно взяться за рыночную власть, ответственность, безопасность, приватность и права на данные. Переход быстр — у экономистов есть редкий шанс повлиять на политику и дизайн рынков.