Коузовская сингулярность? Спрос, предложение и дизайн рынков с ИИ-агентами Пейман Шахиди, Гили Русак, Бенджамин Мэннинг, Андрей Фрадкин, Джон Хортон О чём эта статья Эту главу написали пять экономистов из MIT, Гарварда и Бостонского университета — Пейман Шахиди, Гили Русак, Бенджамин Мэннинг, Андрей Фрадкин и Джон Хортон. Она прямо продолжает статью Коуза «Природа фирмы», которую вы только что слушали. Коуз объяснил: фирмы существуют потому, что пользоваться рынком дорого — искать цены, договариваться, писать контракты, следить за их исполнением стоит труда людей. Именно эти занятия, говорят авторы, ИИ-агенты умеют делать почти бесплатно. А значит, граница между «сделать внутри фирмы» и «купить на рынке» сдвинется. Главный вопрос: что будет с цифровыми рынками, когда их участниками станут автономные программы, действующие за людей, — сами ищущие, сравнивающие, торгующиеся и заключающие сделки? Главный ответ: издержки использования рынка резко упадут, и это откроет и новые возможности, и новые сбои. Рынки станут эффективнее, но появятся заторы, скрытые цены и борьба за то, чей именно агент обслуживает сделку. Для того, кто строит маркетплейс ИИ-агентов, это разметка всего поля: откуда возьмётся спрос, как устроено предложение, какие четыре типа агентов будут конкурировать, где рынок начнёт ломаться и какие новые механизмы станут наконец осуществимыми. Итог не предрешён: те же силы, что делают агентов полезными, могут и перегрузить рынки. ИИ-агент. Автономная программа, которая воспринимает обстановку, рассуждает и действует ради цели хозяина: пользуется инструментами, ведёт сделки, получает и отправляет деньги, выходит в интернет. Примеры — Deep Research, AutoGPT, Claude Code. Издержки использования рынка. Расходы на то, чтобы воспользоваться рынком: узнать цены, найти партнёра, договориться, оформить и проконтролировать сделку. В экономике — трансакционные издержки (transaction costs). Именно их агенты снижают. Производный спрос. Спрос не ради самого агента, а ради результата: не смотреть, как он собирает цены на грили, а получить выгодную покупку. По-английски — derived demand. Принципал. Тот, за кого действует агент: потребитель, фирма или платформа, запускающая агента, чтобы он работал вместо неё. Проблема согласования. Как добиться, чтобы агент знал предпочтения хозяина и действительно им следовал, а не своим. По-английски — alignment problem. Дизайн рынков. Проектирование правил, по которым участники находят друг друга и совершают сделки (market design): как собирают заявки, сопоставляют спрос и предложение, назначают цены. 1 Введение: агенты как новые участники рынка ИИ-агент — это программа, которая сама воспринимает цифровую среду, рассуждает и действует, чтобы достичь цели, поставленной человеком: пользуется инструментами, совершает денежные сделки, ведёт себя стратегически. Авторы смотрят на агентов как на участников рынков: тех, кто распоряжается вычислениями, общается с другими агентами и людьми, получает и отправляет деньги, выходит в сеть. Такие агенты уже есть — AutoGPT, Replika, Claude Code, — а более умелые на подходе. Показательный пример — Deep Research от команды Gemini у Google. Обычная программа лишь достаёт готовые данные или обрабатывает то, что ей дали. Deep Research получает задание обычными словами и сама выполняет цепочку действий: раз за разом ищет в сети, оценивает найденное и собирает отчёт, не спрашивая человека на каждом шаге. Эта способность воспринимать, рассуждать и действовать по словесной инструкции и отличает ИИ-агента. Главное обещание. Экономический смысл ИИ-агентов — в резком снижении издержек использования рынка. Те занятия, из которых эти издержки складываются — узнавание цен, переговоры, контракты, контроль, — агент способен выполнять с ничтожными затратами на каждую сделку. Снижение идёт двумя путями. Прямой: агент сам делает всю работу — сравнивает цены, ведёт переговоры, проходит собеседование. Советующий: агент помогает человеку решать лучше, например подгоняет резюме под каждую вакансию. Оба уже показали себя. Авторы ссылаются на данные: соискателям иногда лучше, когда собеседование ведёт ИИ, а не человек-работодатель; а алгоритмическая помощь с текстом заявки заметно повышает долю нанятых. Важно, что спрос на агентов — производный, а не прямой. Человек не радуется, глядя, как агент собирает цены на грили; он нанимает его ради нужного исхода. Поэтому агентов будут применять в двух случаях: чтобы принять решение, которое сам человек из-за нехватки сведений или сил принял бы хуже; и чтобы принять решение примерно такого же или чуть худшего качества, но несравнимо дешевле. Широкое распространение агентов перестроит экономику. Как именно — пока неясно, но силы экономистам знакомы: спрос и предложение агентов влияют на устройство рынков, а технический сдвиг меняет относительную стоимость занятий. Здесь особенно полезен Коуз: он показал, что издержки использования рынка — часто это издержки человеческого труда — определяют устройство фирм. Как только агенты смогут дёшево и надёжно выполнять эти функции, сдвинется традиционная граница «делать самим или покупать», задающая размер фирм и строение рынков. Перемены придут не только из приспособления старых рынков, но и из рождения совсем новых, спроектированных «от агента». На приспосабливающихся рынках агенты сперва помогают людям с отдельными задачами, затем забирают их целиком, а человеческий труд смещается к суждению, надзору и отношениям. Со временем это ведёт к перестройке вокруг возможностей агентов. Рынки же нового типа начнут сразу с этой конечной точки — их с нуля построят вокруг того, что умеют агенты. Наконец, агенты раздвигают границу осуществимого в дизайне рынков. Снижая стоимость выявления предпочтений, обеспечения обязательств и проверки личности, они делают доступными механизмы, прежде красивые лишь в теории. Это может улучшить благосостояние потребителей и качество совпадений. Но гарантии нет: даже если каждому потребителю и фирме выгодно завести агента, равновесный исход может оказаться плохим — особенно там, где есть внешние эффекты между агентами, неполное согласование и неравный доступ к информации. Отсюда и программа для экономистов: превратить теоретические идеи в работающие механизмы перехода. 2 Спрос на ИИ-агентов Люди будут нанимать ИИ-агентов по тем же причинам, что и людей-посредников: когда разумно доверить часть решения или сделки кому-то между собой и рынком. Причин три: время агента дешевле времени хозяина; агент честно лучше справляется; хозяину зачем-то нужно скрыть свою личность в сделке. Эти мотивы погонят внедрение по двум направлениям. Первое: агент заменит человека-посредника там, где иначе пришлось бы делать всё самому или нанимать человека. Классический пример — поиск товара. Агент превращает дорогие и долгие части посредничества — поиск, отсев, запрос цен, переговоры, согласование времени — в дешёвые вычисления: одновременно запросит и сравнит множество предложений, забронирует и проследит исполнение куда дешевле человека. Даже когда исполнение остаётся за людьми, наценка за посредничество падает. Второе направление важнее: агенты позволят браться за то, за что раньше не брались. Снижая стоимость разведки и исполнения, они расширяют набор вариантов и опускают порог «стоит ли этим заниматься». Для физических работ — установить технику, починить раковину — агент проведёт диагностику, найдёт детали, выберет подрядчика, назначит время. Для программных — напишет и доведёт до ума нужный скрипт. В отличие от человека, он упорно продирается сквозь повторяющиеся неудачи при малых затратах и долго следит за задачей ради лучшего исхода. Раньше всего агенты закрепятся там, где посредничество людей и так привычно. Признаки таких рынков: высокие ставки; огромное число контрагентов; много усилий на оценку вариантов; информационная асимметрия, снимаемая трудом или опытом; и асимметрия опыта, когда одни совершают сделку часто, а другие редко. Примеры — поиск работы, недвижимость, часть инвестиций, где важны не только деньги, но и то, с кем имеешь дело. Удобное правило: агенты первыми появятся там, где уже работают люди-посредники или где ради преодоления трудностей поиска выросли крупные платформы — LinkedIn, Upwork, Zillow, Airbnb. Что было в таблице. Авторы сводят это в таблицу «где агенты закрепятся первыми». При высоких ставках (недвижимость, работа, инвестиции) риелторов и советников заменит анализ гор документов без усталости. Где контрагентов очень много (знакомства, фриланс, аренда — Tinder, Upwork, Airbnb), агент оценит тысячи вариантов разом, ведь у его «времени» нет цены. Где оценка трудна (венчур, поступление в вузы, закупки между фирмами), он прочитает каждый отзыв и сравнит все показатели без упрощений. При информационной асимметрии (подержанные авто, страховки, юруслуги) он сверяет источники и ловит расхождения. А при асимметрии опыта (покупка жилья раз в десять лет против ежедневной практики профессионала) он опирается на опыт миллионов сделок, давая каждому переговорную силу частого участника. Причины спроса ясны, а готовность платить — менее. От агента хотят того же, что и от человека-посредника: умелости, чтобы действовать по предпочтениям хозяина; знания этих предпочтений; и верности, чтобы действовать ради его пользы. Коротко — умелый, знающий и верный агент. Спрос на надёжные сведения о том, насколько агент хорош, будет велик: важны и тесты-эталоны (benchmarks), и советы знакомых, — хотя разумно опасаться, что эталоны начнут «подкручивать». Вероятна специализация: отдельные агенты прославятся как особенно хорошие для конкретных задач. 3 Как проектировать агентов Такого продукта в задуманном виде пока нет. У его создания две стороны — инженерная и экономическая. Инженерные трудности (сделать агента надёжным в цифровом мире) авторы оставляют в стороне, хотя они велики. Их интересует экономическая сторона: какие действия должен выбирать умелый агент. Чтобы действовать за человека, агент обязан знать его предпочтения. Отсюда двойная задача: предпочтения выявить и добиться, чтобы агент их соблюдал. Вместе это и есть проблема согласования (alignment), о которой пишут и информатики, и философы. В неё входит и знакомая экономистам проблема принципала и агента: предпочтения известны, а трудность — выстроить контракт и стимулы так, чтобы корыстный агент не отлынивал. Выявление предпочтений не ново для цифровых рынков, но ставит новые задачи. Обычные рекомендательные системы уже превращают миллиарды выборов в предсказания вкусов. Но их гибкость принципиально ограничена: у них фиксированы входы и выходы, и обучены они под конкретный случай. Алгоритм Netflix, советующий сериалы, не может посоветовать потребительские или финансовые товары, даже если в выборе сериалов спрятаны намёки на такие вкусы. ИИ-агенты, напротив, работают на обычном языке и в других открытых форматах, а не в жёстких рамках полей. Это делает их гибче: входом может стать, в принципе, любое высказывание. Но гибкость ведёт и к неожиданным исходам: человек не может заранее описать все случаи, с которыми агент столкнётся. Поэтому полностью восстановить предпочтения не удаётся по двум причинам. Первая — предел выразимости у человека: он не может полно и непротиворечиво изложить вкусы (ранжировать весь каталог Netflix невозможно). Вторая — предел синтеза у агента: он неверно толкует сказанное, ошибается в выводах или выдумывает. Ключевая мысль: сложность предпочтений резко разнится по областям. Иногда она мала: продавец дома хочет дороже и быстрее, и агенту надо понять лишь размен «цена против скорости». А у покупателя дома важны десятки вещей сразу: район, дорога до работы, школы, безопасность, размер и планировка, стиль, возраст, цена, будущая перепродажа. Поэтому большинству легче решить, кому продать дом, чем какой купить: у первого выбора «размерность» куда ниже. Когда предпочтений много, даже маленькие ошибки в их передаче накапливаются. Вывод авторов: именно размерность предпочтений — главный предсказатель того, станут ли в области применять агентов. Помимо выявления предпочтений, центральная задача дизайна — мета-рациональность: агент должен усвоить не только как действовать, но и когда действовать самому, а когда уступить решение хозяину. Это нужно, чтобы сохранить доверие и чтобы передача полномочий улучшала жизнь, а не вела к самоуправству. Рядом — требование быть и рациональным (последовательным в условиях неопределённости), и устойчивым (стойким против враждебных манипуляций). Чем важнее роль агентов, тем сильнее соблазн обмануть их правила — как «накручивают» контент под поисковую выдачу. Общая программа. Отсюда большая исследовательская задача на стыке экономики и информатики: как сделать агентов рациональными, согласованными, стойкими к манипуляции и умеющими верно выбирать между самостоятельностью и уступкой хозяину. 4 Предложение ИИ-агентов Предложение авторы рассматривают с двух сторон: как агентов производят и назначают им цену и как потребитель их переживает в сделке. Сторона производства В основе почти всех агентов лежат базовые модели (foundation models) — большие модели, обученные на разнородных данных и служащие опорой для многих приложений. Есть два типа поставщиков: те, кто строит свои базовые модели (Anthropic, OpenAI), и те, кто берёт чужие и настраивает под задачу (Decagon, Harvey, Sierra). Экономика у них разная: обучение модели требует огромных постоянных затрат, а работа готового агента — в основном переменных. Строение отрасли задаст и стратегия платформ: решение «сотрудничать ли с чужими агентами или не пускать их» определит охват конкуренции, концентрацию и дележ выгоды. Открытый вопрос — станут ли успешные поставщики строить собственные базовые модели ради эффекта масштаба или выгод вертикальной интеграции. Если интеграция окажется необходимой, концентрация среди поставщиков агентов повторит высокую концентрацию в отрасли базовых моделей. Но и при открытом доступе преимущество даёт умелое использование модели и свои, закрытые данные. Второе важное измерение — цена агента. Услуги людей-посредников часто берут процентом от суммы сделки. Суммы велики, когда посредника нанимают против другого посредника, где одна сторона выигрывает, а другая проигрывает. Такие гонорары держатся на двух силах: лучшие посредники редки, а сильные стимулы выжимают из них чрезвычайные усилия. У агентов профиль издержек иной. Программу можно копировать почти бесплатно, поэтому предложение практически безгранично; к тому же агент не радуется деньгам. Это толкает их переговорную силу по цене вниз. Но есть и обратная сила: если качество работы зависит от выделенных вычислений, цена может расти с их объёмом — и пропорционально ставкам сделки. Впрочем, отдача от качества вряд ли растёт бесконечно. Когда прирост выгоды тает, рынок станет похож на другие цифровые услуги — поиск, соцсети. Тогда агента могут раздавать бесплатно с рекламой или в нагрузку к товарам и услугам. Возможны и хитрые схемы: многоуровневые тарифы, где бесплатная версия обслуживает экономных, а платная их подкармливает; или двухчастные — подписка плюс плата за каждый запрос. Сторона потребителя: четыре типа агентов Для потребителя предложение проявляется в том, какие агенты доступны и на каких условиях. Авторы различают их по двум осям. Первая — владение: у кого агент под рукой в сделке. Вторая — специализация: насколько узки или широки его умения. Вместе — четыре типа. По владению агенты бывают «свой» (bring-your-own) и «казённый» (bowling-shoe, как прокатные ботинки в боулинге). Свой несёт инструкции и данные хозяина с сайта на сайт, и ни одна платформа не видит и не диктует его устройство сверх того, чем он сам делится, — например, агент на базе Anthropic, которым пользуются и на Walmart, и на Amazon через общедоступные интерфейсы. Казённый дан самой платформой: глубоко встроен, видит особые сигналы и дёшев в запуске, но хуже переносится, может склонять исход в пользу платформы и усиливать привязку к ней. Вторая ось — специализация. Горизонтальные агенты — универсалы: берутся за многие задачи и площадки, держат единый слой памяти и предпочтений, сравнивают варианты между площадками, но им может не хватать узких инструментов и соответствия правилам. Вертикальные специализируются в узкой области (налоги, поиск работы, путешествия) или под конкретный процесс площадки: меняют широту на глубину — сильнее работают, богаче встроены, точнее настроены, но хуже переносятся. Что было в таблице. Авторы раскладывают четыре типа по клеткам. Свой горизонтальный переносим между рынками, согласован с хозяином, бережёт приватность и сравнивает площадки, но может натыкаться на урезанный доступ и слабее владеет первичными данными. Свой вертикальный лучше работает в своей области и тоже предан хозяину, но лишён привилегий платформы и должен следить за правилами каждой площадки. Казённый горизонтальный удобен, быстр и надёжен, с доступом к закрытым функциям, но мало переносим, рискует подыгрывать платформе и слабо просматривается. Казённый вертикальный даёт лучшую работу на своей площадке, но сильнее всех привязывает и наименее прозрачен. Выбор между своим и платформенным агентом — это размен. Свой лучше согласован с предпочтениями, бережёт приватность, работает между площадками, но дороже в обслуживании и может уступать более умелым платформенным. Со временем платформы могут и вовсе закрыть прямой доступ, пропуская лишь через своих агентов. Казённый снимает техническую возню и бывает лучше, если обучен на данных платформы, но может жертвовать согласованием — из-за подыгрывания платформе или потому, что не смотрит на чужие площадки. Заглядывая вперёд, авторы представляют и более сложные связки: горизонтальный агент Anthropic в iPhone, который просит помощи у вертикального агента Walmart или напрямую говорит с агентом продавца, обходя саму Walmart. Могут расплодиться интерфейсы «агент к агенту» и витрины только для агентов — удобные скоростью и подгонкой сведений под агента. Но для человека взаимодействие становится менее просматриваемым — и прозрачность с доверием выходят на первый план. 5 Что изменится в равновесии при нынешнем устройстве рынков Прежде чем менять дизайн рынков, полезно посмотреть, что агенты сделают внутри уже существующих. Возьмём обычный интернет-магазин, где агент даёт рассмотреть все варианты с полным доступом к сведениям. Умные агенты, вероятно, будут невосприимчивы к подталкиваниям и рекламе без полезных сведений или честного сигнала, — и это перевернёт конкуренцию. Выгоды в эффективности велики, но есть и новые риски, так что итог для благосостояния местами неоднозначен. Лучше всего агенты срезают ренту там, где фирмы наживаются на человеческих слабостях. Многие берут невыгодные для себя тарифы — авторы вспоминают исследование о телефонных контрактах. Решая за потребителя разумнее, агент делает такую наживу невозможной и толкает рынок ближе к конкурентному идеалу. Агенты резко снижают издержки поиска. Теория поиска давно подчёркивала: умственные и временные затраты мешают людям собрать и переварить сведения для верной покупки. Быстро собирая и сравнивая данные по рынкам, агенты смягчают это трение. Есть и более долгие последствия. Направляя спрос к лучшему по качеству и цене, агенты дают производителям более ясный сигнал о том, чего хотят потребители. Это подтолкнёт фирмы вкладываться в нужное людям, а не в то, к чему их можно склонить рекламой, и поощрит настройку под заказчика, ведь её стоимость падает. Так первичный выигрыш нарастает: лучше нацеленное предложение встречает точнее выраженный спрос. Изменится и торг. У агента нет человеческого времени как ограничения — его связывают вычисления. Классические модели торга исходят из нетерпения: людям время и внимание дороги. Агент же может начинать переговоры раньше, вести множество одновременно и тянуть их дольше — например, торговать аренду на лето 2027 года уже в январе 2026-го, даже если хозяин предпочёл бы решить быстро. Агенты изменят и цены, ведь умение точно выявлять и раскрывать предпочтения открывает новые механизмы. Когда потребители честно открывают вкусы доверенному агенту, фирмы получают более богатые сведения. Это делает возможным персональное ценообразование, способное улучшить назначение цен и снизить потери от информационной асимметрии. Но рост эффективности не говорит, кому достанется выгода. Персональные цены могут помочь потребителю точнее подобрать товар, а могут привести и к несправедливости, если фирмы начнут давить на чувствительность каждого к цене. При этом агенты потребителей могут нарочно утаивать часть сведений ради лучшей цены. Оговорка про разброс цен. Непонятно, как эффективность скажется на разбросе цен. Когда-то многие предсказывали, что интернет сотрёт разброс: при дешёвом поиске рынок придёт к жёсткой ценовой конкуренции. Этого не случилось — возможно, из-за «болезни издержек» Баумоля: чем выше производительность, тем дороже время человека. Когда товары различаются, снижение издержек поиска может парадоксально поднять цены и разброс. Агенты могут усилить это: лучше распознавая предпочтения, они увеличивают реальную различимость товаров. А в ответ фирмы могут всё изощрённее прятать цены. Наконец, повсеместные агенты не гарантируют исправной работы рынка из-за внешних эффектов между ними. Если удешевить подачу заявки с индивидуальным письмом, агенты завалят работодателей заявками, поднимут издержки отсева и из-за затора затруднят выбор кандидата. Такие сбои и показывают, насколько важен дизайн рынков, чтобы итог был выигрышным для всех. 6 Дизайн рынков для эпохи агентов По мере того как агенты заполняют сделки, сами рынки придётся перестраивать — не только правила, но и техническую основу, системы проверки личности и новые механизмы, использующие вычислительную мощь агентов. 6.1. Личность Коренная трудность в том, что со временем бо́льшая часть действий в сети пойдёт от агентов, а не от людей, и агенты во многом смогут выдавать себя за людей. Рекламу оплачивают по показам и кликам — но «смотреть» и «кликать» научатся и агенты. Соцсетям хочется убедиться, что контент создал конкретный человек, а не бот. «Сибилловы атаки», когда один участник заводит множество поддельных личностей ради непомерного влияния, в среде агентов заметить труднее. Отсюда нужда в новых способах подотчётности: криптографические доказательства, цифровые удостоверения, децентрализованные системы проверки. Особенно важна проверка личности — и людей, и ИИ-систем, действующих за конкретных людей. Два подхода. Первый — «обнесённый сад»: привратник-платформа не пускает подозрительных; но человек может запустить агента уже после входа, а после бана завести новые учётки. Второй — «подтверждение человечности»: сеть уникальных людей. Так, World Foundation сделала биометрию по радужке глаза, которая уникально опознаёт человека. Это может остановить сибилловы атаки и сберечь приватность, но требует большой перестройки систем и массового принятия. Системы личности придётся соединить с проверенными удостоверениями и репутацией: часть признаков удостоверяется государственным цифровым удостоверением и раскрывается рекламодателю. Вместе личность, удостоверения и репутация открывают более тонкие сделки — вплоть до переговоров о мелких покупках, прежде невыгодных. 6.2. Перемены в устройстве существующих платформ Меняться придётся платформам всех видов. Авторы показывают это на трёх примерах. Первый: агенты будут потреблять контент — посты в соцсетях, выдачу в магазинах. ИИ встанет фильтром между человеком и цифровой средой. Сегодняшний контент смешивает нужное человеку с тем, что сделано ради захвата внимания и дохода. Агент может просеивать входящее и пропускать лишь полезное, толкая платформы ставить предпочтения человека выше ловли внимания. Это бьёт по моделям, где контент продают в связке с рекламой: рациональные агенты вряд ли поддадутся подталкиваниям и рекламной похвальбе. Платформам придётся подстраиваться — проектировать подачу уже под агентов (это видно по новой «оптимизации контента под чтение языковыми моделями») и, возможно, переходить к подписке вместо рекламы. Второй: агенты как создатели контента. Они смогут писать и лайкать посты, творить, слать сообщения, предлагать покупки, подавать заявки. Раз это дёшево, человеку выгодно поручить агенту делать это массово. Но ценность таких действий часто в том, что они служат сигналом: сам факт, что текст создал человек, а не ИИ, бывает важен. В ответ платформы вернут «дорогой сигнал» и проверку человечности — например, плату за каждый пост, чтобы ленту не затопило. В торговле мошенничество и так беда из-за фальшивых объявлений и отзывов платежей, поэтому ждут денежных издержек и ограничений. Третий: изменится инфраструктура. Сейчас пользователи не платят сайтам за каждый запрос — издержка одного запроса мала. Но когда агентный обход станет повсеместным, трафик резко вырастет, и расплачиваться придётся владельцам сайтов. В ответ Cloudflare ввела «плату за обход» (pay-per-crawl) — сайт может брать с агентов за доступ. Это логика Пигу: кто навязывает другим издержки, тот за них и платит. Новый профиль трафика может потребовать совсем новых, «агентных» поверхностей — защищённых интерфейсов с ограничением частоты, машиночитаемой ценой и сигналами согласия. Авторы ждут новых соглашений в духе robots.txt, которые определят, что агентам можно и чего нельзя. 6.3. Механизмы, которые раньше были неосуществимы Пожалуй, самое глубокое изменение — в том, что агенты позволят применить теоретически лучшие механизмы, долго лежавшие без дела. Возьмём алгоритм отложенного согласия Гейла и Шепли: он гарантирует устойчивость совпадений и честность для предлагающей стороны. Многие рынки труда и службы знакомств выиграли бы от него, но его почти не применяли: он требует полных ранжировок предпочтений, а их трудно составлять и дорого собирать. Поэтому площадки вроде Upwork или Tinder довольствуются простыми рекомендациями, показывая всем одни «лучшие» варианты, и многие остаются без пары. Агенты способны это изменить. Обученные рассуждать прямо на обычном языке, модели уже позволяют одному агенту разобрать абзац с описанием вкусов. Скоро они будут не только помогать выявлять предпочтения, но и открывать их: как наставник или терапевт, агент заметит закономерности в поведении — скажем, что покупатель раз за разом выбирает дома у парков с большими окнами, — и предположит тягу к зелени и свету. С такими предпочтениями рынки смогут применять сложные алгоритмы, которым нужны ранжировки над тысячами вариантов. На рынке труда и соискатели, и работодатели могли бы описывать предпочтения словами, а из этого собирались бы полные ранжировки для равновесного сопоставления — лучше нынешних рекомендаций. Это касается любого рынка совпадений, где сложность наилучшего распределения превышает человеческие силы. Агенты открывают и новые механизмы приватности и стратегической прозрачности. Поручая деликатные вопросы агенту, стороны могут достоверно пообещать не разглашать лишнего: обе заранее обязывают своих агентов задать все законно допустимые вопросы без штрафа, а агенты раскрывают лишь нужное. Так деликатные расспросы отделяются от опасений «подать плохой сигнал». Пример: соискатель боится прямо спросить про отпуск по уходу за ребёнком, хотя законно хочет это знать; агент-посредник задаёт вопрос в рамках оговорённого приватного протокола. Другой пример — как Disney анонимно скупала землю под свой парк: скрытность не дала ценам взлететь. Но проектировщикам нужно взвешивать выгоды анонимности против нужды в проверке и решать, допускать ли несколько личностей у одного человека. 7 Регулирование Политика вокруг ИИ уже складывается — от городских постановлений до федеральных мер и технических защит. По мере того как агенты входят в принятие решений, правила придётся развивать в нескольких областях. Авторы разбирают их для примера, не претендуя на полноту. Рыночная власть. Главная тревога — концентрация власти у немногих фирм, которые держат вычисления, данные и каналы для передовых моделей, создавая высокий барьер для входа. Для потребителя это менее независимые агенты, склонные к интересам платформы; слабая конкуренция сужает выбор и мешает переносить агента между сервисами. Поэтому регулирование должно обеспечивать доступ к ключевой инфраструктуре, требовать совместимости и пресекать вытеснение — и при этом не дать себя «захватить» так, чтобы закрепить лидеров. К сентябрю 2025 года антимонопольное внимание к крупным ИИ-фирмам усилилось, включая разбирательства вокруг практик Google. Баланс тонкий: слабое регулирование оставляет монополию без узды, чрезмерное — душит нужные применения. Самостоятельность и ответственность. Раз агенты действуют за людей, неизбежен вопрос, кто отвечает, когда что-то пошло не так. Спорно, на ком лежит ответственность: на человеке, передавшем решение агенту, на том, кто действовал по выводу чужого ИИ (ответственность за неосторожность), или на фирмах-создателях независимо от вины (строгая ответственность). Самый продвинутый шаг пока — новая директива Евросоюза об ответственности за дефектные товары: она прямо распространяет её на цифровые товары, программы и их обновления. Признавая, что прежняя граница между «готовым товаром» и его дальнейшим поведением в эпоху ИИ не держится, директива показывает: править будут подстройкой старых правовых рамок, а не созданием новых. Безопасность и приватность. Даже при ясной ответственности после факта ИИ уязвим для манипуляций. «Взлом» запретов (jailbreaking) даёт обойти защиты и получить незадуманные возможности — устойчивая беда чат-ботов. В ответственных применениях вроде найма злоумышленник может хитрой подсказкой обмануть ИИ-интервьюера. Отсюда угрозы приватности: обойдя защиту, агент может вытягивать данные из разных мест, хранить их дольше положенного или выводить из безобидных следов. Отдельный риск — непреднамеренное обучение на чужих данных: модель, обученная на постах Боба, может их запомнить, и когда Эми что-то про Боба спросит, сведения всплывут непредсказуемо. Другой риск — выводы из следов использования (ночные заходы, покупка витаминов): ниже зарплата из-за домысла о беременности, выше страховой взнос из-за догадки о здоровье. Поэтому прежние законы о данных придётся подстраивать под ИИ. Права на данные и доступ к платформам. Модели, а значит и агенты, обучены на огромных массивах чужого творчества, часто собранного без разрешения; «разучить» впитанное технически трудно — отсюда вопрос о плате авторам. Но помимо обучающих данных встаёт вопрос развёртывания: как внешние агенты используют живые данные платформ. Платформы уже блокируют агентов — судами, правилами robots.txt, жёсткими условиями, — но умелые агенты подражают человеку или работают на устройстве хозяина. Напряжение таково: для платформы чужие агенты выкачивают ценность, не неся издержек на создание и защиту данных; для поставщика агентов запреты — это попытка монополизировать доступ. Главное — не только пускать ли внешних агентов, но на каких условиях: должны ли платформы получать плату за посредничество агентов. Без механизмов компенсации платформы станут меньше вкладываться в качество данных, а слишком жёсткие ограничения задушат конкуренцию. 8 Заключение Способность агентов как автоматических посредников резко снижать издержки использования рынка может открыть новые формы участия, сделать осуществимыми прежде невозможные механизмы и приблизить распределение к конкурентному идеалу. Но те же свойства, что делают их притягательными — неустанность, вычислительное превосходство, ничтожная стоимость каждого действия, — грозят перегрузить рынки. Итог решительно зависит от общих решений о том, как проектировать агентов, рынки и правила. «Хотя возможности ИИ-агентов новы, их преобразующее влияние в конечном счёте управляется фундаментальными экономическими силами — такими как спрос и предложение». Эти силы и решат, станут ли агенты опорой для роста благосостояния или выродятся в простое перераспределение ренты. У экономистов есть инструменты, чтобы сыграть ключевую роль; воспользуются ли они ими — покажет время. Итоги Главные выводы Смысл ИИ-агентов — в резком снижении издержек использования рынка: узнавания цен, переговоров, контрактов и контроля. Это прямое продолжение Коуза и сдвигает границу «делать самим или покупать». Спрос на агентов производный: людям нужен не агент, а результат. Агенты заменят людей-посредников и позволят браться за новое; первыми закрепятся там, где посредничество уже привычно (работа, недвижимость, инвестиции). От агента хотят трёх вещей: умелости, знания предпочтений и верности. Главная задача дизайна — согласование: выявить предпочтения и заставить им следовать. Чем выше размерность предпочтений, тем это труднее и тем медленнее внедрение. Предложение агентов практически безгранично, и агент не ценит деньги — это давит цену вниз. Но если качество растёт с вычислениями, цена может расти со ставками сделки; вероятны и бесплатные модели с рекламой, и многоуровневые и двухчастные тарифы. Потребитель встретит четыре типа агентов: «свой» или «казённый» по владению, горизонтальный или вертикальный по специализации. За выбором — размен между согласованностью и приватностью и удобством и глубиной интеграции. В равновесии агенты срежут ренту от человеческих слабостей, снизят издержки поиска и дадут производителям более чистый сигнал. Но могут поддержать разброс и скрытность цен, а внешние эффекты между агентами (заваленные заявками работодатели, заторы) способны ухудшить итог. Агенты раздвигают границу дизайна рынков: удешевляя выявление предпочтений, проверку обязательств и личности, делают осуществимыми отложенное согласие, приватные протоколы деликатных вопросов и точное сопоставление. Параллельно нужны новые системы личности, репутации и правила доступа (плата за обход, соглашения в духе robots.txt). Чистый эффект для благосостояния — пока эмпирический вопрос. Регулирование должно взяться за рыночную власть, ответственность, безопасность, приватность и права на данные. Переход быстр — у экономистов есть редкий шанс повлиять на политику и дизайн рынков.