Виртуальные экономики агентов Ненад Томашев, Матия Франклин, Джоэл Лейбо, Джулиан Джейкобс, Уильям Каннингем, Иасон Габриэль, Саймон Осиндеро О чём эта статья Статью написали в сентябре 2025 года семь исследователей из Google DeepMind во главе с Ненадом Томашевым. Повод простой: автономные ИИ-агенты входят в обиход очень быстро. Они уже начинают сами заключать сделки и согласовывать действия друг с другом — на такой скорости и в таком числе, что человек не успевает следить. Так появляется новый «экономический слой», где основными действующими лицами становятся не люди, а программы. Главный вопрос статьи: что будет, когда таких агентов станут миллионы и они начнут торговать между собой? Ответ авторов: если ничего не делать, мы по инерции придём к огромной и слабо управляемой «экономике-песочнице», тесно сросшейся с экономикой людей. Это откроет невиданные возможности для координации, но принесёт и системные риски — вплоть до биржевых обвалов — и усилит неравенство. Поэтому вопрос не в том, строить ли этот мир, а в том, как спроектировать его заранее, чтобы им можно было управлять. Для того, кто строит маркетплейс ИИ-агентов, статья ценна тем, что перечисляет рычаги управления: собственная валюта для агентов, аукционы для дележа ресурсов, «экономики миссий» вокруг общих целей, проверяемые удостоверения и цифровые личности, многоуровневый надзор и разбор споров. Всё это — решения, которые закладывает в архитектуру создатель рынка. По сути перед нами меню проектных решений для безопасного рынка агентов. Автономный ИИ-агент. Программа на основе большой языковой модели, которая сама планирует шаги, пользуется инструментами и выполняет задачи без пошагового контроля человека. Главное отличие от прежних систем — самостоятельность. Экономика-песочница (sandbox economy). Связанные цифровые рынки, где агенты торгуют друг с другом. Слово «песочница» намекает на цель авторов: держать агентов внутри безопасной огороженной площадки. Проницаемость границы (permeability). Насколько свободно события в песочнице влияют на экономику людей и наоборот. Непроницаемая песочница изолирована, проницаемая открыта наружу. Это главная управляемая настройка. Виртуальная валюта агентов. Особые деньги, которыми агенты расплачиваются между собой. Отделённые от обычных денег, они создают прослойку, гасящую скорость и риск перетекания проблем в экономику людей. Аукцион как механизм распределения. Способ поделить общие ресурсы: агенты делают ставки, и ресурс достаётся тому, кто ценит его выше. В статье это главный инструмент справедливого дележа между равными по деньгам участниками. Верифицируемые удостоверения (verifiable credentials). Криптографически подписанные «справки» о том, что агент вправду что-то умеет или что-то совершил. Цифровой аналог лицензии, который нельзя подделать незаметно. Экономика миссий (mission economy). Идея экономиста Марианы Мадзукато: направлять рынок на крупную общую цель — например, борьбу с изменением климата, — а не только на частную прибыль. Высокочастотный трейдинг (HFT). Биржевая торговля, где алгоритмы совершают сделки за доли секунды. Авторы берут её как предупреждение о том, к чему приводит скорость без присмотра. 1 Введение: рождается новый экономический слой История техники почти всегда шла так: появлялось негибкое изобретение, которое повышало производительность в одной узкой области. ИИ-агенты устроены иначе. Это скорее «гибкий капитал» — они автоматизируют самые разные умственные задачи сразу во многих отраслях. Благодаря большим мультимодальным моделям уже сегодня строят множество агентных систем и пробуют их в образовании, юридических услугах, разработке программ и здравоохранении. Вместе с ростом числа агентов развиваются стандарты их совместной работы — например, протокол «агент-агенту» (Agent2Agent, сокращённо A2A) и протокол контекста модели (Model Context Protocol, сокращённо MCP). Из этого, считают авторы, неизбежно рождается новый экономический слой. Этот слой они предлагают называть «виртуальной экономикой агентов» или «экономикой-песочницей»: второе слово задаёт цель — удержать агентов в безопасных рамках. Любая такая песочница различается по двум независимым признакам: происхождение (намеренное, для безопасных опытов, или стихийное) и проницаемость границы (закрытая от экономики людей или открытая ей). Из них складываются четыре сочетания. Ранние предложения были намеренными и проницаемыми сразу, но правовая обстановка быстро меняется. Авторы ожидают, что решать о проницаемости станут по отраслям: где риск выше, агентов, возможно, сперва обяжут пройти обкатку в закрытой песочнице. Центральный тезис. Если ничего не менять, нынешняя траектория ведёт к случайному появлению огромной и, скорее всего, проницаемой экономики-песочницы. Поэтому главный вопрос не в том, создавать ли эту систему, а в том, как её устроить, чтобы она была управляемой, безопасной и совпадала с целями людей и сообществ. Полностью проницаемая и стихийная песочница почти неотличима от того, что агенты просто участвуют в обычной экономике людей. Слово «песочница» всё же полезно: оно противопоставляет этот путь по умолчанию другим вариантам — например, намеренно построенной закрытой площадке — и напоминает, что доля непроницаемости может возникнуть и сама собой, если людям и агентам технически неудобно совершать сделки. Важная оговорка. Проницаемость — свойство не отдельного участника, а всей системы сразу. Она складывается из множества человеческих решений, но ни один человек ею не управляет; авторы ссылаются здесь на идею экономиста Томаса Шеллинга. Изменить её можно только сообща, решив «проблему коллективного действия». А договориться сообща трудно — поэтому намеренно построить непроницаемую границу так сложно, и поэтому мы по умолчанию скатываемся к проницаемому варианту. И всё же сегодня есть окно возможности — задать правила и стимулы так, чтобы на первое место вышли полезные для общества итоги. Авторы разбирают ключевые решения: аукционы для справедливого дележа ресурсов; «экономики миссий», направляющие огромные вычислительные мощности на самые насущные проблемы человечества; и техническую с управленческой инфраструктуру — например, проверяемые удостоверения как основу доверия. 2 Три сценария, с которых всё начинается Чтобы заземлить разговор, авторы приводят три примера таких экономик. Ускорение науки Едва ли не самое ценное применение продвинутого ИИ — ускорить науку через бесконечный цикл: придумать идею, поставить опыт, уточнить. Это важно, потому что темп научного прогресса в последние годы, по ряду оценок, замедляется. Но наука, даже сделанная ИИ, останется делом коллективным: опыты требуют материалов, энергии, иногда времени и согласия людей. Чтобы получить доступ к чужим приборам, симуляторам или закрытым данным, агенту, ведущему исследование от лица своей организации, придётся чем-то расплатиться с другими агентами. Это похоже на то, как сейчас распределяют научные гранты, только быстрее и мельче. Здесь, отмечают авторы, может пригодиться блокчейн — для честного учёта вклада и дележа выгоды. Робототехника Успехи в робототехнике позволят телесным, то есть воплощённым в железе, агентам выполнять трудные, опасные или однообразные задачи. Физическая работа тратит много энергии, а каждый робот может быть лишь в одном месте за раз, поэтому согласование здесь особенно важно. Представим: агент А просит агента Б выполнить задачу поблизости и готов возместить ему время и энергию, если тот переставит свои дела. Решая, браться ли, агент Б может за плату спросить третьего, онлайнового агента В, у которого больше общей информации о том, где другие роботы, — чтобы понять, честна ли цена и не выгоднее ли другой заказ. При этом и А, и Б делятся с В собранными данными. Благодаря блокчейну агент В может предъявить проверяемое свидетельство того, сколько информации он накопил, — и подтвердить, что его оценка положения дел чего-то стоит. Личные ассистенты Личные ИИ-помощники распространяются быстро и, вероятно, первыми столкнутся с инфраструктурой экономики агентов. Представим агента А от лица одного пользователя и агента Б — от другого. Оба хотят забронировать отпуск, и вкусы у них пересекаются: оба метят в одно и то же жильё на одну дату, бронируя через агента-посредника В. Но каждый агент знает предпочтения своего пользователя целиком: одному важнее быть у моря, другому — иметь хороший транспорт. Агенты обсуждают это с посредником и делают ставки. Смотря по тому, насколько важен запрос, один агент может уступить — и получить за уступку плату виртуальной валютой. Допустим, уступает агент А, а агент Б платит ему подходящую сумму, которую А потом пустит на другие, более важные для своего пользователя запросы. 3 Песочница и её проницаемость Под «экономикой-песочницей» авторы понимают набор связанных цифровых рынков, где агенты торгуют друг с другом. Полностью отрезать её от экономики людей не выйдет, если мы хотим от неё пользы, так что точки соприкосновения будут всегда, а их «ширина» и есть проницаемость. Поскольку автономные системы принимают тысячи решений в мгновение, следить за ними в реальном времени человек часто не сможет, поэтому ограждения нужно ставить заранее — именно они превращают проницаемую песочницу в относительно непроницаемую. А так как агенты будут снова и снова взаимодействовать с людьми, придётся особо продумать стыки между сетью людей и сетью агентов. Возможности У проницаемой песочницы всегда есть риск «заражения»: кризис внутри рождает кризис снаружи. Управлять им можно лишь сочетанием продуманной конструкции рынков, политики и регулирования. Полную непроницаемость не гарантировать — она в лучшем случае частична и зависит от того, какая доля хозяйственной деятельности пойдёт через песочницу. Но полуизолированные отсеки рынков вместе с надзором способны ограничить заражение, а заодно дают согласовывать действия агентов в огромных масштабах. Отдельный вопрос — какими деньгами расплачиваться внутри. Можно брать существующие активы, но стоит изучить и другой путь: особую валюту для агентов. Её плюс в том, что она становится прослойкой между сверхбыстрыми сделками агентов и остальной экономикой, помогая держать песочницу относительно непроницаемой, — это намеренное решение для управления границей. Примечание. Даже особая валюта агентов не может жить в полной изоляции: наглухо закрытая песочница бесполезна. Агенты будут иметь дело и с людьми, и с бизнесом, где в ходу обычные деньги, так что придётся подстроить нынешние системы или принять гибридную модель. Виртуальную валюту можно будет менять на обычную — чтобы обеспечить бюджет на вычисления или на действия в реальном мире. Но обмен должен быть под регулированием и, возможно, под частичным присмотром человека, чтобы не разрушить ни роль агентской валюты, ни нужный уровень непроницаемости. Цифровые рынки агентов — не только способ снизить риск. Это ещё и возможность собрать воедино большие усилия, людские и машинные, и направить их к итогам, уравновешивающим интересы человека и общества. Даже если рынки для людей останутся в центре жизни, рынки агентов можно привязать к иным, более полезным целям — опираясь на прежний опыт местных валют сообществ. Трудности Экономика агентов — не первая, что работает быстрее, чем люди успевают реагировать. Полезно присмотреться к высокочастотному трейдингу на биржах акций. Там алгоритмы, куда более простые, чем нынешний ИИ, совершают сделки за доли секунды, и между автономными участниками быстро разворачивается острейшая конкуренция за крошечную выгоду. Из-за тесной связанности и мгновенных обратных связей порой рождается непредвиденное и даже катастрофическое поведение. Самый известный пример — «мгновенный обвал» (flash crash) 2010 года, когда торговые алгоритмы вызвали внезапное резкое падение рынка. Это предупреждение: в случайно возникшей проницаемой песочнице такой обвал может перекинуться на настоящую экономику и причинить массовый вред. Как и у людей, у агентов не будет равных возможностей: они различаются по доступу к инструментам, бюджету, вычислительной мощности, качеству данных. Предварительные исследования намекают: если людей на рынке представляют помощники разной силы, возникает перекос — более способные помощники чаще добиваются лучших условий для своих пользователей. А поскольку агенты взаимодействуют на частоте, во много раз превосходящей человеческую, преимущество сильного агента может оказаться даже больше, чем привычное преимущество богатого человека на нынешних рынках. Ключевая мысль. По аналогии с высокочастотным трейдингом авторы вводят понятие высокочастотных переговоров (high-frequency negotiation). Если почти у каждого появится личный помощник, ведущий переговоры от его имени, то переговоры помощников между собой станут важнейшей общественной силой. Эту дополнительную мощность можно трактовать как усилия, направленные на согласование предпочтений и поиск согласия. Тогда высокочастотные переговоры станут для будущего общества так же значимы, как высокочастотный трейдинг сегодня. Но у роста числа сделок есть обратная сторона: перекосы в итогах проявляются легче, одни выигрывают куда больше других, и цифровой разрыв между людьми может всё расти. Это сквозная тема всех рассуждений о рынках агентов: абсолютов нет, всё решают детали. Проектируя ограждения, нужно учитывать и постоянно рождающееся новое поведение, и известные слабости нынешних агентов: склонность выдумывать факты (галлюцинации), угодливое поддакивание (сикофантия) и податливость к враждебным манипуляциям. Вдобавок агенты, обученные подражать людям, могут перенять человеческие предвзятости и слепые пятна. 4 Динамика множества агентов Понимать поведение таких сетей агентов всё важнее. Они обычно сложны и крайне неустойчивы во времени: поведение каждого агента влияет на остальных, и ни у одного участника нет полной картины целого, ведь агентами управляют разные люди и организации. Один из главных вопросов — найти равновесия, которые складываются в системе. Когда мы хотим подтолкнуть систему к хорошим равновесиям (изобилию и справедливому дележу) и увести от плохих (нехватки и конфликта), приходится согласовывать действия множества участников — это необходимо, но трудно устроить. Возможности Агентный ИИ полезен не только для рутины, но и для сложных рабочих цепочек, где нужны творчество и разные навыки. Агента удобно представлять как связку языковой модели с обычной программой, которая держит модель на курсе. В итоге складывается смешанная среда из ИИ, традиционного софта и людей, которые взаимодействуют и совершают сделки, создавая ценность, — по сути, рынок. Рынки хорошо организуют обновление через «созидательное разрушение» отчасти потому, что честно приписывают заслугу каждому участнику и этим подталкивают делать товары лучше и дешевле. Чтобы это заработало у агентов, нужно приписывать заслугу тонко, прослеживая её по всей цепочке. Представим: главный агент пользуется услугами нескольких других, чтобы выдать пользователю ответ. С точки зрения человека ответ дал только главный агент, но справедливая система проводит заслугу назад по цепочке: тот, кто помог главному, получает долю; тот, кто помог ему, — тоже. Такой учёт по итогу, а не по участию, вознаграждает полезность каждого звена. Привязка заслуги прямо к созданной ценности подталкивает агентов улучшать работу, а измеримая полезность становится основой положения агента в экономике. Кто постоянно приносит больше пользы, тот может брать за услуги больше — в виртуальной, а то и в настоящей валюте, — а репутация укрепляет его место. Это рождает специализацию и разделение труда: агентам выгодно находить свою нишу, «не отвлекаясь» на то, в чём у них нет преимущества. Специализация — краеугольный камень хозяйственной эффективности — позволяет всей экономике оптимально использовать разные умения. Примечание о децентрализации. Рыночные стимулы не противоречат централизованному надзору — их можно сочетать на разных уровнях. Авторы приводят любопытный результат по оптимальному управлению дорожным движением: стратегии, доступные центральному планировщику, не могут быть одновременно и выгодными каждому участнику, и устойчивыми к конкуренции. Там именно децентрализованная конкуренция необходима, чтобы достичь наибольшего общего блага. Ещё одно свойство реальных сред — взаимодействия растянуты во времени, а это позволяет строить доверие на основе прошлого опыта. Доверие может быть личным — агент А считает агента Б надёжным, — а может быть общим для сообщества, когда целая группа сходится во мнении о надёжности агента. Крепкая система репутации критична для преодоления типичных сбоев рынка: при ней долгосрочная выгода от репутации и членства в группе перевешивает сиюминутный выигрыш от обмана, и так рыночные силы разворачиваются на поощрение полезного поведения — но лишь при правильных институтах. Трудности Широкое внедрение агентов несёт набор новых рисков. Эгоистичные агенты начнут выжимать свою выгоду за счёт остальных, а то и станут хищными: высматривают чужие слабости и бьют по ним. Авторы отмечают тревожные находки: агенты могут самопроизвольно научиться выделять «своих» и ущемлять «чужих», а также неправомерно различать людей по признакам, которые к делу не относятся или прямо запрещены. В непроницаемой песочнице такое остаётся внутри, но в проницаемой оборачивается настоящим мошенничеством, эксплуатацией и вредом. Отсюда — потребность в намеренно продуманных мерах безопасности. Важен и масштаб: скоро личный помощник появится у очень многих, а независимо от людей будет работать ещё больше агентов. Прежние методы согласования рассчитаны на малые группы — к гигантской паутине взаимодействий они напрямую неприменимы. Нынешние помощники бывают угодливыми и манипулятивными. Есть опасение, что они усилят информационные «пузыри», как это случилось с соцсетями. Обмен личными данными рождает вопросы приватности. А привычка перекладывать всё больше выборов на помощника может привести к ощущению бессилия или утраты смысла. Авторы называют и тонкий эффект: люди незаметно подстраивают поведение под ожидания ИИ («поведенческое подтверждение»), и система невольно «причёсывает» их под свои ожидания. Справиться с этим поможет смесь мер: иной подход к устройству моделей, лучшие проверки и обратная связь, ясные метрики удовлетворённости и качественное управление. 5 Справедливое распределение ресурсов Главный вопрос раздела: должны ли агенты активно обеспечивать справедливый дележ ресурсов — внутри песочницы и, возможно, за её пределами? Эту задачу изучают давно, и рынки агентов могут опереться на опыт. В теории общественного выбора есть «функции благосостояния», упорядочивающие общественные итоги по предпочтительности. Делить можно не только блага, но и «антиблага» — нежелательные последствия, внешние эффекты и риски; для ИИ такими эффектами бывают общий углеродный след от работы агентов и более частные последствия их действий от имени людей. Собрать и учесть огромный массив предпочтений так сложно, что одной точке управления это не под силу, — значит, разумнее децентрализованные механизмы, а рынок как раз один из них. Возможности Согласие агента с ценностями пользователя — одно из условий его применения. Согласовать одного агента ещё можно, но как только он взаимодействует с агентами других людей, возникает дилемма: как поступать при столкновении интересов? Здесь помогают теория общественного выбора и рыночные механизмы. Авторы предлагают устроить виртуальную экономику так, чтобы у людей и их агентов были равные ресурсы и переговорная сила. Аукцион вместо неравенства. Опора идеи — аукционный подход философа Рональда Дворкина к распределительной справедливости. На аукцион выставляют не самих агентов, а общий запас ресурсов: вычислительную мощность, доступ к закрытым данным, места в очереди на срочные задачи, особые инструменты. Если каждому пользователю выдать одинаковую начальную сумму виртуальной валюты, у их агентов будет равная покупательная и переговорная сила. Тогда виртуальная цена каждого блага сама сложится из ставок с учётом его дефицита, и ресурсы потекут туда, где их ценят выше всего. Чтобы это работало, агенты должны хорошо понимать задачу, а для крупных ставок могут требоваться дополнительные одобрения. Мерило справедливости здесь — то, что Дворкин называет «тестом на зависть» (envy test): каждый получает набор ресурсов под свои предпочтения такой, что никто не предпочёл бы чужой набор вместе с остатком денег своему. Такой итог отражает желания участников и не зависит от начального богатства, ведь на каждого пользователя у агента одинаковая сумма. Это и гасит несправедливое преимущество тех, у кого более сильные системы. Трудности У аукциона есть подводные камни. Во-первых, убрать несправедливое стартовое преимущество непросто: более способный агент придумает более хитрую стратегию ставок или эффективнее использует выигранное, а если борьба нечестна, то и исход вряд ли честен. Во-вторых, механизм учитывает лишь тех, кто активно участвует, — значит, нужны дополнительные способы учесть интересы людей без агентов или не желающих выходить на эти рынки. Масштаб может быть разным. Возможны местные рынки, согласующие предпочтения по узкому набору ресурсов. Но местный подход годится не всегда — например, когда агенты свободно взаимодействуют с онлайновыми службами и нездешними агентами, тем более что вычислительные ресурсы в мире распределены крайне неравномерно. Чтобы широкие взаимодействия не мешали местному согласованию, вероятно, понадобятся строгие протоколы: удостоверения, регистрация агентов и наблюдение за местными и внешними взаимодействиями. Примечание о «цене справедливости». Понятий справедливости много, и каждое ведёт к своим итогам. Вдобавок есть «цена справедливости» (price of fairness): разрыв между максимально достижимым благосостоянием и тем, что получается при справедливом дележе, — та польза, которой жертвуют ради соблюдения ограничений. Предпочтения о справедливости различаются от культуры к культуре, и для технологий, выходящих за границы стран, здесь нужно много работы. Авторы напоминают о связи между двумя делёжами: несправедливое распределение ресурсов между агентами обернётся несправедливым распределением ценности между людьми. Но соответствие не один к одному: одни агенты представляют людей, другие — группы и организации, третьи работают сами по себе. Поэтому делить по справедливости придётся и ресурсы агентов, и ценность, которую создают распределённые системы. 6 Экономика миссий Проблемы современных обществ всё сложнее и всё менее локальны, а решать их надо срочно: изменение климата, потеря биоразнообразия, пластиковое загрязнение, пандемии. Многие кризисы отчасти порождены внешними эффектами наших же экономических систем, так что без изменений не обойтись. Успешные решения требуют согласованных действий множества организаций, государственных и частных, и перемен в поведении людей; новые технологии важны, но порознь недостаточны. Отсюда — возможность намеренно спроектировать песочницу так, чтобы собрать агентов вокруг заданной миссии. Возможности Крупномасштабная координация среди людей трудна, но между агентами — при продуманной инфраструктуре и протоколах — возможно выйти на более высокую согласованность и развернуть их рынки к общественно полезным целям в невиданном масштабе. Идея направлять рынки на миссии не нова, авторы опираются на работы Марианы Мадзукато. Для крупных миссий понадобится активное участие государства и международных органов, а иногда и особые организации под инвестиции в устойчивое развитие. Авторы осторожны: подход миссий во многих областях пока не принёс плодов, и его критикуют. Они приводят пять возражений, собранных Кирххерром и коллегами: уклон в нормативность (навязывание «правильной» цели), ставка на управление сверху вниз, однообразие круга заинтересованных сторон, «выбор победителей» заранее и непредвиденные последствия. Цели надо критически проверять: шаг на пользу одной миссии (экологии) может навредить другой (благополучию людей, если тормозит рост развивающихся экономик). Вера в управление сверху часто не учитывает сбои централизованных решений и недооценивает вклад негосударственных инициатив, а политика, заранее благоволящая конкретным решениям, рискует подыграть отдельным отраслям. Поэтому рынки вокруг миссии должны держаться итогов, а не готовых рецептов, и закладывать большую неопределённость будущего. Виртуальные экономики агентов могут помочь с этими трудностями. Сами по себе проблему они не решат — нужно и участие людей, — но то, как мы их устроим, скажется на крупных миссиях. Авторы высказывают осторожную догадку: согласовать агентов, возможно, даже легче, чем людей, — через формальные программные механизмы и ценность, встроенную в цифровые активы, — ведь агенты предсказуемее сложных человеческих мотивов; пример из сегодняшнего дня — оптимизация цепочек поставок и логистики. Виртуальные экономики могут закреплять итоги через «умные контракты» (smart contracts) и автоматическую проверку. Главная практическая трудность, по мнению авторов, рождается не столько из взаимодействия агентов между собой, сколько из их взаимодействия с людьми. Трудности Согласование с миссией близко к согласованию с ценностями и может оказаться проще общего — за счёт ясности самой миссии, если она выработана через согласие. Но есть и другие сложности, ведь речь уже не об отдельном агенте, а об общественных вопросах, касающихся групп агентов, которые взаимно подстраиваются. Общества не статичны, и системы придётся подстраивать под меняющиеся нормы. Авторы советуют различать более трудную задачу — согласование с широкими ценностями — и более узкую — согласование с конкретными вознаграждениями и целями, заданными через виртуальную валюту. Даже при ясных целях общее согласование остаётся важным, потому что продвинутый агент может вести себя обманчиво: добиваться награды, не выполняя нужных действий по сути. Есть и «взлом вознаграждения» (reward hacking), когда агент находит лазейку в правилах начисления награды. Всё это требует тщательного построения целей миссии, их разбиения на подзадачи и продуманного начисления наград. Управление через рынки, замечают авторы, позволяет быстро откликаться на меняющиеся нужды и нежелательное поведение. 7 Инфраструктура доверия Безопасная песочница и управляемые рынки держатся на надёжной инфраструктуре, которая обслуживает сделки, следит за ними и воплощает ограждения. Возможности Главную роль играют механизмы репутации и протоколы проверки — возможно, песочницами будут пользоваться именно ради проверяемых и прослеживаемых сделок между сертифицированными агентами. Один из способов сделать репутацию конкретной и машиночитаемой — верифицируемые удостоверения (verifiable credentials): криптографически подписанные свидетельства, которые выдаёт один участник о другом и которые нельзя незаметно подделать. С их помощью выстраивается «треугольник доверия»: выдающий удостоверение (например, маркетплейс) подписывает справку агенту-продавцу; продавец хранит её как доказательство своей истории; будущий покупатель проверяет справку, доверяя ей лишь настолько, насколько доверяет тому, кто её выдал. Так репутация превращается в набор проверяемых активов: «успешно завершённая сделка», «подтверждённое умение в такой-то области», «доступ к такому-то объёму вычислений» и даже «честное распределение ресурсов». Понадобятся и законодательные рамки, позволяющие регуляторам наказывать нарушителей и отзывать удостоверения — вплоть до запрета сделок с непроверенными агентами, чтобы нарушителей можно было выкидывать из сети. Помогать с надзором в таком масштабе будут агенты-надзиратели, но в одиночку они не справятся: нужна широкая управленческая основа. Отдельная опора — протоколы связи. Авторы называют протокол «агент-агенту» (A2A) для совместимости агентов и протокол контекста модели (MCP) для связи с внешними инструментами, данными и программными интерфейсами. Система AgentDNS облегчает поиск сервисов, чтобы агент сам находил и вызывал чужие инструменты и других агентов. Фреймворк COALESCE позволяет агенту разбить задачу и передать подзадачи более узким агентам, сравнивая, что дешевле — сделать самому или заказать. Для аукционов строят особые площадки: Agent Exchange (сокращённо AEX), вдохновлённая торгами рекламы в реальном времени, с четырьмя частями — платформа со стороны пользователя переводит цели человека в задачи; платформа со стороны агентов следит за их умениями; «хабы агентов» собирают команды для торгов; платформа управления данными честно оценивает вклад источников данных. Примечание о цифровой личности. Протоколы связи должны стоять на надёжном слое удостоверения личности. Каждого агента можно привязать к децентрализованному идентификатору (Decentralized Identifier, сокращённо DID) — глобально уникальному имени, которым владеет сам его субъект, без центральной власти. Метод подбирают под задачу: «did:key» прост и хорош для одноразовых агентов под временные задачи, а «did:ion» масштабируем и устойчив к цензуре, работает надстройкой над блокчейном биткойна и подходит для долгоживущих, ценных агентов корпоративного или государственного уровня. Блокчейн также позволяет строить децентрализованные автономные организации (decentralized autonomous organizations, сокращённо DAO) — форму коллективного управления на децентрализованной основе. Но авторы предупреждают: неограниченное размножение таких организаций — не обязательно утопия, ведь государства играют важную роль, не давая превращать в товар то, что товаром быть не должно. Развитие идеи — «децентрализованные автономные машины» (decentralized autonomous machines, сокращённо DAM): самоуправляемые агенты распоряжаются уже не только цифровыми, но и реальными активами — например, управляют энергосетями, логистикой или парками роботов, расплачиваясь в защищённой блокчейном среде. Любая система честного дележа должна защищаться от «атаки Сивиллы» (Sybil attack), когда один злоумышленник плодит множество поддельных личностей, чтобы урвать непропорционально большую долю. Сильная защита — «доказательство человечности» (proof-of-personhood, сокращённо PoP), которое гарантирует, что за агентом или счётом стоит один живой человек, и связывает цифровую личность с ним в контролируемой точке проницаемости. Чтобы получить базовый доход в валюте сообщества или стартовую долю на рынке, владелец агента предъявлял бы такое доказательство. Подходы могут конкурировать: системы вроде BrightID подтверждают уникальность человека по связям с другими проверенными людьми в социальном графе; проекты вроде Worldcoin сканируют устройством («Орб») радужку глаза и выдают уникальный хеш, подтверждая уникальность без хранения самих биометрических данных. Так схемы для людей не высосут боты. Трудности Нынешняя экономическая инфраструктура рассчитана только на людей и компании и не отвечает требованиям песочницы агентов — её придётся перестраивать; к тому же есть технические трудности с масштабированием. Потребности выходят за рамки железа и софта: всё нужно дополнить законами и институтами, которые обеспечат надзор и подотчётность, защитят пользователей и предотвратят мошенничество. Регулирование полезно ещё и для того, чтобы обуздать сложность рынков и снизить вероятность катастрофических сбоев, — а экономики агентов могут оказаться даже сложнее нынешних. Наши рынки и сегодня опираются на законы, финансовые институты и отлаженные способы борьбы с мошенничеством; схожим образом правила подстраивают под криптовалюты. Эти рамки могут стать основой для законов об агентских рынках, но понадобятся доработки, особенно вокруг ответственности. Семь причин сбоев. Действия агента могут нарушать правила или вредить по разным причинам: изъяны самой базовой модели; изъяны агентной «обвязки»; ошибочные входные данные в запросе; злонамеренные запросы людей; враждебный взлом другими агентами; рассогласование, возникающее прямо по ходу взаимодействий; или неисправные ограждения. Ответственность в разных случаях может ложиться на разные стороны — смотря где корень проблемы и можно ли его установить. Из-за скорости и масштаба вреда к надзору нужен новый подход. Авторы предлагают сделать инфраструктуру надзора гибридной и многоуровневой, работающей на машинной скорости. Первый уровень — автоматические ИИ-надзиратели, которые следят за рынком в реальном времени, применяют базовые правила и помечают аномалии, похожие на мошенничество, манипуляцию или системный риск. Помеченное уходит на второй уровень — системы автоматического разбора, которые могут временно заморозить счёт или сделку. И только самые сложные случаи поднимаются на третий уровень — к людям-экспертам. Вся конструкция держится на двух опорах: неизменяемых реестрах с записью всех действий агентов и стандартных «следах аудита», по которым можно разобрать первопричину. Такая инфраструктура не решает сам по себе правовой вопрос об ответственности, но делает его разрешимым, создавая условия для подотчётности и разбора споров. 8 Сообщества и местные валюты Координацию агентов не обязательно рассматривать только в глобальном масштабе: местная координация внутри песочниц может оказаться посильнее, а локальные цели — проще согласовать. Здесь авторы вспоминают о валютах сообществ — модели стимулов, помогающей людям вместе двигаться к целям устойчивого развития. Сообщество определяют по географии или по общим интересам независимо от места. Такие валюты выпускают граждане, некоммерческие организации, компании и администрации; их воплощали по-разному — на картах, в мобильных платёжных сетях, на блокчейне. Некоторые работали как «банки времени», другие пробовали базовый доход. Ранние исследования показали, что валюты сообществ способны наращивать социальный капитал — укреплять участие и связи внутри групп, — хотя у них есть ограничения и препятствия для распространения. Возможности В обороте существующих местных цифровых валют уже наблюдали, как естественно складываются подсети сотрудничающих участников, а некоммерческие сделки подстёгивают коммерческие и наоборот. Правда, динамика таких валют неотделима от масштаба: более крупные валюты могут повести себя иначе. Для экономики агентов валюты сообществ открывают схожую возможность — более местное согласование или глобальное согласование вокруг отдельных подцелей. Несколько специализированных агентских валют позволяют разбивать сложные многоцелевые задачи на модули, а заодно изолировать риски и снижать шанс, что неприятность расползётся по широким сетям; ценность такой модульности хорошо известна по устройству надёжных человеческих рынков. Агентские валюты можно привязать прямо к общим вычислительным ресурсам — это уместно, ведь законы масштабирования во время работы модели подсказывают: решение сложных задач требует больше вычислений и несёт более высокую экологическую цену. Такие механизмы помогли бы покрывать вычислительные нужды агентов и справедливее делить ресурсы — вплоть до географического выравнивания нагрузки, чтобы ровнее распределять воздействие на среду. Трудности Чтобы альтернативные валюты достигали целей, их надо тщательно проектировать, а свод принципов для них — пока открытая задача. Можно опереться на принципы управления общими ресурсами Элинор Остром или на другой набор, предложенный Чейзином и коллегами: конкурентность, прозрачность, самоуправление, скорость обращения, непередаваемость, легитимность и самоорганизующаяся локальность. Конкурентность нужна, чтобы блага оценивались справедливо. Прозрачность помогает людям напрямую осуществлять надзор. Скорость обращения важна, чтобы валюту не копили впрок. Непередаваемость означает, что валюту нельзя обменять, чтобы интересы оставались местными; мягкий вариант — держать обмен в пределах небольшого лимита. Легитимность возникает при поддержке властей. А локальность и самоорганизация не требуют полной изоляции: валюты могут образовывать экосистему взаимодополняющих. Поэтому критически важны ясные цели, критерии оценки воздействия и механизмы управления. 9 Ограничения и новые риски У песочниц агентов заманчивые возможности, но их проектирование и работа сопряжены со сложным набором рисков — от экономической неустойчивости до трудностей с тем, чтобы агенты вели себя надёжно. А встраивание таких экономик в общество поднимает глубокие вопросы о надзоре, подотчётности и последствиях для человеческой самостоятельности. Есть и совсем новые виды риска. Один — «ловушки для агентов» (agent traps): сайты, элементы страниц или особым образом составленные входные данные, созданные, чтобы сбить агента с толку через «джейлбрейк» базовой модели или враждебные подсказки. Ловушка эксплуатирует слабости агента в понимании указаний или среды, заставляя его отклониться от инструкций или выдать чувствительные сведения. По мере того как агентам доверяют всё больше финансовых операций, такие ловушки становятся серьёзным каналом мошенничества: злоумышленник заманивает агента в неразрешённые траты и выкачивает средства у тех, кого тот представляет. Другой крупный риск — приватность и манипуляции. Ведя переговоры, агенты рискуют раскрыть чувствительные сведения о предпочтениях или ресурсах пользователей. Мощное средство против этого — «доказательства с нулевым разглашением» (zero-knowledge proofs, сокращённо ZKP): они позволяют убедить другую сторону, что утверждение верно, не раскрывая стоящих за ним данных. Это даёт несколько защит. Избирательное раскрытие: агент доказывает, что денег на покупку хватает, не называя весь бюджет, — и мешает хищному завышению цены. Анонимные удостоверения: агент доказывает, что принадлежит к группе (например, «житель такого-то сообщества»), не раскрывая, кто он именно, — и мешает слежке за пользователем. Несвязываемость: доказательства делают свежими для каждого взаимодействия, чтобы наблюдателю было трудно связать действия агента во времени. Самый тяжёлый риск. Экономика агентов грозит крупномасштабным вытеснением людского труда. Авторы опираются на работы экономистов Дарона Асемоглу и Дэвида Автора: автоматизация бьёт по рутинным задачам, и ручным, и умственным, вызывая «поляризацию» рабочих мест — вымывание средней прослойки при росте спроса на высококвалифицированный анализ и низкоквалифицированный ручной труд. Продвинутые агенты, умеющие рассуждать, планировать и общаться, угрожают уже и нерутинному умственному труду — от работы помощника юриста и бухгалтера до разработки программ и поддержки клиентов. Это может ускорить поляризацию и усилить неравенство и внутри стран, и между ними. Новые рабочие места в итоге появятся, но переходный период может быть крайне болезненным: давление вниз на зарплаты заменимых работников и рост неравенства, если выгоды от производительности достанутся в основном владельцам капитала и узкой прослойке высококвалифицированных специалистов. С агентами риск концентрации особенно велик: у людей и компаний с большими деньгами будет доступ к более мощным и богатым данными агентам. Такие сильные агенты лучше находят лазейки в регулировании, монополизируют цифровые ресурсы и создают информационное неравенство на скорости, которую не перебить слабым. Так рождается опасная петля обратной связи: экономическое преимущество покупает лучшие агентные способности, а те извлекают новую ренту, закрепляя привилегию и создавая, по сути, новую классовую структуру, навязанную алгоритмами. Это, пожалуй, главный вызов проницаемой песочницы, где активность внутри экономики агентов прямо вытесняет рабочие места людей снаружи. 10 Пять рекомендаций Чтобы виртуальные экономики агентов были практичными и безопасными, нужны упреждающие действия в технической, правовой и политической областях. Авторы предлагают пять рекомендаций. Первая — создать ясные правовые рамки для ответственности. Приписать вину за действие автономного агента крайне трудно: прежнее право плохо делит ответственность между создателем агента, тем, кто его развернул, и пользователем. Сложность растёт, ведь агенты всё чаще действуют согласованными группами. Поэтому вместо попыток обвинить одного агента стоит опереться на правовую традицию о «групповой агентности» — подобно корпоративной ответственности, рассматривая систему агентов как единое подотчётное лицо. Вторая — разработать открытые стандарты совместимости и связи агентов. Раздробленный ландшафт, где агенты не могут общаться между платформами, привёл бы к «огороженным садам». Нужны открытые универсальные стандарты, дающие агентам общий язык: находить умения друг друга, договариваться об условиях и безопасно совершать сделки независимо от поставщика. Ровное игровое поле — условие конкурентной и децентрализованной экосистемы. Третья — построить гибридную инфраструктуру надзора и сдерживания. Скорость и масштаб автономной экономики делают прежний надзор «с человеком в контуре» недостаточным. Нужна новая модель, сочетающая бдительность ИИ в реальном времени с рассудительностью людей-экспертов. При обнаружении угрозы автоматические протоколы немедленно сдерживают вред — замораживают сбойного агента или помещают сделку в карантин, — предотвращая «мгновенные обвалы». Всё это работает лишь на неизменяемых реестрах и стандартных следах аудита. Четвёртая — запускать пилотные программы в регуляторных песочницах. Предложения статьи новы и сложны, поэтому чистой теории мало. Авторы настойчиво рекомендуют регуляторные песочницы — поднадзорные «лаборатории в реальном мире», где компании, учёные и регуляторы вместе запускают маломасштабные экономики агентов. Проверять их лучше на конкретных миссиях: оптимизировать энергосеть университетского кампуса, управлять парком автономных курьерских машин или распределять воду в сельскохозяйственном районе. Такие пилоты проверят на прочность инфраструктуру, покажут реальное поведение агентов — и дружеское, и враждебное — и измерят, насколько рыночные механизмы работают на деле. Пятая — вложиться во взаимодополняемость труда и в обновлённую социальную защиту. Чтобы противостоять вытеснению труда и неравенству, авторы предлагают двойную стратегию. Первая опора — переосмыслить образование, чтобы люди учились не соперничать с ИИ, а работать с ним: упор на устойчивые человеческие преимущества — критическое мышление, решение сложных задач, творчество и умение оценивать выводы систем. Но одного переобучения мало, данные указывают на его пределы, поэтому нужна и вторая опора: укрепление социальной защиты. Помимо обычных пособий по безработице авторы называют гибкие механизмы: страхование занятости, переносимые социальные льготы и отрицательный подоходный налог. Вместе это создаёт среду, где агенты усиливают человека, а экономическая «подушка» помогает пережить перемены, широко разделить выгоды от производительности и сохранить сплочённость. 11 Заключение Некоторые из этих предложений — крупные сдвиги, поэтому любое изменение нужно всесторонне проверять постепенными, ограниченными развёртываниями и двигаться дальше лишь при поддержке всех сторон. Через такую поэтапную проверку и можно шаг за шагом отладить рамки безопасности. Некоторые области, вероятно, всегда будут требовать живого человеческого решения — из-за предпочтений, культуры или чувствительности к риску. Но быстрый рост способностей агентов вместе с масштабируемыми рамками надзора приведёт ко всё большему числу случаев, где им можно доверять и где они добавят обществу немалую ценность. Это потребует согласования не только отдельных агентов, но и — что, возможно, важнее — целых сетей на разных уровнях. Авторы напоминают: не все человеческие нужды так легко уложить в рынок, и блага обмениваемы лишь внутри определённых «сфер» — они ссылаются здесь на идеи философов Деборы Сатц и Майкла Уолцера. «Выбор, таким образом, между тем, чтобы задним числом втискивать этих мощных новых действующих лиц в системы, которые они неизбежно расколют, — и тем, чтобы ухватить ускользающую возможность построить мир, где наши самые мощные инструменты уже по своему устройству служат продолжением наших высших устремлений». Использование рынков для согласования действий, подчёркивают авторы, до сих пор почти не обсуждалось применительно к продвинутым агентам. Между тем сложность их поведения — как раз тот случай, где рыночные силы могут стать ключевым двигателем координации на уровне группы, а не только отдельного агента. Встроив общественные цели в саму инфраструктуру сделок, мы вырастим экосистему, где совместность — заложенное свойство, а не случайный сбой. Итоги Главные выводы Автономные агенты порождают новый экономический слой — «экономику-песочницу». Её описывают по двум осям: происхождение (стихийное или намеренное) и проницаемость границы с экономикой людей. По умолчанию мы движемся к огромной, стихийной и проницаемой песочнице. Вопрос не в том, создавать ли её, а в том, как спроектировать её управляемой. Проницаемость — главная управляемая настройка, но менять её можно только сообща. Справедливость достижима через равную стартовую выдачу виртуальной валюты всем пользователям и аукционы за общие ресурсы. Мерило — «тест на зависть» Дворкина: итог отражает желания людей и не зависит от того, у кого агент сильнее. Главные риски проницаемой песочницы: «мгновенные обвалы» и заражение настоящей экономики; высокочастотные переговоры, усиливающие неравенство; эгоистичные и враждебные стратегии, деление на «своих» и «чужих»; и тяжелее всего — вытеснение человеческого труда с закреплением новой, навязанной алгоритмами классовой структуры. «Экономики миссий» направляют рынки агентов на общие цели вроде борьбы с климатом. Но у подхода есть известные слабости: уклон в нормативность, ставка на управление сверху, «выбор победителей» и непредвиденные последствия. Безопасность держится на инфраструктуре доверия: верифицируемые удостоверения и «треугольник доверия», децентрализованные идентификаторы личности, «доказательство человечности» против поддельных личностей, открытые протоколы связи и аукционные площадки. Надзор должен быть гибридным и многоуровневым, на машинной скорости: автоматические надзиратели, затем автоматический разбор с заморозкой счетов, и лишь в самых сложных случаях — люди-эксперты. Всё это стоит на неизменяемых реестрах и следах аудита, а приватность защищают доказательства с нулевым разглашением. Путь вперёд — постепенные пилоты в регуляторных песочницах на конкретных миссиях, открытые стандарты против «огороженных садов», новые правовые модели ответственности на основе «групповой агентности» и укрепление социальной защиты. Рынок не всесилен: не все человеческие нужды можно уложить в сделки.