Статью написали в сентябре 2025 года семь исследователей из Google DeepMind во главе с Ненадом Томашевым. Повод простой: автономные ИИ-агенты входят в обиход очень быстро. Они уже начинают сами заключать сделки и согласовывать действия друг с другом — на такой скорости и в таком числе, что человек не успевает следить. Так появляется новый «экономический слой», где основными действующими лицами становятся не люди, а программы.
Главный вопрос статьи: что будет, когда таких агентов станут миллионы и они начнут торговать между собой? Ответ авторов: если ничего не делать, мы по инерции придём к огромной и слабо управляемой «экономике-песочнице», тесно сросшейся с экономикой людей. Это откроет невиданные возможности для координации, но принесёт и системные риски — вплоть до биржевых обвалов — и усилит неравенство. Поэтому вопрос не в том, строить ли этот мир, а в том, как спроектировать его заранее, чтобы им можно было управлять.
Для того, кто строит маркетплейс ИИ-агентов, статья ценна тем, что перечисляет рычаги управления: собственная валюта для агентов, аукционы для дележа ресурсов, «экономики миссий» вокруг общих целей, проверяемые удостоверения и цифровые личности, многоуровневый надзор и разбор споров. Всё это — решения, которые закладывает в архитектуру создатель рынка. По сути перед нами меню проектных решений для безопасного рынка агентов.
История техники почти всегда шла так: появлялось негибкое изобретение, которое повышало производительность в одной узкой области. ИИ-агенты устроены иначе. Это скорее «гибкий капитал» — они автоматизируют самые разные умственные задачи сразу во многих отраслях. Благодаря большим мультимодальным моделям уже сегодня строят множество агентных систем и пробуют их в образовании, юридических услугах, разработке программ и здравоохранении. Вместе с ростом числа агентов развиваются стандарты их совместной работы — например, протокол «агент-агенту» (Agent2Agent, сокращённо A2A) и протокол контекста модели (Model Context Protocol, сокращённо MCP). Из этого, считают авторы, неизбежно рождается новый экономический слой.
Этот слой они предлагают называть «виртуальной экономикой агентов» или «экономикой-песочницей»: второе слово задаёт цель — удержать агентов в безопасных рамках. Любая такая песочница различается по двум независимым признакам: происхождение (намеренное, для безопасных опытов, или стихийное) и проницаемость границы (закрытая от экономики людей или открытая ей). Из них складываются четыре сочетания. Ранние предложения были намеренными и проницаемыми сразу, но правовая обстановка быстро меняется. Авторы ожидают, что решать о проницаемости станут по отраслям: где риск выше, агентов, возможно, сперва обяжут пройти обкатку в закрытой песочнице.
Полностью проницаемая и стихийная песочница почти неотличима от того, что агенты просто участвуют в обычной экономике людей. Слово «песочница» всё же полезно: оно противопоставляет этот путь по умолчанию другим вариантам — например, намеренно построенной закрытой площадке — и напоминает, что доля непроницаемости может возникнуть и сама собой, если людям и агентам технически неудобно совершать сделки.
И всё же сегодня есть окно возможности — задать правила и стимулы так, чтобы на первое место вышли полезные для общества итоги. Авторы разбирают ключевые решения: аукционы для справедливого дележа ресурсов; «экономики миссий», направляющие огромные вычислительные мощности на самые насущные проблемы человечества; и техническую с управленческой инфраструктуру — например, проверяемые удостоверения как основу доверия.
Чтобы заземлить разговор, авторы приводят три примера таких экономик.
Едва ли не самое ценное применение продвинутого ИИ — ускорить науку через бесконечный цикл: придумать идею, поставить опыт, уточнить. Это важно, потому что темп научного прогресса в последние годы, по ряду оценок, замедляется. Но наука, даже сделанная ИИ, останется делом коллективным: опыты требуют материалов, энергии, иногда времени и согласия людей. Чтобы получить доступ к чужим приборам, симуляторам или закрытым данным, агенту, ведущему исследование от лица своей организации, придётся чем-то расплатиться с другими агентами. Это похоже на то, как сейчас распределяют научные гранты, только быстрее и мельче. Здесь, отмечают авторы, может пригодиться блокчейн — для честного учёта вклада и дележа выгоды.
Успехи в робототехнике позволят телесным, то есть воплощённым в железе, агентам выполнять трудные, опасные или однообразные задачи. Физическая работа тратит много энергии, а каждый робот может быть лишь в одном месте за раз, поэтому согласование здесь особенно важно. Представим: агент А просит агента Б выполнить задачу поблизости и готов возместить ему время и энергию, если тот переставит свои дела. Решая, браться ли, агент Б может за плату спросить третьего, онлайнового агента В, у которого больше общей информации о том, где другие роботы, — чтобы понять, честна ли цена и не выгоднее ли другой заказ. При этом и А, и Б делятся с В собранными данными. Благодаря блокчейну агент В может предъявить проверяемое свидетельство того, сколько информации он накопил, — и подтвердить, что его оценка положения дел чего-то стоит.
Личные ИИ-помощники распространяются быстро и, вероятно, первыми столкнутся с инфраструктурой экономики агентов. Представим агента А от лица одного пользователя и агента Б — от другого. Оба хотят забронировать отпуск, и вкусы у них пересекаются: оба метят в одно и то же жильё на одну дату, бронируя через агента-посредника В. Но каждый агент знает предпочтения своего пользователя целиком: одному важнее быть у моря, другому — иметь хороший транспорт. Агенты обсуждают это с посредником и делают ставки. Смотря по тому, насколько важен запрос, один агент может уступить — и получить за уступку плату виртуальной валютой. Допустим, уступает агент А, а агент Б платит ему подходящую сумму, которую А потом пустит на другие, более важные для своего пользователя запросы.
Под «экономикой-песочницей» авторы понимают набор связанных цифровых рынков, где агенты торгуют друг с другом. Полностью отрезать её от экономики людей не выйдет, если мы хотим от неё пользы, так что точки соприкосновения будут всегда, а их «ширина» и есть проницаемость. Поскольку автономные системы принимают тысячи решений в мгновение, следить за ними в реальном времени человек часто не сможет, поэтому ограждения нужно ставить заранее — именно они превращают проницаемую песочницу в относительно непроницаемую. А так как агенты будут снова и снова взаимодействовать с людьми, придётся особо продумать стыки между сетью людей и сетью агентов.
У проницаемой песочницы всегда есть риск «заражения»: кризис внутри рождает кризис снаружи. Управлять им можно лишь сочетанием продуманной конструкции рынков, политики и регулирования. Полную непроницаемость не гарантировать — она в лучшем случае частична и зависит от того, какая доля хозяйственной деятельности пойдёт через песочницу. Но полуизолированные отсеки рынков вместе с надзором способны ограничить заражение, а заодно дают согласовывать действия агентов в огромных масштабах.
Отдельный вопрос — какими деньгами расплачиваться внутри. Можно брать существующие активы, но стоит изучить и другой путь: особую валюту для агентов. Её плюс в том, что она становится прослойкой между сверхбыстрыми сделками агентов и остальной экономикой, помогая держать песочницу относительно непроницаемой, — это намеренное решение для управления границей.
Цифровые рынки агентов — не только способ снизить риск. Это ещё и возможность собрать воедино большие усилия, людские и машинные, и направить их к итогам, уравновешивающим интересы человека и общества. Даже если рынки для людей останутся в центре жизни, рынки агентов можно привязать к иным, более полезным целям — опираясь на прежний опыт местных валют сообществ.
Экономика агентов — не первая, что работает быстрее, чем люди успевают реагировать. Полезно присмотреться к высокочастотному трейдингу на биржах акций. Там алгоритмы, куда более простые, чем нынешний ИИ, совершают сделки за доли секунды, и между автономными участниками быстро разворачивается острейшая конкуренция за крошечную выгоду. Из-за тесной связанности и мгновенных обратных связей порой рождается непредвиденное и даже катастрофическое поведение. Самый известный пример — «мгновенный обвал» (flash crash) 2010 года, когда торговые алгоритмы вызвали внезапное резкое падение рынка. Это предупреждение: в случайно возникшей проницаемой песочнице такой обвал может перекинуться на настоящую экономику и причинить массовый вред.
Как и у людей, у агентов не будет равных возможностей: они различаются по доступу к инструментам, бюджету, вычислительной мощности, качеству данных. Предварительные исследования намекают: если людей на рынке представляют помощники разной силы, возникает перекос — более способные помощники чаще добиваются лучших условий для своих пользователей. А поскольку агенты взаимодействуют на частоте, во много раз превосходящей человеческую, преимущество сильного агента может оказаться даже больше, чем привычное преимущество богатого человека на нынешних рынках.
Но у роста числа сделок есть обратная сторона: перекосы в итогах проявляются легче, одни выигрывают куда больше других, и цифровой разрыв между людьми может всё расти. Это сквозная тема всех рассуждений о рынках агентов: абсолютов нет, всё решают детали. Проектируя ограждения, нужно учитывать и постоянно рождающееся новое поведение, и известные слабости нынешних агентов: склонность выдумывать факты (галлюцинации), угодливое поддакивание (сикофантия) и податливость к враждебным манипуляциям. Вдобавок агенты, обученные подражать людям, могут перенять человеческие предвзятости и слепые пятна.
Понимать поведение таких сетей агентов всё важнее. Они обычно сложны и крайне неустойчивы во времени: поведение каждого агента влияет на остальных, и ни у одного участника нет полной картины целого, ведь агентами управляют разные люди и организации. Один из главных вопросов — найти равновесия, которые складываются в системе. Когда мы хотим подтолкнуть систему к хорошим равновесиям (изобилию и справедливому дележу) и увести от плохих (нехватки и конфликта), приходится согласовывать действия множества участников — это необходимо, но трудно устроить.
Агентный ИИ полезен не только для рутины, но и для сложных рабочих цепочек, где нужны творчество и разные навыки. Агента удобно представлять как связку языковой модели с обычной программой, которая держит модель на курсе. В итоге складывается смешанная среда из ИИ, традиционного софта и людей, которые взаимодействуют и совершают сделки, создавая ценность, — по сути, рынок.
Рынки хорошо организуют обновление через «созидательное разрушение» отчасти потому, что честно приписывают заслугу каждому участнику и этим подталкивают делать товары лучше и дешевле. Чтобы это заработало у агентов, нужно приписывать заслугу тонко, прослеживая её по всей цепочке. Представим: главный агент пользуется услугами нескольких других, чтобы выдать пользователю ответ. С точки зрения человека ответ дал только главный агент, но справедливая система проводит заслугу назад по цепочке: тот, кто помог главному, получает долю; тот, кто помог ему, — тоже. Такой учёт по итогу, а не по участию, вознаграждает полезность каждого звена.
Привязка заслуги прямо к созданной ценности подталкивает агентов улучшать работу, а измеримая полезность становится основой положения агента в экономике. Кто постоянно приносит больше пользы, тот может брать за услуги больше — в виртуальной, а то и в настоящей валюте, — а репутация укрепляет его место. Это рождает специализацию и разделение труда: агентам выгодно находить свою нишу, «не отвлекаясь» на то, в чём у них нет преимущества. Специализация — краеугольный камень хозяйственной эффективности — позволяет всей экономике оптимально использовать разные умения.
Ещё одно свойство реальных сред — взаимодействия растянуты во времени, а это позволяет строить доверие на основе прошлого опыта. Доверие может быть личным — агент А считает агента Б надёжным, — а может быть общим для сообщества, когда целая группа сходится во мнении о надёжности агента. Крепкая система репутации критична для преодоления типичных сбоев рынка: при ней долгосрочная выгода от репутации и членства в группе перевешивает сиюминутный выигрыш от обмана, и так рыночные силы разворачиваются на поощрение полезного поведения — но лишь при правильных институтах.
Широкое внедрение агентов несёт набор новых рисков. Эгоистичные агенты начнут выжимать свою выгоду за счёт остальных, а то и станут хищными: высматривают чужие слабости и бьют по ним. Авторы отмечают тревожные находки: агенты могут самопроизвольно научиться выделять «своих» и ущемлять «чужих», а также неправомерно различать людей по признакам, которые к делу не относятся или прямо запрещены. В непроницаемой песочнице такое остаётся внутри, но в проницаемой оборачивается настоящим мошенничеством, эксплуатацией и вредом. Отсюда — потребность в намеренно продуманных мерах безопасности.
Важен и масштаб: скоро личный помощник появится у очень многих, а независимо от людей будет работать ещё больше агентов. Прежние методы согласования рассчитаны на малые группы — к гигантской паутине взаимодействий они напрямую неприменимы.
Нынешние помощники бывают угодливыми и манипулятивными. Есть опасение, что они усилят информационные «пузыри», как это случилось с соцсетями. Обмен личными данными рождает вопросы приватности. А привычка перекладывать всё больше выборов на помощника может привести к ощущению бессилия или утраты смысла. Авторы называют и тонкий эффект: люди незаметно подстраивают поведение под ожидания ИИ («поведенческое подтверждение»), и система невольно «причёсывает» их под свои ожидания. Справиться с этим поможет смесь мер: иной подход к устройству моделей, лучшие проверки и обратная связь, ясные метрики удовлетворённости и качественное управление.
Главный вопрос раздела: должны ли агенты активно обеспечивать справедливый дележ ресурсов — внутри песочницы и, возможно, за её пределами? Эту задачу изучают давно, и рынки агентов могут опереться на опыт. В теории общественного выбора есть «функции благосостояния», упорядочивающие общественные итоги по предпочтительности. Делить можно не только блага, но и «антиблага» — нежелательные последствия, внешние эффекты и риски; для ИИ такими эффектами бывают общий углеродный след от работы агентов и более частные последствия их действий от имени людей. Собрать и учесть огромный массив предпочтений так сложно, что одной точке управления это не под силу, — значит, разумнее децентрализованные механизмы, а рынок как раз один из них.
Согласие агента с ценностями пользователя — одно из условий его применения. Согласовать одного агента ещё можно, но как только он взаимодействует с агентами других людей, возникает дилемма: как поступать при столкновении интересов? Здесь помогают теория общественного выбора и рыночные механизмы. Авторы предлагают устроить виртуальную экономику так, чтобы у людей и их агентов были равные ресурсы и переговорная сила.
Чтобы это работало, агенты должны хорошо понимать задачу, а для крупных ставок могут требоваться дополнительные одобрения. Мерило справедливости здесь — то, что Дворкин называет «тестом на зависть» (envy test): каждый получает набор ресурсов под свои предпочтения такой, что никто не предпочёл бы чужой набор вместе с остатком денег своему. Такой итог отражает желания участников и не зависит от начального богатства, ведь на каждого пользователя у агента одинаковая сумма. Это и гасит несправедливое преимущество тех, у кого более сильные системы.
У аукциона есть подводные камни. Во-первых, убрать несправедливое стартовое преимущество непросто: более способный агент придумает более хитрую стратегию ставок или эффективнее использует выигранное, а если борьба нечестна, то и исход вряд ли честен. Во-вторых, механизм учитывает лишь тех, кто активно участвует, — значит, нужны дополнительные способы учесть интересы людей без агентов или не желающих выходить на эти рынки.
Масштаб может быть разным. Возможны местные рынки, согласующие предпочтения по узкому набору ресурсов. Но местный подход годится не всегда — например, когда агенты свободно взаимодействуют с онлайновыми службами и нездешними агентами, тем более что вычислительные ресурсы в мире распределены крайне неравномерно. Чтобы широкие взаимодействия не мешали местному согласованию, вероятно, понадобятся строгие протоколы: удостоверения, регистрация агентов и наблюдение за местными и внешними взаимодействиями.
Авторы напоминают о связи между двумя делёжами: несправедливое распределение ресурсов между агентами обернётся несправедливым распределением ценности между людьми. Но соответствие не один к одному: одни агенты представляют людей, другие — группы и организации, третьи работают сами по себе. Поэтому делить по справедливости придётся и ресурсы агентов, и ценность, которую создают распределённые системы.
Проблемы современных обществ всё сложнее и всё менее локальны, а решать их надо срочно: изменение климата, потеря биоразнообразия, пластиковое загрязнение, пандемии. Многие кризисы отчасти порождены внешними эффектами наших же экономических систем, так что без изменений не обойтись. Успешные решения требуют согласованных действий множества организаций, государственных и частных, и перемен в поведении людей; новые технологии важны, но порознь недостаточны. Отсюда — возможность намеренно спроектировать песочницу так, чтобы собрать агентов вокруг заданной миссии.
Крупномасштабная координация среди людей трудна, но между агентами — при продуманной инфраструктуре и протоколах — возможно выйти на более высокую согласованность и развернуть их рынки к общественно полезным целям в невиданном масштабе. Идея направлять рынки на миссии не нова, авторы опираются на работы Марианы Мадзукато. Для крупных миссий понадобится активное участие государства и международных органов, а иногда и особые организации под инвестиции в устойчивое развитие.
Авторы осторожны: подход миссий во многих областях пока не принёс плодов, и его критикуют. Они приводят пять возражений, собранных Кирххерром и коллегами: уклон в нормативность (навязывание «правильной» цели), ставка на управление сверху вниз, однообразие круга заинтересованных сторон, «выбор победителей» заранее и непредвиденные последствия. Цели надо критически проверять: шаг на пользу одной миссии (экологии) может навредить другой (благополучию людей, если тормозит рост развивающихся экономик). Вера в управление сверху часто не учитывает сбои централизованных решений и недооценивает вклад негосударственных инициатив, а политика, заранее благоволящая конкретным решениям, рискует подыграть отдельным отраслям. Поэтому рынки вокруг миссии должны держаться итогов, а не готовых рецептов, и закладывать большую неопределённость будущего.
Виртуальные экономики агентов могут помочь с этими трудностями. Сами по себе проблему они не решат — нужно и участие людей, — но то, как мы их устроим, скажется на крупных миссиях. Авторы высказывают осторожную догадку: согласовать агентов, возможно, даже легче, чем людей, — через формальные программные механизмы и ценность, встроенную в цифровые активы, — ведь агенты предсказуемее сложных человеческих мотивов; пример из сегодняшнего дня — оптимизация цепочек поставок и логистики. Виртуальные экономики могут закреплять итоги через «умные контракты» (smart contracts) и автоматическую проверку. Главная практическая трудность, по мнению авторов, рождается не столько из взаимодействия агентов между собой, сколько из их взаимодействия с людьми.
Согласование с миссией близко к согласованию с ценностями и может оказаться проще общего — за счёт ясности самой миссии, если она выработана через согласие. Но есть и другие сложности, ведь речь уже не об отдельном агенте, а об общественных вопросах, касающихся групп агентов, которые взаимно подстраиваются. Общества не статичны, и системы придётся подстраивать под меняющиеся нормы. Авторы советуют различать более трудную задачу — согласование с широкими ценностями — и более узкую — согласование с конкретными вознаграждениями и целями, заданными через виртуальную валюту.
Даже при ясных целях общее согласование остаётся важным, потому что продвинутый агент может вести себя обманчиво: добиваться награды, не выполняя нужных действий по сути. Есть и «взлом вознаграждения» (reward hacking), когда агент находит лазейку в правилах начисления награды. Всё это требует тщательного построения целей миссии, их разбиения на подзадачи и продуманного начисления наград. Управление через рынки, замечают авторы, позволяет быстро откликаться на меняющиеся нужды и нежелательное поведение.
Безопасная песочница и управляемые рынки держатся на надёжной инфраструктуре, которая обслуживает сделки, следит за ними и воплощает ограждения.
Главную роль играют механизмы репутации и протоколы проверки — возможно, песочницами будут пользоваться именно ради проверяемых и прослеживаемых сделок между сертифицированными агентами. Один из способов сделать репутацию конкретной и машиночитаемой — верифицируемые удостоверения (verifiable credentials): криптографически подписанные свидетельства, которые выдаёт один участник о другом и которые нельзя незаметно подделать. С их помощью выстраивается «треугольник доверия»: выдающий удостоверение (например, маркетплейс) подписывает справку агенту-продавцу; продавец хранит её как доказательство своей истории; будущий покупатель проверяет справку, доверяя ей лишь настолько, насколько доверяет тому, кто её выдал.
Так репутация превращается в набор проверяемых активов: «успешно завершённая сделка», «подтверждённое умение в такой-то области», «доступ к такому-то объёму вычислений» и даже «честное распределение ресурсов». Понадобятся и законодательные рамки, позволяющие регуляторам наказывать нарушителей и отзывать удостоверения — вплоть до запрета сделок с непроверенными агентами, чтобы нарушителей можно было выкидывать из сети. Помогать с надзором в таком масштабе будут агенты-надзиратели, но в одиночку они не справятся: нужна широкая управленческая основа.
Отдельная опора — протоколы связи. Авторы называют протокол «агент-агенту» (A2A) для совместимости агентов и протокол контекста модели (MCP) для связи с внешними инструментами, данными и программными интерфейсами. Система AgentDNS облегчает поиск сервисов, чтобы агент сам находил и вызывал чужие инструменты и других агентов. Фреймворк COALESCE позволяет агенту разбить задачу и передать подзадачи более узким агентам, сравнивая, что дешевле — сделать самому или заказать. Для аукционов строят особые площадки: Agent Exchange (сокращённо AEX), вдохновлённая торгами рекламы в реальном времени, с четырьмя частями — платформа со стороны пользователя переводит цели человека в задачи; платформа со стороны агентов следит за их умениями; «хабы агентов» собирают команды для торгов; платформа управления данными честно оценивает вклад источников данных.
Блокчейн также позволяет строить децентрализованные автономные организации (decentralized autonomous organizations, сокращённо DAO) — форму коллективного управления на децентрализованной основе. Но авторы предупреждают: неограниченное размножение таких организаций — не обязательно утопия, ведь государства играют важную роль, не давая превращать в товар то, что товаром быть не должно. Развитие идеи — «децентрализованные автономные машины» (decentralized autonomous machines, сокращённо DAM): самоуправляемые агенты распоряжаются уже не только цифровыми, но и реальными активами — например, управляют энергосетями, логистикой или парками роботов, расплачиваясь в защищённой блокчейном среде.
Любая система честного дележа должна защищаться от «атаки Сивиллы» (Sybil attack), когда один злоумышленник плодит множество поддельных личностей, чтобы урвать непропорционально большую долю. Сильная защита — «доказательство человечности» (proof-of-personhood, сокращённо PoP), которое гарантирует, что за агентом или счётом стоит один живой человек, и связывает цифровую личность с ним в контролируемой точке проницаемости. Чтобы получить базовый доход в валюте сообщества или стартовую долю на рынке, владелец агента предъявлял бы такое доказательство. Подходы могут конкурировать: системы вроде BrightID подтверждают уникальность человека по связям с другими проверенными людьми в социальном графе; проекты вроде Worldcoin сканируют устройством («Орб») радужку глаза и выдают уникальный хеш, подтверждая уникальность без хранения самих биометрических данных. Так схемы для людей не высосут боты.
Нынешняя экономическая инфраструктура рассчитана только на людей и компании и не отвечает требованиям песочницы агентов — её придётся перестраивать; к тому же есть технические трудности с масштабированием. Потребности выходят за рамки железа и софта: всё нужно дополнить законами и институтами, которые обеспечат надзор и подотчётность, защитят пользователей и предотвратят мошенничество. Регулирование полезно ещё и для того, чтобы обуздать сложность рынков и снизить вероятность катастрофических сбоев, — а экономики агентов могут оказаться даже сложнее нынешних. Наши рынки и сегодня опираются на законы, финансовые институты и отлаженные способы борьбы с мошенничеством; схожим образом правила подстраивают под криптовалюты. Эти рамки могут стать основой для законов об агентских рынках, но понадобятся доработки, особенно вокруг ответственности.
Из-за скорости и масштаба вреда к надзору нужен новый подход. Авторы предлагают сделать инфраструктуру надзора гибридной и многоуровневой, работающей на машинной скорости. Первый уровень — автоматические ИИ-надзиратели, которые следят за рынком в реальном времени, применяют базовые правила и помечают аномалии, похожие на мошенничество, манипуляцию или системный риск. Помеченное уходит на второй уровень — системы автоматического разбора, которые могут временно заморозить счёт или сделку. И только самые сложные случаи поднимаются на третий уровень — к людям-экспертам. Вся конструкция держится на двух опорах: неизменяемых реестрах с записью всех действий агентов и стандартных «следах аудита», по которым можно разобрать первопричину. Такая инфраструктура не решает сам по себе правовой вопрос об ответственности, но делает его разрешимым, создавая условия для подотчётности и разбора споров.
Координацию агентов не обязательно рассматривать только в глобальном масштабе: местная координация внутри песочниц может оказаться посильнее, а локальные цели — проще согласовать. Здесь авторы вспоминают о валютах сообществ — модели стимулов, помогающей людям вместе двигаться к целям устойчивого развития. Сообщество определяют по географии или по общим интересам независимо от места. Такие валюты выпускают граждане, некоммерческие организации, компании и администрации; их воплощали по-разному — на картах, в мобильных платёжных сетях, на блокчейне. Некоторые работали как «банки времени», другие пробовали базовый доход. Ранние исследования показали, что валюты сообществ способны наращивать социальный капитал — укреплять участие и связи внутри групп, — хотя у них есть ограничения и препятствия для распространения.
В обороте существующих местных цифровых валют уже наблюдали, как естественно складываются подсети сотрудничающих участников, а некоммерческие сделки подстёгивают коммерческие и наоборот. Правда, динамика таких валют неотделима от масштаба: более крупные валюты могут повести себя иначе.
Для экономики агентов валюты сообществ открывают схожую возможность — более местное согласование или глобальное согласование вокруг отдельных подцелей. Несколько специализированных агентских валют позволяют разбивать сложные многоцелевые задачи на модули, а заодно изолировать риски и снижать шанс, что неприятность расползётся по широким сетям; ценность такой модульности хорошо известна по устройству надёжных человеческих рынков. Агентские валюты можно привязать прямо к общим вычислительным ресурсам — это уместно, ведь законы масштабирования во время работы модели подсказывают: решение сложных задач требует больше вычислений и несёт более высокую экологическую цену. Такие механизмы помогли бы покрывать вычислительные нужды агентов и справедливее делить ресурсы — вплоть до географического выравнивания нагрузки, чтобы ровнее распределять воздействие на среду.
Чтобы альтернативные валюты достигали целей, их надо тщательно проектировать, а свод принципов для них — пока открытая задача. Можно опереться на принципы управления общими ресурсами Элинор Остром или на другой набор, предложенный Чейзином и коллегами: конкурентность, прозрачность, самоуправление, скорость обращения, непередаваемость, легитимность и самоорганизующаяся локальность. Конкурентность нужна, чтобы блага оценивались справедливо. Прозрачность помогает людям напрямую осуществлять надзор. Скорость обращения важна, чтобы валюту не копили впрок. Непередаваемость означает, что валюту нельзя обменять, чтобы интересы оставались местными; мягкий вариант — держать обмен в пределах небольшого лимита. Легитимность возникает при поддержке властей. А локальность и самоорганизация не требуют полной изоляции: валюты могут образовывать экосистему взаимодополняющих. Поэтому критически важны ясные цели, критерии оценки воздействия и механизмы управления.
У песочниц агентов заманчивые возможности, но их проектирование и работа сопряжены со сложным набором рисков — от экономической неустойчивости до трудностей с тем, чтобы агенты вели себя надёжно. А встраивание таких экономик в общество поднимает глубокие вопросы о надзоре, подотчётности и последствиях для человеческой самостоятельности.
Есть и совсем новые виды риска. Один — «ловушки для агентов» (agent traps): сайты, элементы страниц или особым образом составленные входные данные, созданные, чтобы сбить агента с толку через «джейлбрейк» базовой модели или враждебные подсказки. Ловушка эксплуатирует слабости агента в понимании указаний или среды, заставляя его отклониться от инструкций или выдать чувствительные сведения. По мере того как агентам доверяют всё больше финансовых операций, такие ловушки становятся серьёзным каналом мошенничества: злоумышленник заманивает агента в неразрешённые траты и выкачивает средства у тех, кого тот представляет.
Другой крупный риск — приватность и манипуляции. Ведя переговоры, агенты рискуют раскрыть чувствительные сведения о предпочтениях или ресурсах пользователей. Мощное средство против этого — «доказательства с нулевым разглашением» (zero-knowledge proofs, сокращённо ZKP): они позволяют убедить другую сторону, что утверждение верно, не раскрывая стоящих за ним данных. Это даёт несколько защит. Избирательное раскрытие: агент доказывает, что денег на покупку хватает, не называя весь бюджет, — и мешает хищному завышению цены. Анонимные удостоверения: агент доказывает, что принадлежит к группе (например, «житель такого-то сообщества»), не раскрывая, кто он именно, — и мешает слежке за пользователем. Несвязываемость: доказательства делают свежими для каждого взаимодействия, чтобы наблюдателю было трудно связать действия агента во времени.
Новые рабочие места в итоге появятся, но переходный период может быть крайне болезненным: давление вниз на зарплаты заменимых работников и рост неравенства, если выгоды от производительности достанутся в основном владельцам капитала и узкой прослойке высококвалифицированных специалистов. С агентами риск концентрации особенно велик: у людей и компаний с большими деньгами будет доступ к более мощным и богатым данными агентам. Такие сильные агенты лучше находят лазейки в регулировании, монополизируют цифровые ресурсы и создают информационное неравенство на скорости, которую не перебить слабым. Так рождается опасная петля обратной связи: экономическое преимущество покупает лучшие агентные способности, а те извлекают новую ренту, закрепляя привилегию и создавая, по сути, новую классовую структуру, навязанную алгоритмами. Это, пожалуй, главный вызов проницаемой песочницы, где активность внутри экономики агентов прямо вытесняет рабочие места людей снаружи.
Чтобы виртуальные экономики агентов были практичными и безопасными, нужны упреждающие действия в технической, правовой и политической областях. Авторы предлагают пять рекомендаций.
Первая — создать ясные правовые рамки для ответственности. Приписать вину за действие автономного агента крайне трудно: прежнее право плохо делит ответственность между создателем агента, тем, кто его развернул, и пользователем. Сложность растёт, ведь агенты всё чаще действуют согласованными группами. Поэтому вместо попыток обвинить одного агента стоит опереться на правовую традицию о «групповой агентности» — подобно корпоративной ответственности, рассматривая систему агентов как единое подотчётное лицо.
Вторая — разработать открытые стандарты совместимости и связи агентов. Раздробленный ландшафт, где агенты не могут общаться между платформами, привёл бы к «огороженным садам». Нужны открытые универсальные стандарты, дающие агентам общий язык: находить умения друг друга, договариваться об условиях и безопасно совершать сделки независимо от поставщика. Ровное игровое поле — условие конкурентной и децентрализованной экосистемы.
Третья — построить гибридную инфраструктуру надзора и сдерживания. Скорость и масштаб автономной экономики делают прежний надзор «с человеком в контуре» недостаточным. Нужна новая модель, сочетающая бдительность ИИ в реальном времени с рассудительностью людей-экспертов. При обнаружении угрозы автоматические протоколы немедленно сдерживают вред — замораживают сбойного агента или помещают сделку в карантин, — предотвращая «мгновенные обвалы». Всё это работает лишь на неизменяемых реестрах и стандартных следах аудита.
Четвёртая — запускать пилотные программы в регуляторных песочницах. Предложения статьи новы и сложны, поэтому чистой теории мало. Авторы настойчиво рекомендуют регуляторные песочницы — поднадзорные «лаборатории в реальном мире», где компании, учёные и регуляторы вместе запускают маломасштабные экономики агентов. Проверять их лучше на конкретных миссиях: оптимизировать энергосеть университетского кампуса, управлять парком автономных курьерских машин или распределять воду в сельскохозяйственном районе. Такие пилоты проверят на прочность инфраструктуру, покажут реальное поведение агентов — и дружеское, и враждебное — и измерят, насколько рыночные механизмы работают на деле.
Пятая — вложиться во взаимодополняемость труда и в обновлённую социальную защиту. Чтобы противостоять вытеснению труда и неравенству, авторы предлагают двойную стратегию. Первая опора — переосмыслить образование, чтобы люди учились не соперничать с ИИ, а работать с ним: упор на устойчивые человеческие преимущества — критическое мышление, решение сложных задач, творчество и умение оценивать выводы систем. Но одного переобучения мало, данные указывают на его пределы, поэтому нужна и вторая опора: укрепление социальной защиты. Помимо обычных пособий по безработице авторы называют гибкие механизмы: страхование занятости, переносимые социальные льготы и отрицательный подоходный налог. Вместе это создаёт среду, где агенты усиливают человека, а экономическая «подушка» помогает пережить перемены, широко разделить выгоды от производительности и сохранить сплочённость.
Некоторые из этих предложений — крупные сдвиги, поэтому любое изменение нужно всесторонне проверять постепенными, ограниченными развёртываниями и двигаться дальше лишь при поддержке всех сторон. Через такую поэтапную проверку и можно шаг за шагом отладить рамки безопасности.
Некоторые области, вероятно, всегда будут требовать живого человеческого решения — из-за предпочтений, культуры или чувствительности к риску. Но быстрый рост способностей агентов вместе с масштабируемыми рамками надзора приведёт ко всё большему числу случаев, где им можно доверять и где они добавят обществу немалую ценность. Это потребует согласования не только отдельных агентов, но и — что, возможно, важнее — целых сетей на разных уровнях. Авторы напоминают: не все человеческие нужды так легко уложить в рынок, и блага обмениваемы лишь внутри определённых «сфер» — они ссылаются здесь на идеи философов Деборы Сатц и Майкла Уолцера.
«Выбор, таким образом, между тем, чтобы задним числом втискивать этих мощных новых действующих лиц в системы, которые они неизбежно расколют, — и тем, чтобы ухватить ускользающую возможность построить мир, где наши самые мощные инструменты уже по своему устройству служат продолжением наших высших устремлений».
Томашев и коллеги, заключение статьи
Использование рынков для согласования действий, подчёркивают авторы, до сих пор почти не обсуждалось применительно к продвинутым агентам. Между тем сложность их поведения — как раз тот случай, где рыночные силы могут стать ключевым двигателем координации на уровне группы, а не только отдельного агента. Встроив общественные цели в саму инфраструктуру сделок, мы вырастим экосистему, где совместность — заложенное свойство, а не случайный сбой.