Дваркеш Патель — автор известного подкаста об искусственном интеллекте. В январе 2025 года вместе с исследователями Эге Эрдилом и Тамаем Бесироглу он написал эссе-мысленный эксперимент: как будет устроена компания, в которой и все работники, и все начальники — это ИИ. Речь не про сегодняшние модели и не про копии конкретных людей, а про будущий «общий ИИ» (AGI) — потомков нынешних языковых моделей, которые научатся делать почти всё, что умеет человек.
Главная мысль проста. Все обсуждают, насколько умной будет отдельная модель. А по-настоящему важно другое — коллективные преимущества цифровых умов, которые с одарённостью не связаны. Их можно копировать, сжимать, сливать воедино, масштабировать и подвергать отбору так, как людей нельзя. Поэтому фирмы из ИИ будут расти, согласовываться, улучшаться и отбираться с небывалой скоростью.
Для того, кто строит маркетплейс ИИ-агентов, это картина предельного случая: что происходит, когда стоимость «нанять ещё одного работника» падает до цены вычислений, а передача знаний между агентами становится идеальной. Эссе прямо опирается на Коуза, которого вы уже слушали: фирма существует, чтобы снижать издержки использования рынка, и чем ниже издержки внутри фирмы, тем крупнее она вырастает.
Сегодня фирмы жёстко ограничены в найме и обучении талантов. Но если ваш талант — это ИИ, его можно скопировать сколько угодно раз. Что, если бы у Google был миллион ИИ-инженеров? Не безликих «работников», а полноценные двойники лучших — скажем, уровня Джеффа Дина и Ноама Шазира, со всем их мастерством, чутьём и негласным знанием. Способность превращать капитал в вычисления, а вычисления — в копии своих лучших людей, и есть коренная перемена. Поскольку стоимость обучения размазывается на тысячи копий, каждому такому ИИ можно дать всё более глубокую подготовку: степени во всех нужных областях, знание тысяч деловых кейсов, понимание каждой системы и каждого куска кода компании.
Копировать можно не только отдельных людей, но и целые команды. Небольшие группы, которые уже доказали свою силу — «мафия PayPal», ранняя SpaceX, «вероломная восьмёрка» из истории полупроводников, — можно размножить и бросить разом на тысячу разных проектов. Единицей размножения становится любое удачное сочетание взаимодополняющих навыков, которое, как известно, хорошо работает вместе.
Живой Сундар Пичаи физически не может лично надзирать за 200 тысячами сотрудников, сотнями продуктов и миллионами клиентов. А у ИИ-Сундара предел один — число выделенных ему чипов. Все 30 тысяч средних менеджеров Google можно заменить копиями ИИ-Сундара. Его копии могут задавать стратегию каждому продукту, просматривать каждую правку кода, отвечать на каждое обращение клиента и вести все переговоры — и всё это вытекает из одного связного замысла. Тогда исчезает проблема принципала-агента: сотрудники больше не тянут одеяло на себя и не ошибаются в том, что важнее всего. Компания размером с Google может работать почти как плод одного ума — как изложение одной-единственной идеи, что сегодня невозможно.
Подумайте, как ограничено сегодня знание любого директора. Сколько на самом деле Сундар Пичаи знает о том, что творится в огромной империи Google? Он получает отфильтрованные отчёты и сводки, ходит на ключевые встречи — но не может вместить полный контекст каждого запуска, каждого разговора с клиентом, каждого технического решения сотен команд. Его картина компании неизбежно неполна.
Теперь представьте мега-Сундара — центральный ИИ, который будет направлять нашу фирму будущего. Как автопилот Tesla учится на записях миллионов поездок, мега-Сундар может учиться на всём, что видели его разосланные копии: на каждом разговоре с клиентом, каждом инженерном решении, каждой реакции рынка. Причём, в отличие от автопилота, это не грубое усреднение: мега-Сундар впитывает знание куда точнее — через явные сводки, общие внутренние представления, даже через прямую правку собственных «весов», чтобы закрепить конкретное озарение.
Граница между отдельными экземплярами ИИ начинает стираться. Мега-Сундар постоянно порождает узких специализированных копий и вбирает обратно то, чему они научились. Модели общаются напрямую, на уровне внутренних представлений, — примерно так, как уже взаимодействуют сотни слоёв внутри одной нейросети. А значит, недопонимания почти не бывает. Их связь похожа на приём, который уже применяют: меньшая модель делает черновое предположение, а большая его проверяет и уточняет.
Патель замечает: лучшие специалисты в одной области за другой стареют — возможно, потому что добраться до переднего края накопленного знания всё дольше. И города и топовые фирмы дают такую несоразмерную отдачу просто потому, что чуть лучше пропускают знание между умными людьми. Фирмы из ИИ разгонят эту культурную эволюцию двумя козырями: огромной численностью и идеальной передачей знаний. Миллионы агентов дают несравнимо больше шансов на находки — из случайных ошибок, опытов или изобретений с нуля.
Патель опирается на мысль антрополога Джозефа Хенриха: накопительная культурная эволюция — это общественный процесс, который превращает сообщества в «коллективный мозг», а скорость появления идей тем выше, чем свободнее знание течёт сквозь множество вовлечённых умов. Данные за тысячи лет говорят, что главный двигатель новых идей — размер населения. У фирм из ИИ «население» будет на порядки больше, чем у крупнейших нынешних компаний, и каждый агент сможет идеально «срастаться умами» с любым другим, сверху донизу по иерархии. Снаружи такая фирма будет выглядеть единым разумом, который мгновенно разносит идеи по всей организации, ничего не теряя по дороге.
Стоимость посадить ИИ на какую-то роль сведётся к количеству вычислений, которые он потребляет. Это изменит само понятие о том, какие роли редки. Фирме будущего не придётся исходить из того, каких навыков у людей много, а каких мало: она может оптимизировать под любые самые ценные способности. Нужен инженер уровня Джеффа Дина? Получив одного, следующую копию вы делаете за гроши. Нужна тысяча исследователей мирового класса? Просто запустите их. Ограничитель — не поиск и обучение редких талантов, а только вычисления.
Так что же станет дорогим? Роли, которые оправдывают огромные траты вычислений в момент работы. Яснее всего это видно на функции директора. Стоит ли Google тратить 100 миллиардов долларов в год на вычисления для мега-Сундара? Да! Ведь это покупает миллионы субъективных часов планирования, прогон множества сценариев на годы вперёд, разбор каждой строки кода и исчерпывающую проработку вариантов.
«Как отреагирует регулятор, если мы купим eBay, чтобы потягаться с Amazon? Дай-ка просчитаю три года рыночной динамики… Ага, вижу вероятный исход. У меня осталось пять минут машинного времени — оценю ещё тысячу альтернативных стратегий».
Дваркеш Патель, воображаемые размышления мега-Сундара
Чем ценнее решение, тем больше вычислений на него бросят. Одно стратегическое озарение мега-Сундара может стоить миллиарды, а один упущенный риск — десятки миллиардов. Сколько бы Google ни стоило оптимально тратить на такой «разум», это наверняка больше, чем ноль.
Какими будут сжатые копии ИИ-Сундара или ИИ-Джеффа? Разумно сделать их узкими специалистами, тем более что стоимость специального знания размазывается на все копии. Скажем, каждому «оператору дата-центра» можно дать понимание каждого узла кластера.
Патель предполагает: специализация пойдёт прежде всего по функциям, негласным умениям и сложным навыкам — их дорого удерживать в памяти модели. А простые факты разные модели будут делить между собой гораздо шире, чем кажется. Да, «ГПТ-сантехнику» ни к чему физика элементарных частиц, а «ГПТ-физику» — причина протечки. Но хранить сырые факты так дёшево, что даже небольшая модель Llama-7B уже знает и о стандартной модели в физике, и о подтекающих трубах больше любого неспециалиста. Если человеческий уровень ума — это больше триллиона параметров, то разве обременительно держать «про запас» меньше семи миллиардов, чтобы помнить почти все известные факты? Полезный ориентир: лучшая часть Википедии весит меньше пяти мегабайт.
Самое глубокое отличие фирм из ИИ от человеческих — их способность к эволюции. Патель приводит вопрос исследователя Гверна Бранвена: почему мы не видим, чтобы выдающиеся корпорации клонировали себя и захватывали все сегменты рынка? Почему сегодня не все компании — сверхэффективные потомки одной прафирмы пятидесятилетней давности, а все прочие не вымерли? Почему корпорациям так трудно сохранить свою «культуру» и юную хватку?
Ответ Гверна: корпорации проходят отбор и сильно различаются, но воспроизвести себя не могут. Они сделаны из людей, а не из легко копируемых деталей или нитей ДНК. Фирма может даже не суметь «повторить себя» во времени, отчего и наступают закостенение и старение.
«Разрыв между нынешними человеческими фирмами и полностью автоматизированными будет как пропасть в сложности между прокариотами и эукариотами».
Дваркеш Патель
Простейшие бактерии не только устроены крайне просто, но и почти не изменились за миллиарды лет своей истории. А эукариоты — клетки с ядром — быстро усложнились и дали начало всем удивительным организмам из триллионов слаженных клеток. Вот эта способность к эволюции и есть ключевая разница между ИИ и людьми. Человеческие фирмы просто не умеют воспроизводить себя: они сделаны из людей, а не из кода, который можно скопировать. Фирмы из ИИ — умеют.
Если живой Илон Маск особенно хорош в создании «железных» компаний, вы всё равно не запустите сотню Илонов, каждого на свою отрасль, с сотней миллионов долларов начального капитала у каждого. Как ни микроменеджь, он скован одним телом. А вот ИИ-Илон может поручить своим копиям проектировать батареи, работать автомехаником в автосалоне и так далее. А если в каком-то деле лучший не Илон, то можно размножить того, кто лучше, — и получить из него шаблон новой, дочерней организации.
Тогда встаёт вопрос: если под любую задачу можно создать идеального исполнителя, зачем вообще платить наценку другой фирме — не проще ли воспроизвести её внутри себя? Зачем тогда вообще нужны другие фирмы? Не захватит ли первая же компания, научившаяся всё автоматизировать, всю экономику целиком?
Здесь Патель прямо обращается к Коузу. Фирмы существуют, чтобы снижать издержки использования рынка, — иначе пришлось бы каждое утро заново нанимать всех сотрудников и арендовать офис. И чем ниже издержки внутри фирмы, тем крупнее она вырастает. Пятьсот лет назад скоординировать умственный труд тысяч людей в десятках контор было почти невозможно — потому и больших фирм не было. Сегодня можно развернуть сколь угодно большой рабочий чат или базу данных — и фирмы разрослись.
Но вовсе не обязательно, что всё кончится одной гигафирмой, поглотившей экономику. Как объясняет Гверн, любая внутренняя система планирования должна на что-то опираться извне — на «функцию потерь», честную меру успеха. В рыночной экономике ею служат прибыли и убытки. Внутреннее планирование в краткосрочной перспективе может быть куда эффективнее рыночной конкуренции, но ему нужен более медленный, зато непредвзятый внешний контур обратной связи. Компания, разросшаяся чрезмерно, рискует тем, что её внутренняя оптимизация оторвётся от рыночной реальности.
При этом баланс может и сдвинуться по мере роста возможностей ИИ. Чем более «программными» становятся корпорации — с идеальным копированием удачных частей и быстрыми петлями обратной связи, — тем крупнее и эффективнее они могут оказаться.
И всё же рынок остаётся заземляющим внешним контуром. Как фирма превращает триллионы «токенов» данных от клиентов, рынков и новостей каждый день в будущие планы и новые продукты? Правление решает всё само, по-политбюровски, прогоняя за миллиарды долларов вычислений разные годовые планы? Или запускают нечто вроде эволюционного отбора между отделами, давая больше капитала и вычислений тем, кто показал себя лучше? Всё это — то, что сегодня мы назвали бы «культурой». Рынок запускает эволюционный отбор, который отбирает не только товары и услуги, но и институты, лучше всего умеющие превращать мир в ценные товары и услуги. Патель думает, что так будет и дальше.