Как будут выглядеть полностью автоматизированные фирмы Дваркеш Патель О чём эта статья Дваркеш Патель — автор известного подкаста об искусственном интеллекте. В январе 2025 года вместе с исследователями Эге Эрдилом и Тамаем Бесироглу он написал эссе-мысленный эксперимент: как будет устроена компания, в которой и все работники, и все начальники — это ИИ. Речь не про сегодняшние модели и не про копии конкретных людей, а про будущий «общий ИИ» (AGI) — потомков нынешних языковых моделей, которые научатся делать почти всё, что умеет человек. Главная мысль проста. Все обсуждают, насколько умной будет отдельная модель. А по-настоящему важно другое — коллективные преимущества цифровых умов, которые с одарённостью не связаны. Их можно копировать, сжимать, сливать воедино, масштабировать и подвергать отбору так, как людей нельзя. Поэтому фирмы из ИИ будут расти, согласовываться, улучшаться и отбираться с небывалой скоростью. Для того, кто строит маркетплейс ИИ-агентов, это картина предельного случая: что происходит, когда стоимость «нанять ещё одного работника» падает до цены вычислений, а передача знаний между агентами становится идеальной. Эссе прямо опирается на Коуза, которого вы уже слушали: фирма существует, чтобы снижать издержки использования рынка, и чем ниже издержки внутри фирмы, тем крупнее она вырастает. AGI (общий ИИ). Гипотетический ИИ, способный делать практически любую работу не хуже человека. По-английски — artificial general intelligence. В эссе речь именно о нём, а не о сегодняшних моделях. Копирование. Главное преимущество цифрового ума: удачного работника или целую команду можно размножить в любом числе почти бесплатно. Людей так не скопируешь. Дистилляция. Сжатие большой модели в меньшую, узкую копию, которая дёшево работает, сохраняя нужные умения (distillation). В эссе — способ плодить специалистов из «главного» ИИ. Слияние. Обратный ход: знания, накопленные множеством копий, собираются обратно в одну модель (merge). У людей так не выходит — мозг нельзя скопировать. Внешний контур обратной связи. Медленная, но честная проверка успеха извне. Для рынка это прибыли и убытки: они не дают внутреннему планированию оторваться от реальности. Проблема принципала-агента. Когда работник преследует свои цели, а не цели компании, или просто не понимает, что важнее. Копии одного ИИ эту проблему почти снимают. Оговорка автора. Патель помечает жанр эссе словами «рассуждаем вслух» и прямо оценивает: он примерно на четверть уверен. , что фирмы из ИИ будут работать примерно так. Дальше — не прогноз, а попытка представить мир, где общий ИИ уже есть. 1 Копирование: труд и управление Сегодня фирмы жёстко ограничены в найме и обучении талантов. Но если ваш талант — это ИИ, его можно скопировать сколько угодно раз. Что, если бы у Google был миллион ИИ-инженеров? Не безликих «работников», а полноценные двойники лучших — скажем, уровня Джеффа Дина и Ноама Шазира, со всем их мастерством, чутьём и негласным знанием. Способность превращать капитал в вычисления, а вычисления — в копии своих лучших людей, и есть коренная перемена. Поскольку стоимость обучения размазывается на тысячи копий, каждому такому ИИ можно дать всё более глубокую подготовку: степени во всех нужных областях, знание тысяч деловых кейсов, понимание каждой системы и каждого куска кода компании. Копировать можно не только отдельных людей, но и целые команды. Небольшие группы, которые уже доказали свою силу — «мафия PayPal», ранняя SpaceX, «вероломная восьмёрка» из истории полупроводников, — можно размножить и бросить разом на тысячу разных проектов. Единицей размножения становится любое удачное сочетание взаимодополняющих навыков, которое, как известно, хорошо работает вместе. Ключевая мысль. Копирование изменит управление даже сильнее, чем труд. Оно откроет такую степень микроменеджмента, рядом с которой нынешний «режим основателя» покажется детской забавой. Живой Сундар Пичаи физически не может лично надзирать за 200 тысячами сотрудников, сотнями продуктов и миллионами клиентов. А у ИИ-Сундара предел один — число выделенных ему чипов. Все 30 тысяч средних менеджеров Google можно заменить копиями ИИ-Сундара. Его копии могут задавать стратегию каждому продукту, просматривать каждую правку кода, отвечать на каждое обращение клиента и вести все переговоры — и всё это вытекает из одного связного замысла. Тогда исчезает проблема принципала-агента: сотрудники больше не тянут одеяло на себя и не ошибаются в том, что важнее всего. Компания размером с Google может работать почти как плод одного ума — как изложение одной-единственной идеи, что сегодня невозможно. Два примечания автора. Во-первых, одна проблема принципала-агента всё же обостряется: между «работниками-директорами» (которые вдруг знают всё) и внешними акционерами (которые знают примерно столько же, сколько знали, то есть почти ничего). Во-вторых, раз труд легко копировать и запускать, ценность интеллектуальной собственности вырастает. Суть фирмы сводится к ней: конкурент может переманить или клонировать инженеров, но без прямой кражи он не получит обученную модель и миллионы часов данных, на которых её учили. Когда таланты перестают быть преградой для соперников, преградой становятся отраслевое знание и данные. 2 Слияние: идеальная передача знаний Подумайте, как ограничено сегодня знание любого директора. Сколько на самом деле Сундар Пичаи знает о том, что творится в огромной империи Google? Он получает отфильтрованные отчёты и сводки, ходит на ключевые встречи — но не может вместить полный контекст каждого запуска, каждого разговора с клиентом, каждого технического решения сотен команд. Его картина компании неизбежно неполна. Теперь представьте мега-Сундара — центральный ИИ, который будет направлять нашу фирму будущего. Как автопилот Tesla учится на записях миллионов поездок, мега-Сундар может учиться на всём, что видели его разосланные копии: на каждом разговоре с клиентом, каждом инженерном решении, каждой реакции рынка. Причём, в отличие от автопилота, это не грубое усреднение: мега-Сундар впитывает знание куда точнее — через явные сводки, общие внутренние представления, даже через прямую правку собственных «весов», чтобы закрепить конкретное озарение. Граница между отдельными экземплярами ИИ начинает стираться. Мега-Сундар постоянно порождает узких специализированных копий и вбирает обратно то, чему они научились. Модели общаются напрямую, на уровне внутренних представлений, — примерно так, как уже взаимодействуют сотни слоёв внутри одной нейросети. А значит, недопонимания почти не бывает. Их связь похожа на приём, который уже применяют: меньшая модель делает черновое предположение, а большая его проверяет и уточняет. Ключевая мысль. Слияние — это скачок в том, как организация копит и применяет знание. Великое преимущество людей было в социальном обучении, передаче опыта из поколения в поколение. Но у него страшный изъян: мозг нельзя скопировать, поэтому человека приходится учить годами, а то и десятилетиями. Патель замечает: лучшие специалисты в одной области за другой стареют — возможно, потому что добраться до переднего края накопленного знания всё дольше. И города и топовые фирмы дают такую несоразмерную отдачу просто потому, что чуть лучше пропускают знание между умными людьми. Фирмы из ИИ разгонят эту культурную эволюцию двумя козырями: огромной численностью и идеальной передачей знаний. Миллионы агентов дают несравнимо больше шансов на находки — из случайных ошибок, опытов или изобретений с нуля. Патель опирается на мысль антрополога Джозефа Хенриха: накопительная культурная эволюция — это общественный процесс, который превращает сообщества в «коллективный мозг», а скорость появления идей тем выше, чем свободнее знание течёт сквозь множество вовлечённых умов. Данные за тысячи лет говорят, что главный двигатель новых идей — размер населения. У фирм из ИИ «население» будет на порядки больше, чем у крупнейших нынешних компаний, и каждый агент сможет идеально «срастаться умами» с любым другим, сверху донизу по иерархии. Снаружи такая фирма будет выглядеть единым разумом, который мгновенно разносит идеи по всей организации, ничего не теряя по дороге. 3 Масштаб: что станет дорогим Стоимость посадить ИИ на какую-то роль сведётся к количеству вычислений, которые он потребляет. Это изменит само понятие о том, какие роли редки. Фирме будущего не придётся исходить из того, каких навыков у людей много, а каких мало: она может оптимизировать под любые самые ценные способности. Нужен инженер уровня Джеффа Дина? Получив одного, следующую копию вы делаете за гроши. Нужна тысяча исследователей мирового класса? Просто запустите их. Ограничитель — не поиск и обучение редких талантов, а только вычисления. Так что же станет дорогим? Роли, которые оправдывают огромные траты вычислений в момент работы. Яснее всего это видно на функции директора. Стоит ли Google тратить 100 миллиардов долларов в год на вычисления для мега-Сундара? Да! Ведь это покупает миллионы субъективных часов планирования, прогон множества сценариев на годы вперёд, разбор каждой строки кода и исчерпывающую проработку вариантов. «Как отреагирует регулятор, если мы купим eBay, чтобы потягаться с Amazon? Дай-ка просчитаю три года рыночной динамики… Ага, вижу вероятный исход. У меня осталось пять минут машинного времени — оценю ещё тысячу альтернативных стратегий». Чем ценнее решение, тем больше вычислений на него бросят. Одно стратегическое озарение мега-Сундара может стоить миллиарды, а один упущенный риск — десятки миллиардов. Сколько бы Google ни стоило оптимально тратить на такой «разум», это наверняка больше, чем ноль. 4 Дистилляция: армия узких специалистов Какими будут сжатые копии ИИ-Сундара или ИИ-Джеффа? Разумно сделать их узкими специалистами, тем более что стоимость специального знания размазывается на все копии. Скажем, каждому «оператору дата-центра» можно дать понимание каждого узла кластера. Патель предполагает: специализация пойдёт прежде всего по функциям, негласным умениям и сложным навыкам — их дорого удерживать в памяти модели. А простые факты разные модели будут делить между собой гораздо шире, чем кажется. Да, «ГПТ-сантехнику» ни к чему физика элементарных частиц, а «ГПТ-физику» — причина протечки. Но хранить сырые факты так дёшево, что даже небольшая модель Llama-7B уже знает и о стандартной модели в физике, и о подтекающих трубах больше любого неспециалиста. Если человеческий уровень ума — это больше триллиона параметров, то разве обременительно держать «про запас» меньше семи миллиардов, чтобы помнить почти все известные факты? Полезный ориентир: лучшая часть Википедии весит меньше пяти мегабайт. Биологическая аналогия автора. Каждая клетка тела хранит все 3 гигабайта вашей ДНК, хотя в любой конкретной клетке работает лишь 10–20 процентов кодирующих белок участков, а кодируют белок всего около 1 процента ДНК. Хранить информацию настолько дёшево, что отбор почти не борется с такой избыточностью. 5 Эволюция: главное отличие от людей Самое глубокое отличие фирм из ИИ от человеческих — их способность к эволюции. Патель приводит вопрос исследователя Гверна Бранвена: почему мы не видим, чтобы выдающиеся корпорации клонировали себя и захватывали все сегменты рынка? Почему сегодня не все компании — сверхэффективные потомки одной прафирмы пятидесятилетней давности, а все прочие не вымерли? Почему корпорациям так трудно сохранить свою «культуру» и юную хватку? Ответ Гверна: корпорации проходят отбор и сильно различаются, но воспроизвести себя не могут. Они сделаны из людей, а не из легко копируемых деталей или нитей ДНК. Фирма может даже не суметь «повторить себя» во времени, отчего и наступают закостенение и старение. «Разрыв между нынешними человеческими фирмами и полностью автоматизированными будет как пропасть в сложности между прокариотами и эукариотами». Простейшие бактерии не только устроены крайне просто, но и почти не изменились за миллиарды лет своей истории. А эукариоты — клетки с ядром — быстро усложнились и дали начало всем удивительным организмам из триллионов слаженных клеток. Вот эта способность к эволюции и есть ключевая разница между ИИ и людьми. Человеческие фирмы просто не умеют воспроизводить себя: они сделаны из людей, а не из кода, который можно скопировать. Фирмы из ИИ — умеют. Если живой Илон Маск особенно хорош в создании «железных» компаний, вы всё равно не запустите сотню Илонов, каждого на свою отрасль, с сотней миллионов долларов начального капитала у каждого. Как ни микроменеджь, он скован одним телом. А вот ИИ-Илон может поручить своим копиям проектировать батареи, работать автомехаником в автосалоне и так далее. А если в каком-то деле лучший не Илон, то можно размножить того, кто лучше, — и получить из него шаблон новой, дочерней организации. Примечание автора. Исследование Блума и коллег показало: обучение менеджменту поднимает производительность фирм примерно на 17 процентов. У фирм из ИИ такое улучшение может быть мгновенным и доступным сразу всем копиям — вроде «горизонтального переноса генов» у бактерий, а не привилегией одной обученной группы. 6 Захват: одна гигафирма или всё же рынок? Тогда встаёт вопрос: если под любую задачу можно создать идеального исполнителя, зачем вообще платить наценку другой фирме — не проще ли воспроизвести её внутри себя? Зачем тогда вообще нужны другие фирмы? Не захватит ли первая же компания, научившаяся всё автоматизировать, всю экономику целиком? Здесь Патель прямо обращается к Коузу. Фирмы существуют, чтобы снижать издержки использования рынка, — иначе пришлось бы каждое утро заново нанимать всех сотрудников и арендовать офис. И чем ниже издержки внутри фирмы, тем крупнее она вырастает. Пятьсот лет назад скоординировать умственный труд тысяч людей в десятках контор было почти невозможно — потому и больших фирм не было. Сегодня можно развернуть сколь угодно большой рабочий чат или базу данных — и фирмы разрослись. Ключевая мысль. Фирмы из ИИ снизят внутренние издержки несопоставимо сильнее: трудно превзойти по эффективности связи «выстрел» внутренними представлениями в точную копию себя. Поэтому фирмы, скорее всего, станут гораздо крупнее нынешних. Но вовсе не обязательно, что всё кончится одной гигафирмой, поглотившей экономику. Как объясняет Гверн, любая внутренняя система планирования должна на что-то опираться извне — на «функцию потерь», честную меру успеха. В рыночной экономике ею служат прибыли и убытки. Внутреннее планирование в краткосрочной перспективе может быть куда эффективнее рыночной конкуренции, но ему нужен более медленный, зато непредвзятый внешний контур обратной связи. Компания, разросшаяся чрезмерно, рискует тем, что её внутренняя оптимизация оторвётся от рыночной реальности. При этом баланс может и сдвинуться по мере роста возможностей ИИ. Чем более «программными» становятся корпорации — с идеальным копированием удачных частей и быстрыми петлями обратной связи, — тем крупнее и эффективнее они могут оказаться. И всё же рынок остаётся заземляющим внешним контуром. Как фирма превращает триллионы «токенов» данных от клиентов, рынков и новостей каждый день в будущие планы и новые продукты? Правление решает всё само, по-политбюровски, прогоняя за миллиарды долларов вычислений разные годовые планы? Или запускают нечто вроде эволюционного отбора между отделами, давая больше капитала и вычислений тем, кто показал себя лучше? Всё это — то, что сегодня мы назвали бы «культурой». Рынок запускает эволюционный отбор, который отбирает не только товары и услуги, но и институты, лучше всего умеющие превращать мир в ценные товары и услуги. Патель думает, что так будет и дальше. Итоги Главные выводы Решают не одарённость отдельной модели, а коллективные преимущества цифровых умов: их можно копировать, дистиллировать, сливать, масштабировать и отбирать так, как людей нельзя. Копирование превращает капитал в вычисления, а вычисления — в копии лучших людей и целых проверенных команд, с размазанной на тысячи копий стоимостью обучения. Управление меняется сильнее труда: копии одного «директора» снимают проблему принципала-агента, и компания работает почти как плод одного ума. Слияние даёт идеальную передачу знаний: множество копий учатся по отдельности, а их опыт вбирается обратно в центральную модель — организация становится единым разумом. Дешёвой становится рабочая сила, дорогими — решения, оправдывающие огромные вычисления в момент работы; ярче всего это видно на функции директора. Главное отличие — способность к эволюции: человеческие фирмы не умеют воспроизводить себя, потому что сделаны из людей, а фирмы из ИИ — умеют. По Коузу, более низкие внутренние издержки делают фирмы крупнее, но единая гигафирма не предрешена: внутреннему планированию нужен внешний контур — прибыли и убытки рынка, который и дальше будет отбирать лучшие институты.