Дваркеш Пател — автор відомого подкасту про штучний інтелект. У січні 2025 року разом із дослідниками Еге Ердилом і Тамаєм Бесіроглу він написав есей-уявний експеримент: як буде влаштована компанія, у якій і всі працівники, і всі начальники — це ШІ. Ідеться не про сьогоднішні моделі й не про копії конкретних людей, а про майбутній «загальний ШІ» (AGI) — нащадків нинішніх мовних моделей, які навчаться робити майже все, що вміє людина.
Головна думка проста. Усі обговорюють, наскільки розумною буде окрема модель. А по-справжньому важливе інше — колективні переваги цифрових умів, які з обдарованістю не пов’язані. Їх можна копіювати, стискати, зливати воєдино, масштабувати й піддавати добору так, як людей не можна. Тому фірми з ШІ зростатимуть, узгоджуватимуться, вдосконалюватимуться й добиратимуться з небаченою швидкістю.
Для того, хто будує маркетплейс ШІ-агентів, це картина граничного випадку: що відбувається, коли вартість «найняти ще одного працівника» падає до ціни обчислень, а передача знань між агентами стає ідеальною. Есей прямо спирається на Коуза, якого ви вже слухали: фірма існує, щоб знижувати витрати на користування ринком, і що нижчі витрати всередині фірми, то більшою вона виростає.
Сьогодні фірми жорстко обмежені в наймі та навчанні талантів. Але якщо ваш талант — це ШІ, його можна скопіювати скільки завгодно разів. Що, якби в Google був мільйон ШІ-інженерів? Не безликих «працівників», а повноцінні двійники найкращих — скажімо, рівня Джеффа Діна й Ноама Шазіра, з усією їхньою майстерністю, чуттям і негласним знанням. Здатність перетворювати капітал на обчислення, а обчислення — на копії своїх найкращих людей, і є докорінна зміна. Оскільки вартість навчання розмазується на тисячі копій, кожному такому ШІ можна дати дедалі глибшу підготовку: ступені в усіх потрібних галузях, знання тисяч ділових кейсів, розуміння кожної системи й кожного шматка коду компанії.
Копіювати можна не лише окремих людей, а й цілі команди. Невеликі групи, які вже довели свою силу — «мафія PayPal», рання SpaceX, «зрадницька вісімка» з історії напівпровідників, — можна розмножити й кинути разом на тисячу різних проєктів. Одиницею розмноження стає будь-яке вдале поєднання взаємодоповняльних навичок, яке, як відомо, добре працює разом.
Живий Сундар Пічаї фізично не може особисто наглядати за 200 тисячами співробітників, сотнями продуктів і мільйонами клієнтів. А в ШІ-Сундара межа одна — кількість виділених йому чипів. Усіх 30 тисяч середніх менеджерів Google можна замінити копіями ШІ-Сундара. Його копії можуть задавати стратегію кожному продукту, переглядати кожну правку коду, відповідати на кожне звернення клієнта й вести всі перемовини — і все це випливає з одного зв’язного задуму. Тоді зникає проблема принципала-агента: співробітники більше не тягнуть ковдру на себе й не помиляються в тому, що найважливіше. Компанія розміром з Google може працювати майже як плід одного розуму — як виклад однієї-єдиної ідеї, що сьогодні неможливо.
Подумайте, як обмежене сьогодні знання будь-якого директора. Скільки насправді Сундар Пічаї знає про те, що коїться у величезній імперії Google? Він отримує відфільтровані звіти й зведення, ходить на ключові зустрічі — але не може вмістити повний контекст кожного запуску, кожної розмови з клієнтом, кожного технічного рішення сотень команд. Його картина компанії неминуче неповна.
Тепер уявіть мега-Сундара — центральний ШІ, який спрямовуватиме нашу фірму майбутнього. Як автопілот Tesla вчиться на записах мільйонів поїздок, мега-Сундар може вчитися на всьому, що бачили його розіслані копії: на кожній розмові з клієнтом, кожному інженерному рішенні, кожній реакції ринку. Причому, на відміну від автопілота, це не грубе усереднення: мега-Сундар вбирає знання значно точніше — через явні зведення, спільні внутрішні представлення, навіть через пряме редагування власних «ваг», щоб закріпити конкретне осяяння.
Межа між окремими екземплярами ШІ починає стиратися. Мега-Сундар постійно породжує вузьких спеціалізованих копій і вбирає назад те, чого вони навчилися. Моделі спілкуються напряму, на рівні внутрішніх представлень, — приблизно так, як уже взаємодіють сотні шарів усередині однієї нейромережі. А отже, непорозумінь майже не буває. Їхній зв’язок схожий на прийом, який уже застосовують: менша модель робить чорнове припущення, а більша його перевіряє й уточнює.
Пател зауважує: найкращі фахівці в одній галузі за іншою старішають — можливо, тому що дістатися до переднього краю накопиченого знання дедалі довше. І міста, й топові фірми дають таку несумірну віддачу просто тому, що трохи краще пропускають знання між розумними людьми. Фірми з ШІ розженуть цю культурну еволюцію двома козирями: величезною чисельністю та ідеальною передачею знань. Мільйони агентів дають незрівнянно більше шансів на знахідки — з випадкових помилок, дослідів або винаходів з нуля.
Пател спирається на думку антрополога Джозефа Генріха: накопичувальна культурна еволюція — це суспільний процес, який перетворює спільноти на «колективний мозок», а швидкість появи ідей тим вища, чим вільніше знання тече крізь безліч залучених умів. Дані за тисячі років свідчать, що головний рушій нових ідей — розмір населення. У фірм з ШІ «населення» буде на порядки більшим, ніж у найбільших нинішніх компаній, і кожен агент зможе ідеально «зростатися умами» з будь-яким іншим, згори донизу по ієрархії. Ззовні така фірма виглядатиме єдиним розумом, який миттєво розносить ідеї по всій організації, нічого не гублячи дорогою.
Вартість посадити ШІ на якусь роль зведеться до кількості обчислень, які він споживає. Це змінить саме поняття про те, які ролі рідкісні. Фірмі майбутнього не доведеться виходити з того, яких навичок у людей багато, а яких мало: вона може оптимізувати під будь-які найцінніші здібності. Потрібен інженер рівня Джеффа Діна? Отримавши одного, наступну копію ви робите за копійки. Потрібна тисяча дослідників світового класу? Просто запустіть їх. Обмежувач — не пошук і навчання рідкісних талантів, а лише обчислення.
То що ж стане дорогим? Ролі, які виправдовують величезні витрати обчислень у момент роботи. Найясніше це видно на функції директора. Чи варто Google витрачати 100 мільярдів доларів на рік на обчислення для мега-Сундара? Так! Адже це купує мільйони суб’єктивних годин планування, прогін безлічі сценаріїв на роки вперед, розбір кожного рядка коду й вичерпне опрацювання варіантів.
«Як відреагує регулятор, якщо ми купимо eBay, щоб позмагатися з Amazon? Дай-но прорахую три роки ринкової динаміки… Ага, бачу ймовірний результат. У мене лишилося п’ять хвилин машинного часу — оціню ще тисячу альтернативних стратегій».
Дваркеш Пател, уявні міркування мега-Сундара
Що цінніше рішення, то більше обчислень на нього кинуть. Одне стратегічне осяяння мега-Сундара може коштувати мільярди, а один прогавлений ризик — десятки мільярдів. Скільки б Google не було оптимально витрачати на такий «розум», це напевно більше, ніж нуль.
Якими будуть стиснуті копії ШІ-Сундара або ШІ-Джеффа? Розумно зробити їх вузькими фахівцями, тим паче що вартість спеціального знання розмазується на всі копії. Скажімо, кожному «операторові дата-центру» можна дати розуміння кожного вузла кластера.
Пател припускає: спеціалізація піде насамперед за функціями, негласними вміннями й складними навичками — їх дорого утримувати в пам’яті моделі. А прості факти різні моделі ділитимуть між собою значно ширше, ніж здається. Так, «ГПТ-сантехніку» ні до чого фізика елементарних частинок, а «ГПТ-фізику» — причина протікання. Але зберігати сирі факти так дешево, що навіть невелика модель Llama-7B уже знає і про стандартну модель у фізиці, і про труби, що протікають, більше за будь-якого нефахівця. Якщо людський рівень розуму — це понад трильйон параметрів, то хіба обтяжливо тримати «про запас» менше ніж сім мільярдів, щоб пам’ятати майже всі відомі факти? Корисний орієнтир: найкраща частина Вікіпедії важить менше ніж п’ять мегабайтів.
Найглибша відмінність фірм з ШІ від людських — їхня здатність до еволюції. Пател наводить запитання дослідника Ґверна Бранвена: чому ми не бачимо, щоб видатні корпорації клонували себе й захоплювали всі сегменти ринку? Чому сьогодні не всі компанії — надефективні нащадки однієї прафірми п’ятдесятирічної давності, а всі інші не вимерли? Чому корпораціям так важко зберегти свою «культуру» і юну хватку?
Відповідь Ґверна: корпорації проходять добір і сильно різняться, але відтворити себе не можуть. Вони зроблені з людей, а не з легко копійованих деталей чи ниток ДНК. Фірма може навіть не зуміти «повторити себе» в часі, через що й настають закостеніння та старіння.
«Розрив між нинішніми людськими фірмами й повністю автоматизованими буде як прірва у складності між прокаріотами та еукаріотами».
Дваркеш Пател
Найпростіші бактерії не лише влаштовані вкрай просто, а й майже не змінилися за мільярди років своєї історії. А еукаріоти — клітини з ядром — швидко ускладнилися й дали початок усім дивовижним організмам із трильйонів злагоджених клітин. Ось ця здатність до еволюції і є ключова різниця між ШІ та людьми. Людські фірми просто не вміють відтворювати себе: вони зроблені з людей, а не з коду, який можна скопіювати. Фірми з ШІ — вміють.
Якщо живий Ілон Маск особливо добрий у створенні «залізних» компаній, ви все одно не запустите сотню Ілонів, кожного на свою галузь, зі ста мільйонами доларів початкового капіталу в кожного. Хоч як мікроменеджуй, він скутий одним тілом. А от ШІ-Ілон може доручити своїм копіям проєктувати батареї, працювати автомеханіком в автосалоні й так далі. А якщо в якійсь справі найкращий не Ілон, то можна розмножити того, хто кращий, — і дістати з нього шаблон нової, дочірньої організації.
Тоді постає запитання: якщо під будь-яке завдання можна створити ідеального виконавця, навіщо взагалі платити націнку іншій фірмі — чи не простіше відтворити її всередині себе? Навіщо тоді взагалі потрібні інші фірми? Чи не захопить перша ж компанія, яка навчилася все автоматизувати, усю економіку цілком?
Тут Пател прямо звертається до Коуза. Фірми існують, щоб знижувати витрати на користування ринком, — інакше довелося б щоранку заново наймати всіх співробітників і орендувати офіс. І що нижчі витрати всередині фірми, то більшою вона виростає. П’ятсот років тому скоординувати розумову працю тисяч людей у десятках контор було майже неможливо — тому й великих фірм не було. Сьогодні можна розгорнути скільки завгодно великий робочий чат або базу даних — і фірми розрослися.
Але зовсім не обов’язково, що все скінчиться однією гігафірмою, яка поглинула економіку. Як пояснює Ґверн, будь-яка внутрішня система планування мусить на щось спиратися ззовні — на «функцію втрат», чесну міру успіху. У ринковій економіці нею слугують прибутки й збитки. Внутрішнє планування в короткостроковій перспективі може бути куди ефективнішим за ринкову конкуренцію, але йому потрібен повільніший, зате неупереджений зовнішній контур зворотного зв’язку. Компанія, що розрослася надміру, ризикує тим, що її внутрішня оптимізація відірветься від ринкової реальності.
При цьому баланс може й зсунутися з розвитком можливостей ШІ. Що більш «програмними» стають корпорації — з ідеальним копіюванням вдалих частин і швидкими петлями зворотного зв’язку, — то більшими й ефективнішими вони можуть виявитися.
І все ж ринок лишається заземлювальним зовнішнім контуром. Як фірма перетворює трильйони «токенів» даних від клієнтів, ринків і новин щодня на майбутні плани й нові продукти? Правління вирішує все само, по-політбюрівськи, проганяючи за мільярди доларів обчислень різні річні плани? Чи запускають щось на кшталт еволюційного добору між відділами, даючи більше капіталу й обчислень тим, хто показав себе краще? Усе це — те, що сьогодні ми назвали б «культурою». Ринок запускає еволюційний добір, який добирає не лише товари й послуги, а й інститути, що найкраще вміють перетворювати світ на цінні товари й послуги. Пател думає, що так буде й далі.