Аудіовидання · переказ простою українською

Який вигляд матимуть повністю автоматизовані фірми

Дваркеш Пател
Dwarkesh Patel, «What fully automated firms will look like», dwarkesh.com, січень 2025. У співавторстві з Еге Ердилом і Тамаєм Бесіроглу. Оригінал: dwarkesh.com/p/ai-firm. © Dwarkesh Patel.
Це не дослівний переклад, а повний переказ статті для прослуховування: збережено всі аргументи, висновки, цифри й приклади, формули переказано словами, список літератури й технічні додатки опущено. Орієнтовний час прослуховування: 20 хвилин.

Про що ця стаття

Дваркеш Пател — автор відомого подкасту про штучний інтелект. У січні 2025 року разом із дослідниками Еге Ердилом і Тамаєм Бесіроглу він написав есей-уявний експеримент: як буде влаштована компанія, у якій і всі працівники, і всі начальники — це ШІ. Ідеться не про сьогоднішні моделі й не про копії конкретних людей, а про майбутній «загальний ШІ» (AGI) — нащадків нинішніх мовних моделей, які навчаться робити майже все, що вміє людина.

Головна думка проста. Усі обговорюють, наскільки розумною буде окрема модель. А по-справжньому важливе інше — колективні переваги цифрових умів, які з обдарованістю не пов’язані. Їх можна копіювати, стискати, зливати воєдино, масштабувати й піддавати добору так, як людей не можна. Тому фірми з ШІ зростатимуть, узгоджуватимуться, вдосконалюватимуться й добиратимуться з небаченою швидкістю.

Для того, хто будує маркетплейс ШІ-агентів, це картина граничного випадку: що відбувається, коли вартість «найняти ще одного працівника» падає до ціни обчислень, а передача знань між агентами стає ідеальною. Есей прямо спирається на Коуза, якого ви вже слухали: фірма існує, щоб знижувати витрати на користування ринком, і що нижчі витрати всередині фірми, то більшою вона виростає.

AGI (загальний ШІ)Гіпотетичний ШІ, здатний робити практично будь-яку роботу не гірше за людину. Англійською — artificial general intelligence. В есеї йдеться саме про нього, а не про сьогоднішні моделі.
КопіюванняГоловна перевага цифрового розуму: вдалого працівника або цілу команду можна розмножити в будь-якій кількості майже безкоштовно. Людей так не скопіюєш.
ДистиляціяСтискання великої моделі в меншу, вузьку копію, яка дешево працює, зберігаючи потрібні вміння (distillation). В есеї — спосіб плодити фахівців із «головного» ШІ.
ЗлиттяЗворотний хід: знання, накопичені безліччю копій, збираються назад в одну модель (merge). У людей так не виходить — мозок не можна скопіювати.
Зовнішній контур зворотного зв’язкуПовільна, але чесна перевірка успіху ззовні. Для ринку це прибутки й збитки: вони не дають внутрішньому плануванню відірватися від реальності.
Проблема принципала-агентаКоли працівник переслідує власні цілі, а не цілі компанії, або просто не розуміє, що важливіше. Копії одного ШІ цю проблему майже знімають.
Застереження автора. Пател позначає жанр есею словами «міркуємо вголос» і прямо оцінює: він приблизно на чверть упевнений, що фірми з ШІ працюватимуть приблизно так. Далі — не прогноз, а спроба уявити світ, де загальний ШІ вже є.

1

Копіювання: праця й управління

Сьогодні фірми жорстко обмежені в наймі та навчанні талантів. Але якщо ваш талант — це ШІ, його можна скопіювати скільки завгодно разів. Що, якби в Google був мільйон ШІ-інженерів? Не безликих «працівників», а повноцінні двійники найкращих — скажімо, рівня Джеффа Діна й Ноама Шазіра, з усією їхньою майстерністю, чуттям і негласним знанням. Здатність перетворювати капітал на обчислення, а обчислення — на копії своїх найкращих людей, і є докорінна зміна. Оскільки вартість навчання розмазується на тисячі копій, кожному такому ШІ можна дати дедалі глибшу підготовку: ступені в усіх потрібних галузях, знання тисяч ділових кейсів, розуміння кожної системи й кожного шматка коду компанії.

Копіювати можна не лише окремих людей, а й цілі команди. Невеликі групи, які вже довели свою силу — «мафія PayPal», рання SpaceX, «зрадницька вісімка» з історії напівпровідників, — можна розмножити й кинути разом на тисячу різних проєктів. Одиницею розмноження стає будь-яке вдале поєднання взаємодоповняльних навичок, яке, як відомо, добре працює разом.

Ключова думкаКопіювання змінить управління навіть сильніше, ніж працю. Воно відкриє такий ступінь мікроменеджменту, поряд з яким нинішній «режим засновника» видасться дитячою забавкою.

Живий Сундар Пічаї фізично не може особисто наглядати за 200 тисячами співробітників, сотнями продуктів і мільйонами клієнтів. А в ШІ-Сундара межа одна — кількість виділених йому чипів. Усіх 30 тисяч середніх менеджерів Google можна замінити копіями ШІ-Сундара. Його копії можуть задавати стратегію кожному продукту, переглядати кожну правку коду, відповідати на кожне звернення клієнта й вести всі перемовини — і все це випливає з одного зв’язного задуму. Тоді зникає проблема принципала-агента: співробітники більше не тягнуть ковдру на себе й не помиляються в тому, що найважливіше. Компанія розміром з Google може працювати майже як плід одного розуму — як виклад однієї-єдиної ідеї, що сьогодні неможливо.

Дві примітки автора. По-перше, одна проблема принципала-агента все ж загострюється: між «працівниками-директорами» (які раптом знають усе) і зовнішніми акціонерами (які знають приблизно стільки ж, скільки знали, тобто майже нічого). По-друге, якщо працю легко копіювати й запускати, цінність інтелектуальної власності зростає. Суть фірми зводиться до неї: конкурент може переманити або клонувати інженерів, але без прямої крадіжки він не отримає навчену модель і мільйони годин даних, на яких її вчили. Коли таланти перестають бути перепоною для суперників, перепоною стають галузеве знання й дані.

2

Злиття: ідеальна передача знань

Подумайте, як обмежене сьогодні знання будь-якого директора. Скільки насправді Сундар Пічаї знає про те, що коїться у величезній імперії Google? Він отримує відфільтровані звіти й зведення, ходить на ключові зустрічі — але не може вмістити повний контекст кожного запуску, кожної розмови з клієнтом, кожного технічного рішення сотень команд. Його картина компанії неминуче неповна.

Тепер уявіть мега-Сундара — центральний ШІ, який спрямовуватиме нашу фірму майбутнього. Як автопілот Tesla вчиться на записах мільйонів поїздок, мега-Сундар може вчитися на всьому, що бачили його розіслані копії: на кожній розмові з клієнтом, кожному інженерному рішенні, кожній реакції ринку. Причому, на відміну від автопілота, це не грубе усереднення: мега-Сундар вбирає знання значно точніше — через явні зведення, спільні внутрішні представлення, навіть через пряме редагування власних «ваг», щоб закріпити конкретне осяяння.

Межа між окремими екземплярами ШІ починає стиратися. Мега-Сундар постійно породжує вузьких спеціалізованих копій і вбирає назад те, чого вони навчилися. Моделі спілкуються напряму, на рівні внутрішніх представлень, — приблизно так, як уже взаємодіють сотні шарів усередині однієї нейромережі. А отже, непорозумінь майже не буває. Їхній зв’язок схожий на прийом, який уже застосовують: менша модель робить чорнове припущення, а більша його перевіряє й уточнює.

Ключова думкаЗлиття — це стрибок у тому, як організація накопичує і застосовує знання. Велика перевага людей була в соціальному навчанні, передачі досвіду з покоління в покоління. Але в нього страшна вада: мозок не можна скопіювати, тому людину доводиться вчити роками, а то й десятиліттями.

Пател зауважує: найкращі фахівці в одній галузі за іншою старішають — можливо, тому що дістатися до переднього краю накопиченого знання дедалі довше. І міста, й топові фірми дають таку несумірну віддачу просто тому, що трохи краще пропускають знання між розумними людьми. Фірми з ШІ розженуть цю культурну еволюцію двома козирями: величезною чисельністю та ідеальною передачею знань. Мільйони агентів дають незрівнянно більше шансів на знахідки — з випадкових помилок, дослідів або винаходів з нуля.

Пател спирається на думку антрополога Джозефа Генріха: накопичувальна культурна еволюція — це суспільний процес, який перетворює спільноти на «колективний мозок», а швидкість появи ідей тим вища, чим вільніше знання тече крізь безліч залучених умів. Дані за тисячі років свідчать, що головний рушій нових ідей — розмір населення. У фірм з ШІ «населення» буде на порядки більшим, ніж у найбільших нинішніх компаній, і кожен агент зможе ідеально «зростатися умами» з будь-яким іншим, згори донизу по ієрархії. Ззовні така фірма виглядатиме єдиним розумом, який миттєво розносить ідеї по всій організації, нічого не гублячи дорогою.

3

Масштаб: що стане дорогим

Вартість посадити ШІ на якусь роль зведеться до кількості обчислень, які він споживає. Це змінить саме поняття про те, які ролі рідкісні. Фірмі майбутнього не доведеться виходити з того, яких навичок у людей багато, а яких мало: вона може оптимізувати під будь-які найцінніші здібності. Потрібен інженер рівня Джеффа Діна? Отримавши одного, наступну копію ви робите за копійки. Потрібна тисяча дослідників світового класу? Просто запустіть їх. Обмежувач — не пошук і навчання рідкісних талантів, а лише обчислення.

То що ж стане дорогим? Ролі, які виправдовують величезні витрати обчислень у момент роботи. Найясніше це видно на функції директора. Чи варто Google витрачати 100 мільярдів доларів на рік на обчислення для мега-Сундара? Так! Адже це купує мільйони суб’єктивних годин планування, прогін безлічі сценаріїв на роки вперед, розбір кожного рядка коду й вичерпне опрацювання варіантів.

«Як відреагує регулятор, якщо ми купимо eBay, щоб позмагатися з Amazon? Дай-но прорахую три роки ринкової динаміки… Ага, бачу ймовірний результат. У мене лишилося п’ять хвилин машинного часу — оціню ще тисячу альтернативних стратегій».

Дваркеш Пател, уявні міркування мега-Сундара

Що цінніше рішення, то більше обчислень на нього кинуть. Одне стратегічне осяяння мега-Сундара може коштувати мільярди, а один прогавлений ризик — десятки мільярдів. Скільки б Google не було оптимально витрачати на такий «розум», це напевно більше, ніж нуль.

4

Дистиляція: армія вузьких фахівців

Якими будуть стиснуті копії ШІ-Сундара або ШІ-Джеффа? Розумно зробити їх вузькими фахівцями, тим паче що вартість спеціального знання розмазується на всі копії. Скажімо, кожному «операторові дата-центру» можна дати розуміння кожного вузла кластера.

Пател припускає: спеціалізація піде насамперед за функціями, негласними вміннями й складними навичками — їх дорого утримувати в пам’яті моделі. А прості факти різні моделі ділитимуть між собою значно ширше, ніж здається. Так, «ГПТ-сантехніку» ні до чого фізика елементарних частинок, а «ГПТ-фізику» — причина протікання. Але зберігати сирі факти так дешево, що навіть невелика модель Llama-7B уже знає і про стандартну модель у фізиці, і про труби, що протікають, більше за будь-якого нефахівця. Якщо людський рівень розуму — це понад трильйон параметрів, то хіба обтяжливо тримати «про запас» менше ніж сім мільярдів, щоб пам’ятати майже всі відомі факти? Корисний орієнтир: найкраща частина Вікіпедії важить менше ніж п’ять мегабайтів.

Біологічна аналогія автора. Кожна клітина тіла зберігає всі 3 гігабайти вашої ДНК, хоча в будь-якій конкретній клітині працює лише 10–20 відсотків ділянок, що кодують білок, а кодують білок усього близько 1 відсотка ДНК. Зберігати інформацію настільки дешево, що добір майже не бореться з такою надлишковістю.

5

Еволюція: головна відмінність від людей

Найглибша відмінність фірм з ШІ від людських — їхня здатність до еволюції. Пател наводить запитання дослідника Ґверна Бранвена: чому ми не бачимо, щоб видатні корпорації клонували себе й захоплювали всі сегменти ринку? Чому сьогодні не всі компанії — надефективні нащадки однієї прафірми п’ятдесятирічної давності, а всі інші не вимерли? Чому корпораціям так важко зберегти свою «культуру» і юну хватку?

Відповідь Ґверна: корпорації проходять добір і сильно різняться, але відтворити себе не можуть. Вони зроблені з людей, а не з легко копійованих деталей чи ниток ДНК. Фірма може навіть не зуміти «повторити себе» в часі, через що й настають закостеніння та старіння.

«Розрив між нинішніми людськими фірмами й повністю автоматизованими буде як прірва у складності між прокаріотами та еукаріотами».

Дваркеш Пател

Найпростіші бактерії не лише влаштовані вкрай просто, а й майже не змінилися за мільярди років своєї історії. А еукаріоти — клітини з ядром — швидко ускладнилися й дали початок усім дивовижним організмам із трильйонів злагоджених клітин. Ось ця здатність до еволюції і є ключова різниця між ШІ та людьми. Людські фірми просто не вміють відтворювати себе: вони зроблені з людей, а не з коду, який можна скопіювати. Фірми з ШІ — вміють.

Якщо живий Ілон Маск особливо добрий у створенні «залізних» компаній, ви все одно не запустите сотню Ілонів, кожного на свою галузь, зі ста мільйонами доларів початкового капіталу в кожного. Хоч як мікроменеджуй, він скутий одним тілом. А от ШІ-Ілон може доручити своїм копіям проєктувати батареї, працювати автомеханіком в автосалоні й так далі. А якщо в якійсь справі найкращий не Ілон, то можна розмножити того, хто кращий, — і дістати з нього шаблон нової, дочірньої організації.

Примітка автора. Дослідження Блума й колег показало: навчання менеджменту підіймає продуктивність фірм приблизно на 17 відсотків. У фірм з ШІ таке поліпшення може бути миттєвим і доступним одразу всім копіям — на кшталт «горизонтального перенесення генів» у бактерій, а не привілеєм однієї навченої групи.

6

Захоплення: одна гігафірма чи все ж ринок?

Тоді постає запитання: якщо під будь-яке завдання можна створити ідеального виконавця, навіщо взагалі платити націнку іншій фірмі — чи не простіше відтворити її всередині себе? Навіщо тоді взагалі потрібні інші фірми? Чи не захопить перша ж компанія, яка навчилася все автоматизувати, усю економіку цілком?

Тут Пател прямо звертається до Коуза. Фірми існують, щоб знижувати витрати на користування ринком, — інакше довелося б щоранку заново наймати всіх співробітників і орендувати офіс. І що нижчі витрати всередині фірми, то більшою вона виростає. П’ятсот років тому скоординувати розумову працю тисяч людей у десятках контор було майже неможливо — тому й великих фірм не було. Сьогодні можна розгорнути скільки завгодно великий робочий чат або базу даних — і фірми розрослися.

Ключова думкаФірми з ШІ знизять внутрішні витрати незрівнянно сильніше: важко перевершити за ефективністю зв’язку «постріл» внутрішніми представленнями в точну копію себе. Тому фірми, найімовірніше, стануть значно більшими за нинішні.

Але зовсім не обов’язково, що все скінчиться однією гігафірмою, яка поглинула економіку. Як пояснює Ґверн, будь-яка внутрішня система планування мусить на щось спиратися ззовні — на «функцію втрат», чесну міру успіху. У ринковій економіці нею слугують прибутки й збитки. Внутрішнє планування в короткостроковій перспективі може бути куди ефективнішим за ринкову конкуренцію, але йому потрібен повільніший, зате неупереджений зовнішній контур зворотного зв’язку. Компанія, що розрослася надміру, ризикує тим, що її внутрішня оптимізація відірветься від ринкової реальності.

При цьому баланс може й зсунутися з розвитком можливостей ШІ. Що більш «програмними» стають корпорації — з ідеальним копіюванням вдалих частин і швидкими петлями зворотного зв’язку, — то більшими й ефективнішими вони можуть виявитися.

І все ж ринок лишається заземлювальним зовнішнім контуром. Як фірма перетворює трильйони «токенів» даних від клієнтів, ринків і новин щодня на майбутні плани й нові продукти? Правління вирішує все само, по-політбюрівськи, проганяючи за мільярди доларів обчислень різні річні плани? Чи запускають щось на кшталт еволюційного добору між відділами, даючи більше капіталу й обчислень тим, хто показав себе краще? Усе це — те, що сьогодні ми назвали б «культурою». Ринок запускає еволюційний добір, який добирає не лише товари й послуги, а й інститути, що найкраще вміють перетворювати світ на цінні товари й послуги. Пател думає, що так буде й далі.

Підсумки

Головні висновки

  1. Вирішує не обдарованість окремої моделі, а колективні переваги цифрових умів: їх можна копіювати, дистилювати, зливати, масштабувати й добирати так, як людей не можна.
  2. Копіювання перетворює капітал на обчислення, а обчислення — на копії найкращих людей і цілих перевірених команд, із розмазаною на тисячі копій вартістю навчання.
  3. Управління змінюється сильніше за працю: копії одного «директора» знімають проблему принципала-агента, і компанія працює майже як плід одного розуму.
  4. Злиття дає ідеальну передачу знань: безліч копій учаться окремо, а їхній досвід вбирається назад у центральну модель — організація стає єдиним розумом.
  5. Дешевою стає робоча сила, дорогими — рішення, що виправдовують величезні обчислення в момент роботи; найяскравіше це видно на функції директора.
  6. Головна відмінність — здатність до еволюції: людські фірми не вміють відтворювати себе, бо зроблені з людей, а фірми з ШІ — вміють.
  7. За Коузом, нижчі внутрішні витрати роблять фірми більшими, але єдина гігафірма не визначена наперед: внутрішньому плануванню потрібен зовнішній контур — прибутки й збитки ринку, який і далі добиратиме найкращі інститути.