Аудіовидання · переказ простою українською

Сценарії переходу до AGI

Антон Корінек, Донхьон Су
Anton Korinek, Donghyun Suh, «Scenarios for the Transition to AGI». arXiv:2403.12107 (також NBER Working Paper 32255), березень 2024. Оригінал: arxiv.org/abs/2403.12107. © автори (ліцензія arXiv).
Це не дослівний переклад, а повний переказ статті для прослуховування: збережено всі аргументи, висновки, цифри й приклади, формули переказано словами, список літератури й технічні додатки опущено. Орієнтовний час прослуховування: 35 хвилин.

Про що ця стаття

Цю працю в березні 2024 року випустили два економісти — Антон Корінек (Вірджинський університет, інститут Брукінгса і центр GovAI) і Донхьон Су. Вона вийшла і як препринт, і як робоча доповідь Національного бюро економічних досліджень (NBER). Привід простий: лідери провідних ШІ-лабораторій і провідні дослідники всерйоз заговорили про те, що загальний штучний інтелект (AGI) — система, здатна виконувати всі завдання, які вміє людина, — може з’явитися в найближчі роки. Автори запитують: що це зробить із випуском, із зарплатами і зрештою з добробутом людей?

Головна думка статті така. Роботу людини можна розбити на найдрібніші «атомарні» завдання, які різняться складністю. Техніка вміє автоматизувати дедалі складніші завдання — межа автоматизації зсувається праворуч. Що станеться із зарплатами, вирішують дві обставини. Перша: чи є в людських завдань межа складності, чи складність іде в нескінченність. Друга: чи встигає накопичення капіталу за швидкістю автоматизації — автори називають це «перегонами». Залежно від відповіді зарплати можуть зростати вічно, можуть застигнути, а можуть і обвалитися.

Для того, хто будує ринок ШІ-агентів, тут є прямий інтерес. Стаття дає готову мову, щоб думати, як армія автономних агентів вплине на попит на людську працю, на ціну обчислювальних потужностей і на те, кому дістанеться дохід — власникам праці чи власникам капіталу. І вона показує, що доля праці може різко змінитися під час переходу через невидимі пороги, які легко не помітити заздалегідь.

AGI — загальний штучний інтелектУ цій статті — здатність ШІ виконувати всі завдання, які може виконати людина. «Повна автоматизація» настає, коли для машин доступні всі завдання без винятку.
Атомарне завданняНайдрібніша неподільна операція мозку, з яких складається будь-яка робота: упізнати число, згадати правило, розпізнати обличчя. Автори вважають, що набір таких операцій не змінюється: нові професії лише по-новому їх комбінують.
Обчислювальна складність завданняСкільки обчислень потрібно машині, щоб виконати завдання. Зручно міряти в операціях із числами (FLOP). Для машини важким може бути те, що людині легко: пройти на двох ногах нерівною землею коштує машині величезних обчислень, а додати числа — майже ніяких.
Індекс автоматизаціїПоріг складності: усе, що простіше за нього, машина вже вміє, усе, що складніше, — поки лише людина. Автори вважають, що цей поріг зростає за експонентою, як у законі Мура. Це і є «межа автоматизації», яка їде праворуч.
Завдання — взаємодоповнювальніЩоб отримати готовий продукт, потрібні завдання всіх видів, і рідкісне завдання гальмує все ціле. Тому автоматизація одних завдань підвищує цінність тих, що залишаються за людиною, — поки їх не стає надто мало.
Накопичення капіталуКапітал — це все відтворюване: верстати, обчислювальні потужності, роботи, заводи. Його можна нарощувати, відкладаючи частину випуску. Що більше капіталу, то вищі зарплати, бо капітал і праця доповнюють одне одного.
Частка праціЯка частина всього доходу економіки дістається працівникам, а не власникам капіталу. Якщо частка праці падає до нуля, це означає, що плоди зростання йдуть майже цілком власникам машин.

1

Запитання: зростуть зарплати чи впадуть

Недавні успіхи ШІ обіцяють велике зростання продуктивності, але повернули і старий страх — що машини витіснять працівників. Дедалі більше дослідників і керівників галузі кажуть, що людству час готуватися до можливої появи AGI. Це ставить кілька основних економічних запитань. Як виглядатиме перехід до AGI? Що він означатиме для випуску, для зарплат, для добробуту людей? Зарплати зростуть чи обваляться?

Автори будують економічну модель, щоб розбирати різні варіанти майбутнього. Відправна точка одна: роботу людини можна розкласти на незмінні атомарні завдання, що різняться складністю. Прогрес техніки робить дедалі складніші завдання придатними для автоматизації. Це описують порогом — індексом автоматизації, — який відокремлює завдання, уже доступні машинам, від тих, що поки під силу лише людям. Поріг зростає сам собою з часом, як у законі Мура. В епоху ШІ зручна міра складності завдання — це обсяг обчислень, потрібний машині, щоб його виконати. Щось на кшталт додавання чисел у таблиці потребує мізерних обчислень. А щось, що здається людині простим і природним — наприклад, пройти на двох ногах нерівною поверхнею, — потребує для машини величезних обчислень.

Через усю статтю проходять два протилежні випадки — і вони ведуть до різко різних підсумків. Перший: складність людських завдань не має межі, іде в нескінченність. Тоді межа автоматизації їде праворуч, машини забирають дедалі більше завдань, але якісь завдання, а отже й робочі місця, залишаються за людьми завжди. Другий: складність обмежена згори, бо обчислювальні можливості людського мозку скінченні. Тоді за скінченний час межа автоматизації доходить до найскладнішого людського завдання — і настає повна автоматизація. У «надто складних» завдань є й інше тлумачення: суспільство може вирішити не автоматизувати деякі з них, навіть коли це технічно можливо, — скажімо, працю священників, суддів чи законодавців.

Ключова думкаУсе залежить від форми розподілу завдань за складністю. Якщо в людських завдань є достатньо «товстий» нескінченний хвіст, роботи людям вистачить завжди і зарплати можуть зростати вічно. Якщо ж складність обмежена і повної автоматизації досягнуто, зарплати зрештою обвалюються.

У моделі атомарні завдання — сильно взаємодоповнювальні й разом дають кінцевий продукт. У дусі раніших праць (Зейра, а також Аджемоглу і Рестрепо) будь-яке завдання може виконати праця, а автоматизоване — або праця, або капітал. Але, на відміну від тих праць, тут головну увагу приділено крайнім випадкам біля самого порога повної автоматизації. Автори заздалегідь називають і основні знахідки: за фіксованих запасів капіталу і праці автоматизація може різко вдарити по зарплатах навіть раніше, ніж добереться до всіх завдань; у динаміці все вирішують згадані перегони автоматизації та накопичення капіталу; автоматизація самого наукового прогресу здатна підняти віддачу всіх чинників, а нестача невідтворюваних ресурсів, навпаки, здатна зарплати добити.

2

Модель: робота як набір завдань у просторі обчислень

Атомарні завдання та їхня складність

Головне припущення таке: робота людини складається із завдань і підзавдань — незмінних атомарних завдань, — які по-різному піддаються автоматизації. Ці завдання значно дрібніші, ніж професійні завдання з довідників на кшталт O*Net. Там, наприклад, для економіста перелічено п’ять головних завдань: вивчати дані; вести і публікувати дослідження; збирати, аналізувати й доповідати дані; керувати дослідженнями; викладати. Але за кожним із них стоїть маса атомарних операцій. «Викладати економічну теорію» — це спланувати курс, згадати теорії, зібрати структуру, підготувати слайди, читати лекцію, стежити за виразом облич студентів, по ходу підлаштовувати план, готувати й перевіряти завдання, і так далі.

Усі ці операції спираються на базові функції мозку, а це теж свого роду обчислення. Одні функції машинам даються легко, інші — важче. Важливе лише одне: наскільки операція витратна за обчисленнями для машини. Звідси й важливе зауваження: часто кажуть, що нова техніка породжує нові завдання. На рівні великих професійних завдань це так. Але на атомарному рівні нова техніка просто по-новому поєднує старі базові операції. «Інженерія підказок» (prompt engineering) виглядає новою професією, але складається з операцій, які існували задовго до появи генеративного ШІ: задати бажаний результат, скласти запит, увести його, прочитати відповідь, оцінити, вирішити, чи повторювати, поділитися результатом.

Що робить завдання важким для автоматизації? Автори відповідають: його обчислювальна місткість — обсяг обчислень, потрібний, щоб його виконати. Його зручно міряти кількістю операцій із числами (FLOP). І тут важливо: обчислювальна важкість для машини часто зовсім не збігається з тим, легко чи важко це людині. Саме важкість для машини і вирішує, чи можна завдання автоматизувати.

Чому поріг автоматизації їде праворуч? Через зростання доступних обчислень. Закон Мура каже: продуктивність передових чипів подвоюється приблизно кожні два роки, і це тримається вже шістдесят років. А обсяг обчислень у найпередовіших ШІ-системах зростав ще швидше — подвоювався приблизно кожні пів року в останнє десятиліття. Плюс поліпшувалися алгоритми. Тому автори приймають: індекс автоматизації зростає за експонентою з певною швидкістю, і що він вищий, то більше завдань стають доступними машинам.

Примітка. У складності завдань є відомий парадокс (його описав Моравек). Те, що людині здається легким — наприклад, зір, — спирається на величезні обсяги «сірої речовини» і для машини обчислювально дуже витратне. І навпаки: арифметична дія коштує простому комп’ютеру однієї операції, а мозку — мільярдів еквівалентних операцій.

Базова модель: як завдання складаються у випуск

Уявімо економіку без часу, з одним репрезентативним господарством. У нього є одиниця праці та якийсь запас капіталу. Завдань — цілий континуум, вони різняться складністю. Щоб отримати загальний випуск, усі завдання всіх рівнів складності з’єднують разом. З’єднують так, що завдання — сильні взаємодоповнювачі: бракує якогось виду завдань — страждає весь випуск. Це й означає, що еластичність заміщення між завданнями менша за одиницю.

Кожне завдання виконують капіталом або працею. Правило просте: завдання нижче порога автоматизації можна робити і капіталом, і працею; завдання вище порога — лише працею. Продуктивність капіталу і праці на доступних їм завданнях прийнято однаковою і рівною одиниці, а на недоступних капіталу завданнях продуктивність капіталу дорівнює нулю. Фірма наймає капітал і працю на кожне завдання за поточними цінами — ставкою оренди капіталу і зарплатою — так, щоб прибуток був найбільшим. У рівновазі ринки праці та капіталу розчищаються: уся праця і весь капітал знаходять застосування. Оскільки жодних вад ринку немає, ця рівновага водночас і найкращий із можливих результатів.

Два режими: коли праця рідкісна і коли — ні

За даних запасів праці та капіталу можливі два режими, залежно від того, наскільки високий індекс автоматизації.

Режим перший. Індекс низький, автоматизовано мало завдань. Тоді праця відносно рідкісна порівняно з капіталом. Зарплата вища за ставку оренди капіталу. Рідкісна праця йде лише на ті завдання, які машинам поки не під силу. Це світ останніх двохсот років: капітал і праця доповнюють одне одного, а праця порівняно рідкісна і тому цінна.

Режим другий. Індекс перевалив за особливий поріг: завдань, доступних лише людині, залишилося так мало, що рідкісність праці зникає. Тепер зарплата дорівнює ставці оренди капіталу. Працю застосовують не лише на решті «людських» завдань, а й на частині автоматизованих — на межі капітал і праця стають ідеальними замінниками одне одного. Економіка поводиться як найпростіша модель зростання, де випуск прямо пропорційний капіталу.

Де лежить поріг між режимами? Він залежить лише від співвідношення запасів капіталу і праці та зростає разом із цим співвідношенням. Що важливо: поріг не залежить від того, наскільки сильно завдання доповнюють одне одного. Щойно праця перестає бути рідкісною, її починають використовувати нарівні з капіталом на граничному завданні — і це правильно, навіть якщо окремі завдання дуже взаємодоповнювальні.

Примітка. Інтуїція така. За даних запасів вищий індекс автоматизації розширює коло завдань, які можна робити капіталом, — і наявний капітал «розмазується» по більшій кількості завдань, стаючи рідкіснішим. Водночас звужується коло завдань, що залишаються лише за працею, — і праця концентрується на меншій їх кількості, стаючи менш рідкісною. Коли завдань «лише для людини» залишається зовсім мало, праця втрачає перевагу рідкісності, і віддачі праці та капіталу зрівнюються.

Межа цін чинників і шлях автоматизації

Щоб побачити, як автоматизація впливає на доходи чинників, автори вводять межу цін чинників (factor price frontier). Це набір усіх можливих поєднань зарплати і ставки оренди капіталу, які можуть виникнути за даного рівня техніки і різних співвідношень капіталу до праці. Зручність у тому, що картинка не залежить від конкретних припущень про те, як накопичується капітал.

Межа влаштована так. Вона йде згори вниз: що більше капіталу на одиницю праці, то вища зарплата і нижча ставка оренди капіталу. Є верхня точка — найбільша можлива зарплата за даного рівня автоматизації, її досягають у границі, коли капіталу нескінченно багато відносно праці. За такого надлишку капіталу ставка його оренди падає до нуля. Зростання загальної продуктивності розсуває всю межу назовні, пропорційно піднімаючи доходи всіх чинників. А зростання автоматизації повертає межу — і піднімає ту саму найбільшу можливу зарплату, поки автоматизація неповна.

Але щойно автоматизація стає повною — і межа схлопується. З цілої кривої вона перетворюється на одну-єдину точку, де зарплата і ставка оренди капіталу рівні. Це важливий розрив: за повної автоматизації доходи праці та капіталу вирівнюються стрибком.

Тепер — що робить автоматизація за даного запасу капіталу. По-перше, випуск. Поки економіка в першому режимі, кожен крок автоматизації піднімає випуск: рясний капітал пускають на нові завдання, і це дає приріст — так званий ефект продуктивності. У другому режимі випуск від автоматизації вже не залежить.

Ключова думкаДля зарплат діють дві зустрічні сили. Ефект продуктивності тягне зарплату вгору: нове завдання роблять рясним капіталом, а не рідкісною працею, і випуск зростає. Ефект витіснення тягне вниз: витіснену працю доводиться перерозподіляти на дедалі менше коло людських завдань, і кожна одиниця праці там «дешевшає». Тому вплив автоматизації на зарплату має форму горба.

Ставка оренди капіталу від автоматизації завжди зростає. А зарплата спершу зростає, потім, пройшовши вершину горба, починає падати. На самому початку, коли автоматизовано майже нічого, переважає ефект продуктивності. Ближче до порога ефект витіснення посилюється і зрештою бере гору; біля самої повної автоматизації він стає нескінченно великим. Мовою межі цін чинників автоматизація «повертає» межу за годинниковою стрілкою: якщо економіка в режимі рідкісної праці, зарплата спершу піднімається за цим поворотом, але наприкінці шляху все одно сповзає в ту єдину точку, де зарплата дорівнює ставці оренди капіталу.

Як автоматизація ділить дохід між працею і капіталом

Автори наводять два показові приклади того, як автоматизація перерозподіляє дохід. В обох по горизонталі — частка вже автоматизованих завдань, від нуля до одиниці.

Приклад перший: капіталу і праці порівну, помірна взаємодоповнюваність. Поки економіка в режимі рідкісної праці, випуск строго зростає з автоматизацією. Спочатку майже вся вигода дістається праці, а дохід капіталу мізерний. Але в міру автоматизації фонд зарплати впирається в стелю і починає знижуватися. Випуск ще зростає, однак дохід капіталу зростає швидше за випуск — коштом фонду зарплати. Коли автоматизовано половину завдань, настає другий режим: обидва чинники отримують порівну. За рівних запасів це означає, що і праці, і капіталу дістається по половині доходу. За повної автоматизації випуск усього лише подвоюється.

Приклад другий: капіталу в десять разів більше за працю, сильна взаємодоповнюваність. Тут область, де основна вигода йде праці, набагато ширша — але й обвал фонду зарплати, коли поріг пройдено, набагато глибший. Зарплати нібито зростають за експонентою, поки автоматизовано приблизно до 80 відсотків завдань. А близько 83 відсотків вони різко падають — приблизно на 85 відсотків — за злету доходу капіталу. Коли настає другий режим (автоматизовано близько 91 відсотка завдань), доходи чинників вирівнюються, і за таких запасів частка капіталу в десять разів більша за частку праці. Зате випуск до повної автоматизації зростає в одинадцять разів.

Ключова думкаДоля праці здатна змінитися дуже швидко, варто перейти невидимий поріг. І в що виллється автоматизація для випуску на душу, вирішує запас капіталу: у першому прикладі повна автоматизація лише подвоює випуск, у другому — збільшує його в одинадцять разів. Тому далі треба дивитися, як автоматизація взаємодіє з накопиченням капіталу в часі.

3

Динаміка: перегони автоматизації та накопичення капіталу

У статиці все вирішували запаси. У динаміці до техніки додається накопичення капіталу, а отже — ощадна поведінка людей. Тепер доля зарплат залежить від «перегонів» двох сил: як швидко йде автоматизація і як швидко накопичується капітал.

Чотири сценарії автоматизації

Індекс автоматизації в усіх сценаріях зростає за експонентою. Різняться ж сценарії тим, як влаштовано розподіл завдань за складністю.

Сценарій «як завжди». Розподіл із нескінченним хвостом: кожного періоду автоматизується стала частка решти завдань. Оскільки максимальної складності немає, справжній AGI за скінченний час не настає — завдання для людей залишаються завжди.

Базовий і агресивний сценарії AGI. Тут складність обмежена згори: кількість завдань, доступних людському мозку, скінченна, і за скінченний час автоматизація доходить до межі. Спираючись на оцінку Джеффрі Гінтона, автори беруть два терміни: у базовому сценарії повна автоматизація настає за двадцять років, в агресивному — за п’ять.

«Я раптом змінив свої погляди на те, чи стануть ці штуки розумнішими за нас».

Джеффрі Гінтон, один із «хрещених батьків» глибокого навчання, травень 2023 року; він оцінив появу AGI в термін від п’яти до двадцяти років

Змішаний сценарій — «сплеск автоматизації». Спочатку ШІ швидко забирає велику частку завдань (скажімо, розумових), але залишається нескінченний хвіст завдань, які важко автоматизувати — з юридичних чи культурних причин. Це суміш двох попередніх розподілів.

Заощадження, межі та три результати перегонів

Репрезентативне господарство обирає, скільки споживати, а скільки заощаджувати, щоб максимізувати своє задоволення на всьому горизонті життя. Заощадження стають капіталом, капітал зношується. З цього вибору випливає звичне правило зростання споживання: воно зростає, поки віддача капіталу вища за суму нетерпіння і зносу. Коли економіка надовго осідає в другому режимі, віддача капіталу фіксується на рівні загальної продуктивності, і економіка виходить на шлях рівномірного зростання зі сталою нормою заощаджень.

Далі автори доводять сильний загальний результат — межі для випуску і зарплат. За будь-яких розумних уподобань шляхи капіталу, випуску і зарплат затиснуті між нижньою і верхньою межами. Нижня межа — це випадок замороженого капіталу: капітал не накопичується зовсім. Тут нижня оцінка зарплати спершу зростає з автоматизацією, потім падає; і якщо повної автоматизації досягнуто, зарплата за скінченний час падає до рівня загальної продуктивності. Верхня межа — це випадок, коли капітал миттєво підлаштовується під оптимум за кожного кроку автоматизації. Поки автоматизація неповна, верхня оцінка зарплати зростає з автоматизацією без межі. Але щойно автоматизація стає повною — і верхня межа зарплати стрибком обвалюється до рівня загальної продуктивності.

Ключова думкаЯкщо складність завдань обмежена, то повна автоматизація настає за скінченний час і зарплати обвалюються за будь-якої ощадної поведінки. Якщо ж хвіст завдань нескінченний, підсумок залежить від його «товщини»: достатньо товстий хвіст — зарплати зростають вічно, надто тонкий — автоматизація зрештою обганяє накопичення капіталу і зарплати все одно руйнуються.

Щоб зрозуміти результат перегонів, автори знаходять «урівноважувальну» норму заощаджень — ту, за якої вплив автоматизації на зарплату рівно гаситься накопиченням капіталу. Що сильніший ефект витіснення за вирахуванням ефекту продуктивності, що більше вже накопичено капіталу, що більше завдань автоматизується разом і що швидше зростають обчислення — то вищою має бути норма заощаджень, щоб утримати зарплату від падіння.

Звідси — три можливі результати перегонів (для нескінченного, паретівського хвоста завдань). Перший: автоматизація йде надто швидко порівняно із заощадженнями. Тоді індекс за скінченний час перевалює поріг, економіка провалюється в другий режим, зарплати застигають на рівні загальної продуктивності, а частка праці падає до нуля. Другий: швидкість автоматизації середня. Тоді зарплати зростають вічно, але їхнє зростання стримує накопичення капіталу, а частка праці прямує до одиниці. Третій: автоматизація повільна. Тоді зростання зарплат упирається вже не в капітал, а в саму швидкість автоматизації — і, що цікаво, у цьому режимі що швидша автоматизація, то швидше зростають зарплати і вся економіка, адже автоматизація дозволяє пускати в діло рясний капітал.

Числова ілюстрація: чотири сценарії

Автори задають стандартні параметри (нетерпіння 4 відсотки на рік, знос 10 відсотків на рік, помірна взаємодоповнюваність завдань) і добирають стартову точку так, щоб частка праці спочатку становила 66 відсотків. Потім проганяють усі чотири сценарії.

Сценарій «як завжди». Автоматизується близько 1 відсотка решти завдань на рік. Випуск зростає приблизно на 2 відсотки на рік, а дохід капіталу і фонд зарплати зростають майже нарівні — з ледь помітним сповзанням частки праці. Це той самий третій результат перегонів: капітал накопичується досить швидко, і зростання впирається у швидкість автоматизації.

Базовий сценарій AGI. Частка неавтоматизованих завдань падає до нуля за двадцять років. Зарплати в перші роки злегка зростають, але потім обвалюються — ще до того, як автоматизація стане повною. Після обвалу зарплата дорівнює віддачі капіталу, економіка сидить у другому режимі, де праця і капітал взаємозамінні, і зростає приблизно на 18 відсотків на рік — майже в десять разів швидше, ніж «як завжди».

Агресивний сценарій AGI. Повна автоматизація за п’ять років. Обвал зарплат стається вже приблизно на третьому році. Оскільки рідкісність праці зникає раніше, раніше починається і злет випуску.

Змішаний сценарій. Спершу швидко автоматизується велика частка завдань — і зарплати обвалюються, як в агресивному сценарії: праця раптом стала рясною, а капіталу ще мало. Але з часом капітал накопичується, праця знову стає рідкісною. Приблизно до дев’ятого року капіталу накопичено достатньо, економіка повертається в перший режим, зарплати піднімаються вище за рівень загальної продуктивності та знову зростають разом із подальшою (уже повільнішою) автоматизацією. Цей сценарій показує: попит на працю може впасти через швидку автоматизацію, але пізніше відновитися — якщо залишається довгий хвіст завдань, які машинам не даються.

4

Розширення моделі

Невідтворювані ресурси: повернення дефіциту

Якщо праця перестає бути головним чинником, варто придивитися до того, що раніше звалювали в одну купу під назвою «капітал». Автори ділять чинники на відтворювані (їх можна нарощувати — верстати, обчислювальні потужності, роботи, заводи) і невідтворювані, дані в незмінній кількості (земля, простір, мінерали, сонячна енергія). Який саме дефіцитний ресурс виявиться головним у майбутньому з AGI, передбачити важко: у близькій перспективі вузьким місцем, імовірно, будуть чипи й обладнання для їх виробництва, але це відтворюване; далі дефіцитними можуть стати рідкісні мінерали, а в самій границі — речовина чи енергія.

Автори вводять у модель один невідтворюваний чинник, назвавши його умовно «мінерали або матерія». Поріг між режимами при цьому не змінюється і від кількості цього чинника не залежить. Але довгострокова картина змінюється — на гірше. Головний висновок: за наявності невідтворюваного чинника зарплати завжди зрештою падають до віддачі капіталу, бо економіка за скінченний час усе одно входить у другий режим — незалежно від того, як влаштовано розподіл завдань.

Ключова думкаЯкщо є вузьке місце з невідтворюваного ресурсу, автоматизація зрештою обганяє накопичення капіталу за будь-якого розподілу завдань. Це прямо протилежно випадку без такого ресурсу, де достатньо товстий хвіст завдань дозволяв зарплатам зростати нескінченно.

В ілюстрації автори беруть частку невідтворюваного чинника у випуску в 10 відсотків і сценарій «як завжди» (стала частка завдань автоматизується кожного періоду). Зарплати досягають вершини приблизно через десять років, а через двадцять п’ять років економіка входить у другий режим і повільно сходиться до граничного запасу капіталу. Тобто навіть за нескінченного хвоста неавтоматизованих завдань невідтворюваний чинник гальмує накопичення капіталу, і праця втрачає статус рідкісної за скінченний час.

Автоматизація самого прогресу

Досі єдиною технікою була автоматизація, а загальну продуктивність брали як даність. Але багато хто чекає, що ШІ не просто зробить виробництво ефективнішим, а пришвидшить і сам науковий прогрес. На базовому рівні дослідження й розробки — теж набір атомарних обчислювальних завдань, як і будь-яке виробництво. Автори додають сектор ідей: автоматизовані завдання в ньому можуть робити капітал або праця, неавтоматизовані — лише праця, а випуск нових ідей піднімає загальну продуктивність.

Результат вражає. Коли автоматизація в обох секторах — і у виробництві благ, і у виробництві ідей — заходить достатньо далеко, економіка може зірватися в те, що називають «сингулярністю»: швидко зростаючий капітал породжує вибух досліджень і технічного прогресу, а той підживлює сам себе — і випуск за скінченний час іде в нескінченність. Що прикметно: достатньо, щоб було сильно автоматизовано виробництво благ, — тоді решта умов можуть бути будь-якими скінченними. І важливий момент: у цьому сценарії гранична віддача праці у виробництві благ теж іде в нескінченність разом із випуском.

Примітка. Іншими словами, навіть якщо автоматизація спершу обвалила зарплати до віддачі капіталу, швидкий технічний прогрес від автоматизації самих досліджень потім знову дозволяє працівникам вигравати — після того як автоматизація зайшла достатньо далеко. Автори застерігають: імовірно, і виробництво благ, і виробництво ідей зрештою впруться в невідтворювані ресурси; модель, яка враховувала б і те й інше водночас, виходить за рамки статті.

«Ностальгійні» професії та межі автоматизації

Досі припускали, що завдання автоматизують, щойно це технічно можливо. Але суспільство може вирішити залишити якісь завдання виключно за людьми. Корінек і Юелфс називають такі заняття «ностальгійними»: праця священників, суддів, законодавців може залишитися людською ще довго після того, як машини виконуватимуть її не гірше або краще. Автори вводять окрему функцію вибору: суспільство може автоматизувати лише те, що технічно можливо, але має право частину можливого не чіпати.

Звідси — політичне запитання: як максимізувати зростання зарплат, притримуючи автоматизацію? Відповідь: уряд, який хоче найбільшого довгострокового зростання зарплат, повинен обрати певну помірну сталу швидкість автоматизації. В ілюстрації до базового сценарію AGI такий планувальник приблизно до чотирнадцятого року не втручається — природний темп і так не надто швидкий. Після цього замість обвалу частки праці планувальник пригальмовує автоматизацію. У підсумку зарплати зростають за експонентою, а не обвалюються за лічені роки. Але за це платять випуском: попервах втрата випуску мала, а з часом, відмовляючись від повної автоматизації, економіка втрачає майже весь свій потенціал випуску.

Ключова думкаСповільнення автоматизації — потужний важіль, щоб підняти зарплати. Але в нього є ціна: відмова від зростання випуску. Це прямий компроміс між зарплатами працівників і розміром «пирога».

Різні працівники: суперзірки та решта

Досі працю вважали однорідною. Насправді автоматизація б’є по різних працівниках у різний час — залежно від того, наскільки автоматизовні їхні навички. Автори вводять навичку як максимальну складність завдання, яке працівник здатен виконати. У міру зростання індексу автоматизації частина працівників — ті, чиї навички вже доступні машинам, — стають ідеально замінними й отримують зарплату на рівні віддачі капіталу. Решта, умілі більше, поки незамінні й заробляють більше.

Довгострокова розвилка така. Якщо навички людей обмежені згори скінченним рівнем, то вся праця рано чи пізно втрачає рідкісність — як у сценаріях AGI. Якщо ж серед людей завжди знаходяться ті, хто здатен на як завгодно складні завдання, можливий інший результат: дедалі вужчий прошарок «суперзірок» нагорі заробляє дедалі більше без межі, тоді як частка працівників, чиї зарплати обвалюються до віддачі капіталу, прямує до одиниці. Тобто автоматизація може породити дедалі більшу нерівність між працівниками. Автори відзначають і суміжні випадки: працівники однієї професії можуть різнитися продуктивністю (двоє економістів пишуть статті рівної складності, але один удвічі швидше), а ще людський капітал працівника знецінюється, коли індекс автоматизації «проходить» його рівень, — і втрата тим болючіша, що більше цього капіталу було.

Обчислення як особливий капітал

У базовій моделі капітал був однорідним: автоматизували нове завдання — і наявний капітал плавно «розтікався» на нього. Насправді багато видів капіталу прив’язані до завдання, під яке їх створено, і не переналагоджуються — економісти називають це капіталом «з глини». Найяскравіший приклад сьогодні — обчислювальні потужності: їх гостро бракує, і це гальмує розгортання ШІ на нових завданнях. Автори припускають, що кожна одиниця вкладень прив’язана до свого завдання і може бути вкладена лише після того, як завдання автоматизовано.

Якщо автоматизація йде плавно, це нічого не змінює: під кожне нове завдання вчасно накопичується потрібний капітал. Але за різкого сплеску (а бурхливий злет великих мовних моделей — саме такий випадок) накопичення відстає. Уявімо, що разом стала доступною ціла маса завдань, а спеціального капіталу під них ще немає. Тоді попервах ці завдання все одно роблять люди, хоча технічно їх уже можна автоматизувати. У міру накопичення обчислень картина проходить три стадії: спочатку, поки обчислень мало, вони і праця — ідеальні замінники, і додавання обчислень збиває зарплату, зате піднімає віддачу звичайного капіталу; потім, коли людей із цих завдань витіснили, віддача обчислень відривається від зарплати і різко падає, а зарплати й віддача звичайного капіталу зростають; нарешті віддача обчислень зрівнюється з віддачею решти капіталу.

Ключова думкаШвидка автоматизація може ненадовго зробити окремі види спеціального капіталу — на кшталт обчислень — украй прибутковими. Але капітал відтворюваний: його накопичення зрештою з’їдає наддохід. Після періоду підлаштування спеціальний капітал під нові завдання стає просто ще одним капіталом зі звичайною ринковою віддачею.

Підсумки

Головні висновки

  1. Роботу людини можна уявити як набір атомарних завдань, що різняться обчислювальною складністю, а прогрес техніки — як поріг («індекс автоматизації»), який їде праворуч і забирає дедалі складніші завдання в людей.
  2. Що станеться із зарплатами, вирішує форма розподілу завдань за складністю. Нескінченний «товстий» хвіст завдань — зарплати можуть зростати вічно; тонкий хвіст або обмежена згори складність — зарплати зрештою обвалюються.
  3. Удар по зарплатах може прийти навіть раніше за повну автоматизацію: коли завдань «лише для людини» залишається мало, праця втрачає рідкісність, її віддача падає до віддачі капіталу, і економіка поводиться як модель, де випуск прямо пропорційний капіталу.
  4. Вплив автоматизації на зарплату має форму горба: спершу вгору (рясний капітал іде на нові завдання), потім униз (витіснена праця тисне на решту людських завдань). Віддача капіталу при цьому завжди зростає.
  5. У динаміці все вирішують перегони автоматизації та накопичення капіталу. Достатнє накопичення капіталу здатне втримати зарплати від падіння; за обмеженої складності завдань повна автоматизація і обвал зарплат неминучі за будь-якої ощадної поведінки.
  6. Невідтворювані ресурси (земля, мінерали, речовина) стають вузьким місцем: вони гальмують накопичення капіталу і зрештою все одно зводять зарплати до віддачі капіталу, навіть за нескінченного хвоста завдань.
  7. Автоматизація самого наукового прогресу може перезапустити зростання зарплат після початкового обвалу і навіть вивести випуск на «сингулярність».
  8. Сповільнення автоматизації та збереження частини професій за людьми здатні надовго втримати зарплати від обвалу — ціною відмови від частини випуску. А за неоднорідної праці автоматизація загрожує вузьким прошарком дедалі багатших «суперзірок» на тлі знецінення більшості.