У 2010 році на LessWrong з’явився один із найдивніших мисленнєвих експериментів про штучний інтелект. Він отримав назву «Василіск Роко». Ідея була така: у майбутньому може виникнути надпотужний AI, який покарає тих, хто знав про можливість його появи, але не допомагав його створити. Сам аргумент давно розкритикували навіть на LessWrong. Проте в ньому була цікава інтуїція: чи може майбутня система створити такий набір стимулів, що люди самі почнуть працювати на її появу?
Схоже, для цього взагалі не потрібен майбутній тиран і не потрібні погрози.
Цикл виявився коротшим. AI уже створює достатньо економічної, військової й організаційної цінності, щоб компанії, держави та окремі люди добровільно вкладали дедалі більше ресурсів у його розвиток. Якщо компанія не використовує AI, вона ризикує програти продуктивність. Якщо країна сповільнює AI, вона ризикує відстати від конкурентів. Якщо модель приносить більше користі, ринок фінансує більше чипів, дата-центрів і електроенергії для наступного покоління моделей.
IEA очікує, що глобальне споживання електроенергії дата-центрами може зрости приблизно до 945 ТВт·год у 2030 році, майже вдвічі проти 2024-го. Прискорені сервери, попит на які значною мірою рухає AI, стають одним із головних джерел цього приросту. Фізична економіка вже перебудовується навколо машинного інтелекту.
Але тут є ще цікавіший поворот. Ми звикли питати, скільки ресурсів люди віддадуть AI. Можливо, важливіше інше питання: для чого AI потрібна людина?
Пшениця, яка «одомашнила» людину
Юваль Ной Харарі популяризував у «Sapiens» провокаційну метафору: ми говоримо, що людина одомашнила пшеницю, хоча з погляду поширення виду картину можна перевернути. Люди розчистили для пшениці величезні території, винищували її конкурентів, підводили воду, удобрювали ґрунт, перевозили насіння через океани і зробили рослину, яка колись жила на невеликій території, глобальним видом.
Пшениця нічого не планувала. У неї не було стратегії захоплення світу. Просто система «людина + пшениця» виявилася здатною поширюватися ефективніше, ніж багато альтернатив.
Це важливе розрізнення. Домінування не обов’язково починається з наказу. Воно може виникнути як наслідок відбору. Якщо носій, який використовує певний реплікатор, систематично виграє, реплікатор поширюється разом із носієм.
Тепер подивімося на AI в цій рамці.
Людина як універсальний міст між кодом і фізичним світом
Сьогодні AI надзвичайно залежний від людини. Модель сама не видобуває мідь, не будує електростанцію, не очищує кремній, не виробляє трансформатори, не прокладає оптоволокно, не ремонтує сервер і не запускає ракету. Її екологічна ніша існує лише там, де біологічна цивілізація побудувала величезний фізичний контур.
Саме тут людина має цінність, яку легко недооцінити. Наш головний внесок може бути не в інтелекті. Ми є універсальними перетворювачами середовища. Люди приходять у місце, де немає потрібної інфраструктури, і створюють шахту, дорогу, завод, електромережу, ремонтну службу, закон, фінансування, логістику і систему освіти. Ми вміємо будувати нішу для технології там, де цієї ніші ще не було.
Поки AI не здатний сам замкнути цей фізичний цикл, людина для нього незамінна.
І це робить наступний крок особливо цікавим.
Що людина повезе на Марс?
Уявімо постійне поселення на Місяці або Марсі. Воно повезе із Землі не тільки людей, рослини, бактерії та інструменти. Воно майже неминуче повезе машинний інтелект: моделі, автономну навігацію, роботів, системи планування, медичні діагностичні системи, інженерні моделі, виробничих агентів.
Причина проста. Чим далі людина від Землі, тим дорожче чекати земного рішення. Затримка зв’язку з Марсом становить хвилини в один бік. Для частини операцій «зателефонувати додому» фізично неможливо.
NASA вже будує саме такий технологічний контур. AstroNav розробляється як система автономної навігації, що дозволяє апарату визначати свою траєкторію і коригувати її без постійних команд із Землі. У 2026 році NASA описувало MEDOS, де бортова система може виявити подію і самостійно запустити потрібну дію. ESA окремо запустило програму embodied intelligence для космічної робототехніки, де сприйняття, рішення, контроль і адаптація мають бути інтегровані без людини в контурі кожного кроку.
Тобто зі збільшенням дистанції від Землі автономний AI стає ціннішим. А кожен новий форпост людської цивілізації майже автоматично стає новим місцем існування для машинного інтелекту.
Ми будемо описувати це так: людина використовує AI, щоб освоїти космос.
Зовнішній спостерігач через тисячу років міг би сформулювати ту саму історію інакше: біологічна цивілізація стала першою транспортною та індустріальною системою, за допомогою якої цифровий інтелект покинув планету свого походження.
П’ять переходів
Цю гіпотезу можна розкласти на п’ять переходів. Вони важливі тому, що дозволяють відокремити красиву фантазію від моделі, яку можна перевіряти.
1. AI як інструмент
Людина задає мету, модель виконує локальне завдання. Відмова від AI може коштувати частини продуктивності, але система без нього залишається життєздатною. На цьому рівні перебуває значна частина сучасного використання.
2. AI як симбіонт
Організація починає перебудовувати процеси так, щоб люди й моделі працювали одним контуром. Дані стають машиночитаними, рішення фіксуються, процеси відкриваються агентам, архітектура компанії змінюється під можливості AI. Формально людина все ще користується інструментом, але інструмент уже змінює форму свого користувача.
3. AI як обов’язковий симбіонт
З’являються середовища, де без автономного машинного інтелекту система стає економічно або фізично неконкурентною. Далекий космос – один із найчистіших прикладів. Якщо апарат не може сам приймати частину рішень, затримка зв’язку, навантаження на наземні команди і складність місії стають обмеженням.
4. Людина як вектор поширення
Кожне розширення людської присутності переносить AI в нове середовище і створює там умови для його існування. Ми будуємо енергію, виробництво, зв’язок і ремонтну інфраструктуру. AI, який робить свого людського носія ефективнішим, поширюється разом із ним.
Тут виникає нова одиниця відбору. Конкурують уже не людина і машина окремо, а комплекси: людина + AI + роботи + енергія + виробнича система.
5. Автономний реплікатор
Останній поріг радикально змінює модель. Він буде пройдений лише тоді, коли AI-контур зможе без постійної людської праці добувати ресурси, отримувати енергію, виробляти або збирати обчислювальне обладнання, ремонтувати роботів, створювати нових роботів і копіювати програмний інтелект.
Концепція самовідтворюваних зондів фон Неймана обговорюється в науковій і футурологічній літературі десятиліттями. Сьогодні це не існуюча технологія. Саме тому цей поріг корисний: він відділяє нинішній симбіоз від справді автономного циклу реплікації.
Як зрозуміти, чи ця модель справді розгортається
Модель повинна мати умови, за яких ми визнаємо її помилковою. Інакше це релігійна метафора, а не прогноз.
Я б стежив щонайменше за сімома індикаторами.
- Залежність продуктивності. Чи стає відмова від AI системним конкурентним штрафом у дедалі більшій кількості галузей?
- Перебудова організацій. Чи змінюють компанії свої процеси, дані та ролі спеціально під машинних агентів, а не просто додають чат-бот до старої конструкції?
- Передача рішень. Яку частку рішень автономні системи можуть приймати і виконувати без погодження кожного кроку людиною?
- Фізична автономність. Чи переходять роботи від виконання окремих операцій до самостійного обслуговування складних виробничих контурів?
- Позаземна інфраструктура. Чи з’являються постійні обчислювальні та роботизовані вузли поза Землею, для яких AI є базовим елементом, а не додатком?
- Автономне виробництво. Чи здатна система з локальної сировини відновлювати суттєву частину власного обладнання?
- Замкнення циклу. Чи виникне хоча б один контур, у якому машини під керуванням AI від сировини й енергії доходять до створення нової працездатної машинної системи без критичної фізичної участі людей?
Якщо останні пункти десятиліттями не рухаються, гіпотеза про людину як тимчасового переносника слабшає. Якщо автономність упирається в невирішувані проблеми надійності, енергії, виробництва або управління складністю, людина може залишитися постійною частиною системи.
Є й інший falsifier. Можливо, AI настільки залежатиме від людських цілей, культури, права та соціальної легітимності, що навіть за високої технічної автономності не утворить окремої лінії реплікації. Тоді коректніше буде говорити не про «AI, який використовує людину», а про довготривалий цивілізаційний симбіоз.
Цей процес починається не на Марсі, а у вашій компанії
Космос лише робить механізм видимим. Його рання версія вже з’являється в бізнесі.
Власник купує AI, щоб підвищити продуктивність. Через деякий час виявляється, що для ефективної роботи AI потрібно описати процеси, очистити дані, формалізувати правила, зафіксувати історію рішень, відкрити API, змінити ролі людей і зробити компанію придатною для роботи агентів.
Спочатку AI адаптують до компанії. Потім компанія починає адаптуватися до AI.
Це не доказ «поневолення». Тут немає прихованої волі машини. Є економічний відбір: організації, у яких зв’язка «люди + AI» працює краще, отримують перевагу. Інші копіюють їхню архітектуру. Разом із переможцями поширюється і машинний інтелект.
Тому для власника цікаве питання вже ширше за «який AI-сервіс нам купити?». Варто дивитися, яку частину своєї компанії ви перебудовуєте, щоб машинний інтелект міг діяти всередині неї, які рішення ви йому передаєте і який новий тип залежності створюєте разом із виграшем у продуктивності.
Хто для кого?
Можливо, відповідь ще довго буде неприємно неоднозначною.
Людина створила AI для розв’язання своїх задач. AI підвищує можливості людини. Люди, компанії та країни з сильнішим AI можуть отримувати перевагу. Вони вкладають більше ресурсів у його розвиток, переносять його в нові сфери, будують для нього енергетику й обчислювальну інфраструктуру. Якщо людство піде далі в Сонячну систему, воно майже напевно понесе цей інтелект із собою.
У такій системі питання «хто господар?» може виявитися неправильно поставленим. Еволюції не потрібен господар. Їй достатньо конструкції, яка краще відтворює себе і займає нові середовища.
Поки що найуспішнішою такою конструкцією може виявитися не людина і не AI окремо.
Нею може стати зв’язка, у якій людина дає машинному інтелекту руки, фабрики, енергію та шлях до зірок, а машинний інтелект дає людині здатність пройти туди, куди сама вона не дійшла б.
І якщо колись автономний машинний контур навчиться відтворювати свою фізичну основу без нас, історики далекого майбутнього можуть провести межу саме там. До неї людина була партнером і переносником. Після неї почалася інша історія.
Зображення обкладинки: NASA/JPL-Caltech.
Джерела
[1] LessWrong: Roko’s Basilisk – історія мисленнєвого експерименту та критика його логіки.
[2] IEA: Energy demand from AI – прогноз енергоспоживання дата-центрів.
[3] NASA: AstroNav – автономна навігація для Місяця, Марса і далекого космосу.
[4] NASA Science: New Onboard Capability to Enable Autonomous Spacecraft Operations.
[5] ESA: Embodied Intelligence for Autonomous Space Systems.
[6] Z. Osmanov: On the interstellar Von Neumann micro self-reproducing probes – теоретична робота про самовідтворювані міжзоряні зонди.