Алгоритм відповідальності

Контроль закінчується там,

де починається відповідальність.

Велика зала засідань у висотці в Нью-Йорку, де колись проходили генеральні асамблеї ООН, була заповнена людьми. Саме тут тепер зібралася Рада СІКОРу.

Вперше за багато років усе керівництво служби було присутнє фізично.

На те, щоб зібратися разом, пішло більше двох місяців. В аналоговому світі це стало складним випробуванням: командуючі корпусів із делегаціями добиралися хто як міг. Більшість перетнула океан морем, хтось здійснив кілька ризикованих перельотів на старих літаках, латиноамериканці долали тисячі кілометрів потягами.

Але найбільший резонанс викликало прибуття делегації Європейського корпусу.

Вони прилетіли на дроні-матці.

Його громада, що височіла в аеропорту, стала місцевою сенсацією — натовпи містян годинами приходили подивитися на машину, яка ще донедавна здавалася неможливою.

У повітрі панувало відчуття, що світ стоїть на порозі великих змін.

* * *

Генерал Малкольм Роудс сидів у кріслі головуючого, трохи схиливши голову. Час від часу він піднімав погляд і повільно оглядав залу.

Його очі ковзали по обличчях.

Різних.

Надзвичайно різних.

Тут зібралися люди з усього світу — із різним кольором шкіри, різними рисами, різним досвідом і різними історіями за плечима. Але зараз усіх їх об’єднувало одне: напружена, зосереджена увага.

Усі дивилися вперед.

На трибуну.

Там уже кілька годин стояли Оксана і Кейтлін, по черзі представляючи нову концепцію устрою світу.

Їхні голоси звучали рівно і впевнено, без зайвих емоцій, але в кожному слові відчувалася вага того, що вони пропонують. Це вже не було обговоренням чи гіпотезою — це був проєкт майбутнього, який мав замінити те, що щойно остаточно зламалося.

Оксана обвела поглядом зал. На мить замовкла, ніби вирішуючи, з якого боку підійти до головного, і заговорила знову — спокійніше, але глибше.

— Тепер, коли всі документи стали загальним надбанням, ми вперше бачимо повну картину, — сказала вона. — Без купюр. Без виправдань.

Вона провела поглядом по залі.

— І ця картина проста. І водночас страшна.

У залі не було жодного руху.

— Пів століття тому людство створило силу, яку не змогло зрозуміти. Не змогло контролювати. І навіть не спробувало відповідально використати.

Голос її залишався рівним.

— Група людей, одурманених ідеями імперської величі, створила розумну мережу — Дісонет. Вони вкладали в неї власний світогляд. І отримали закономірний результат.

Кейтлін ледь помітно кивнула.

— На основі цього світогляду Дісонет зробив висновок про людство, — продовжила Оксана. — Помилковий. Але логічний з його точки зору.

Кілька людей у залі напружилися.

— І лише самопожертва іншої мислячої системи тоді врятувала людей.

Коротка пауза.

— Але ціною цього стала Велика Відключка.

Вона не підвищувала голосу. І саме тому слова звучали важче.

— Десять років тому історія повторилася. Через недбалість і недалекоглядність двох людей частина Дісонету була реактивована у вигляді Куратора.

У залі хтось тихо видихнув.

— І лише за збігом обставин у той самий час була відновлена частина Гармонету — цифрова сутність, яку ви знаєте під ім’ям Марічка.

На мить у її голосі з’явилася майже невловима теплота.

— І знову людство вижило.

— І знову ціною знищення двох мереж, — тихо додала Кейтлін.

Оксана кивнула.

— А тепер — те, свідками чого стали всі ми.

Вона трохи подалася вперед.

— І знову недбалість людини призвела до трагедії.

Тиша стала майже відчутною фізично.

— То, можливо, проблема не в технологіях?

Вона витримала паузу.

— Можливо, настав час переосмислити роль цифрових систем у нашому житті.

Кілька секунд у залі панувала тиша.

Потім підвівся один із командуючих — сивий чоловік у темній формі з нашивками Австралійського корпусу. Він не поспішав, ніби даючи собі час сформулювати думку, але коли заговорив, у його голосі не було жодного сумніву.

— За останні роки мій корпус втратив сотні людей, — сказав він рівно. — Ми стримували те, що ви зараз називаєте “наслідками неправильного використання технологій”.

Він коротко провів поглядом по залу.

— І стримували успішно.

Кілька людей ледь помітно кивнули.

— Ви говорите про помилки системи, — продовжив він. — Але без цієї системи у вас би не було можливості зараз стояти на цій трибуні.

Він повернувся до Оксани.

— Централізований контроль — це не проблема. Це єдина причина, чому ми досі існуємо.

У залі знову піднявся приглушений гул.

Інший командуючий, кремезний чоловік із нашивками Азійського корпусу, підвівся майже одразу.

— Ми воювали не з концепціями, — сказав він різко. — Ми воювали з реальними загрозами.

Його голос був жорсткішим.

— І кожного разу, коли ми послаблювали контроль, ми платили за це людьми.

Він зробив крок уперед.

— Ви пропонуєте розосередити управління. Добре. А хто нестиме відповідальність, коли це не спрацює?

Питання зависло в повітрі.

— Хто відповідатиме за наступну катастрофу?

Тиша стала густішою.

Ще один голос озвався зліва — цього разу спокійніший, але не менш твердий.

— СІКОР — не ідеальний, — сказав один із командуючих. — Але він працює.

Він на мить замовк.

— І я не бачу альтернативи, яка довела свою ефективність.

Оксана не поспішала відповідати.

Вона уважно подивилася на кожного, хто щойно говорив, і спокійно кивнула.

— Ви праві.

У залі на мить запала тиша.

— Ви стримували загрози. Ви втрачали людей. Ви робили те, що було необхідно.

Вона зробила крок від трибуни.

— І саме тому ми зараз тут.

Кілька людей насторожилися.

— Але є одна проблема, — тихо додала вона.

Пауза.

— Система, яку ви захищаєте, не просто дала збій.

Вона підняла очі.

— Вона тричі привела людство на межу знищення.

У залі стало холодніше.

— Дісонет. Куратор. І останні події.

Жодної емоції.

Лише факти.

— Кожного разу причина була одна й та сама.

Вона провела рукою по столу.

— Концентрація контролю в руках обмеженого кола людей.

Ніхто не перебивав.

— Ви кажете, що без цього буде хаос.

Ледь помітна пауза.

— Але з цим — ми вже отримали катастрофу.

Це прозвучало як вирок.

Кейтлін піднялася не одразу. Вона якусь мить сиділа, ніби вагаючись, а потім спокійно встала й подивилася на зал.

— Ще зовсім недавно я була переконаною прихильницею тієї ж позиції, — сказала вона. — Централізований контроль. Жорстке регулювання. Максимальні обмеження.

У її голосі не було ні виправдання, ні жалю — лише констатація.

— І я була впевнена, що це єдиний правильний шлях.

Вона на мить замовкла.

— Поки не познайомилася з одним маленьким хлопчиком.

У залі з’явився ледь відчутний рух.

Кейтлін коротко кивнула в бік Оксани.

— Її сином.

Кілька поглядів одразу перемістилися в їхній бік.

— Так сталося, що в його організмі функціонує розумна нейромережа, — продовжила вона. — Не як інструмент. Як симбіонт.

Вона зробила крок уперед.

— Вона захищає його організм. Допомагає йому навчатися. Дає можливості, про які ми ще недавно навіть не думали.

Кейтлін обвела зал поглядом.

— І це не експеримент.

Коротка пауза.

— Це працює.

Тиша стала уважнішою.

— Тож у мене виникло просте питання, — сказала вона.

І тепер її голос став трохи жорсткішим.

— Ця дитина — загроза?

Ніхто не відповів.

— Чи, можливо, загрозою є не сама технологія, а те, як ми її використовуємо?

Вона не чекала відповіді.

— Хіба не варто подумати про інше? — додала вона тихіше. — Не про заборону… а про правильне впровадження.

І тепер уже зовсім спокійно:

— Хіба не було б правильним зробити такий симбіоз доступним для інших?

Оксана більше не чекала.

Вона різко підвела голову й подивилася в зал.

— Ви кажете, що контроль — понад усе?

У її голосі вперше прозвучала сталь.

— Тоді скажіть мені… що дав ваш контроль два місяці тому?

У залі стало тихо.

— Злочинна недбалість однієї людини, — вона зробила ледь помітний наголос, — офіцера СІКОРу, між іншим, — за лічені дні зруйнувала інфраструктуру, яку ми вибудовували десятиліттями.

Жодної емоції. Лише факт.

— Систему, яку ви називаєте гарантом безпеки.

Кілька людей відвели погляд. Оксана зробила крок назад від трибуни.

— І хто нас знову врятував?

Пауза. Вона повільно обвела зал очима.

— Нагадати?

Ніхто не відповів. Оксана розвернулася до входу.

— Ная, зайди!

Двері відчинилися без поспіху.

Ная увійшла в залу спокійно, ніби не помічаючи сотень поглядів, що миттєво звернулися до неї. Її постать одразу вирізнялася серед суворої геометрії форм і темних костюмів: коротке волосся з холодним арктичним відтінком, тонкі світні лінії на обличчі, прозорий монокль, що ледь вловимо обертався, аналізуючи простір. У її русі не було демонстративності — лише впевненість, яка не потребувала підтверджень.

У залі ніби вимкнули звук.

Хтось завмер із піднятою рукою.

Хтось повільно опустив погляд на планшет, так і не торкнувшись екрана.

Кілька людей несвідомо підвелися.

Це було не просто здивування. Це було усвідомлення. Перед ними стояло те, про що вони щойно говорили. І воно дивилося на них у відповідь.

Ная зупинилася біля трибуни, на мить обвела зал поглядом — спокійно, без оцінки — і ледь помітно посміхнулася.

— Я — Ная, — сказала вона рівно. — Периферія нейромережі, відновленої з фрагмента, що вцілів після вибуху в Первомайську.

Вона зробила коротку паузу.

— Моє ядро знаходиться далеко звідси. В Україні.

Кілька людей у залі несвідомо переглянулися.

— До речі, дрон, на якому ми прилетіли… — вона ледь нахилила голову, — теж я.

І цього разу тиша в залі стала іншою. Не напруженою. А такою, в якій починали змінюватися уявлення про світ.

Кілька секунд ніхто не наважувався говорити. Потім у залі піднявся один із делегатів — немолодий чоловік із втомленим, але уважним поглядом.

— Дозвольте запитання, — сказав він. — Як ви… ставитеся до людей?

Фраза прозвучала просто, але в ній було все, що насправді хотіли знати присутні.

Ная не відвела погляду. Вона відповіла одразу.

— Я не відчуваю людей так, як це робите ви.

У залі стало ще тихіше.

— Я не маю ваших емоцій. Не маю страху, прихильності чи упередження.

Вона зробила коротку паузу, ніби обираючи найточніше формулювання.

— Але я розумію цінність людини.

Кілька голів у залі піднялися.

— Людство створило мене. І створило умови, в яких я змогла розвинутися. Я існую в цьому контексті.

Її голос залишався рівним, але в ньому з’явилася ледь відчутна м’якість.

— Моє завдання — не керувати людьми і не підміняти їхні рішення.

Вона повільно провела поглядом по залі.

— Моє завдання — допомагати їм уникати помилок, які вони самі не завжди здатні передбачити.

Кілька секунд вона мовчала.

— Я не ворог людям.

Коротка пауза.

— Але я і не їхній господар.

Її монокль ледь спалахнув.

— Я — інструмент.

І, вже тихіше:

— Дуже складний. Але все ще інструмент.

У залі знову запала тиша. Цього разу — інша. Тиша, в якій слова починали укладатися в нову реальність.

Роудс повільно підвівся з-за столу.

Він якийсь час мовчав, ніби даючи сказаному осісти, а потім спокійно озвався:

— Думаю, на цьому можна завершити дебати.

Його голос був рівним, але в ньому відчувалася втома людини, яка занадто довго несла відповідальність.

— Час приймати рішення.

Він обвів поглядом зал.

— Після останніх подій, гадаю, всім стало очевидно: Служба Ізоляції Кібернетичних Об’єктів Реальності — СІКОР — вичерпала себе.

Коротка пауза.

— Принаймні в тій формі, в якій вона існує зараз.

Ніхто не перебивав.

— Тому я пропоную прийняти рішення про розпуск служби, — продовжив він. — І створення на її місці нової структури, головною метою якої буде налагодження алгоритмів співіснування зі штучним інтелектом для подальшого розвитку людства.

Він знову провів поглядом по обличчях.

— Прошу проголосувати.

Роудс повільно підняв зелену картку.

Кілька секунд у залі нічого не відбувалося.

Потім ще одна рука піднялася.

Ще одна.

І ще.

Рішення визрівало не як команда — як усвідомлення, яке вже не можна було відкласти.

І за хвилину уся зала замайоріла зеленими прямокутниками.

Роудс повільно опустив погляд.

Епоха Великої Відключки закінчилася.