“Але жінка відкрила велику кришку скрині і випустила всі злидні для людського роду”
Міф про скриньку Пандори
2 жовтня 2029 року. Сан-Франциско.
Ранок над затокою Сан-Франциско був свіжим та прохолодним. Вчений Майкл Кравченко часто приходив сюди перед роботою. М’який шепіт хвиль океану завжди допомагав йому зосередитися на своїх думках та знайти рішення в наукових пошуках. Цього ранку Майкл Кравченко провів тут більше часу, ніж зазвичай. Цей день мав стати визначним у його житті та в історії науки – запланований запуск штучного інтелекту, над створенням якого він працював як головний архітектор. Це була справа всього його життя, його найбільше досягнення.
Оточений миром природи, Майкл відчував, як на нього насуваються сумніви. Він думав про те, як запуск штучного інтелекту змінить життя людей. З одного боку, це могло бути початком нової ери – ери, де технології допомагатимуть вирішувати найскладніші завдання та покращувати якість життя. З іншого – були побоювання та невпевненість у безпеці. Чи не створить він випадково монстра, некерованого та непередбачуваного?
Думки вченого блукали між можливостями та ризиками, між надією та страхом. Він знав, що сьогоднішній день стане віхою, яка визначить майбутнє не лише його кар’єри, а й можливо всього людства.
Врешті, зібравши свої думки, Майкл повернувся від берега та попрямував до офісу. Шлях до першого запуску штучного інтелекту був не простою подорожжю до місця роботи – це був шлях до реалізації його найзаповітнішої мрії, шлях, на якому він мав вирішити, чи варто ця мрія всіх ризиків, які вона несла.
***
В Йерба-Буена Центрі в Сан-Франциско цього дня панувала неймовірна атмосфера. Серед відвідувачів часто лунало порівняння їхніх емоцій з відчуттями на культових презентаціях Стіва Джобса. Але багато учасників презентації сьогодні очікували чогось більшого. Компанія NovusAI буквально за кілька років виросла з мало кому відомого стартапу до глобального гравця в ІТ-сфері. Їх технології з використанням ШІ заполонили ринок і на наших очах змінювали багато сфер повсякденного життя. На цей день NovusAI анонсувала презентацію чогось нового та революційного. Проте, інтриги майже не було. Так, сьогодні мало статися те, чого всі очікували давно. Компанія планувала оголосити про запуск першого в історії загального штучного інтелекту.
Джозеф Майєр – виконавчий директор, CEO компанії NovusAI, незважаючи на свою молодість, вже став символом революції в області ШІ-технологій, саме від нього всі очікували реального результату та прориву. Це мав бути його день. Раніше засновники стартапів намагалися копіювати Стіва Джобса. Та цей час минув, тепер – епоха Джозефа Майєра. А після запланованої в цей день презентації, якщо буде продемонстровано саме те, на що всі очікували, Джозеф Майєр остаточно стане номером один та живою легендою в сфері ІТ.
До презентації ретельно готувалися, адже на думку керівництва компанії, важливість цієї події важко переоцінити. Освітлення сцени, аудіо ефекти, все було налаштовано так, щоб максимально підкреслити той технологічний ривок, якому буде дано офіційний старт саме тут.
***
Популярна техно-блогерка Міраї Сато заздалегідь почала свій стрім про сьогоднішню подію.
«Я отримала кілька підтверджень, що вони дійсно створили штучний інтелект, який мислить як людина та має емоції. Також, мої джерела в уряді повідомили про відсутність заперечень з боку влади. Виглядає так, що представники влади не бачать ризиків», – сказала вона.
Міраї показала відеовставку, де декілька сотень протестувальників з плакатами вигукують якісь гасла, і продовжила:
«На відміну від антиШІ активістів, які вже почали свою акцію біля місця проведення презентації. Лідер активістів Такер Джонсон напередодні випустив вірусне відео, в якому описав всі можливі наслідки створення штучного інтелекту. Він закликає людей вжити всіх заходів, щоб не допустити створення монстра. Його відео вже набрало мільйон переглядів. Але…», – блогерка цинічно посміхнулась, – «він зміг зібрати лише якихось пару сотень неробів і неадекватів. Я сумніваюся в масовій підтримці цього короля теорій змов».
Блогерка говорила впевнено та емоційно, в своєму фірмовому стилі. Вона намагалася знайти якийсь ексклюзив навколо цієї події, повідомити щось першою.
«Не здивуюся, якщо NovusAI знайшли спосіб задобрити владу, щоб їм не мішали. Ну, ви знаєте, як це буває в світі корпорацій. Або це все танці на хайпі, і нам збираються продемонструвати якусь нову версію розумного асистента, який є банальним генератором тексту», – сказала Міраї, роблячи паузу та гортаючи стрічку в своєму планшеті.
«А зараз я переключуся на трансляцію з презентації. Ну подивимося, що нам буде впарювати цей самозакоханий псевдогеній Маєр з його корпоративними друзями», – завершила вона.
***
Біля дверей службового входу до Йерба-Буена Центру юрмилися технічні працівники, завершуючи останні приготування. Майкл Кравченко і Джозеф Маєр вийшли з дверей і попрямували на паркувальний майданчик.
— Майкле, скажи чесно, ти міг уявити собі, що події розвиватимуться таким чином, коли ми вперше зустрілися? — Джозеф був переповнений емоціями.
— Здається, пройшла ціла вічність. Чи міг я це уявити? Коли третьокурсник з божевільними амбіціями пропонує мені кинути посаду професора і піти працювати в стартап, щоб створити штучний інтелект… Ну не знаю.
— Але ти погодився! Ти відчував, що це правильний шлях здійснити давню мрію.
— Так. Чесно кажучи, я дійсно приблизно так це і уявляв, — Майкл підійшов до своєї машини. Він мав поїхати до офісу компанії, щоб контролювати перший запуск, у той час як Джозеф буде проводити презентацію.
Майкл зупинився і замислився на мить.
— О, Майкле, в тебе знову ці сумніви. Це не атомна бомба і навіть не кулемет. Це лише комп’ютерна програма. Нічого страшного статися не може, — Джозефу часто доводилося переконувати Майкла, що створення штучного інтелекту не несе ніяких загроз для людства і що це є природнім розвитком інформаційних технологій.
— Врешті-решт, якщо ШІ створимо не ми, то його створить хтось інший, можливо, божевільний диктатор. Краще це будемо ми, — Джозеф похлопав Майкла по плечу.
Вони провели разом майже двадцять років у плідній спільній роботі. Природно, що їхні стосунки були майже як батька та сина.
***
На сцену вийшли два десятки людей, серед них генеральний директор, рада директорів та деякі інші керівники компанії. Слово взяла голова ради директорів Вікторія Свіфт.
— Вітаю вас, друзі. Ми з вами живемо в чудову епоху, час, коли людство робить гігантські кроки в своєму розвитку. І я дуже рада, що наша чудова команда, наша компанія, всі наші партнери та друзі ідуть разом у фарватері грандіозних змін. Ми сьогодні приготували для вас грандіозний сюрприз. Але чи для когось тут це буде сюрпризом? — сказала вона.
Вікторія Свіфт зробила паузу, щоб зал та люди на сцені відреагували сміхом. Після вдалого жарту Вікторія продовжила:
— Так-так. Ми всі чудово знаємо, що саме ми побачимо на цій сцені. У вас є очікування, у мільйонів людей є очікування. І ви отримаєте саме те, на що очікуєте!
Зал вибухнув оваціями. Люди на сцені закивали головами.
За подіями в залі слідкували десятки мільйонів людей у всьому світі. Велися десятки тисяч відео та текстових трансляцій блогерами на всіх можливих платформах.
Вікторія Свіфт запропонувала людям на сцені поділитися своїми очікуваннями та згадати шлях, який пройшла їхня компанія від амбітної ідеї до успішної ІТ-компанії, як вони разом змінювали життя всього людства. Члени ради директорів та топ-менеджери на сцені один за одним ділилися своїми емоціями, думками, спогадами та очікуваннями. Зал аплодував та підтримував кожного спікера. Останнім слово взяв CEO Джозеф Майєр.
— Ми пройшли дійсно вражаючий шлях. Ви б знали, як важко було переконувати інвесторів, що ми можемо зробити те, що не вдається гігантам ІТ-індустрії. Іноді ми вдавалися до божевільних кроків, — Джозеф з хитрою усмішкою повернувся до інших людей на сцені. Вони закивали, демонструючи деяку дитячу винуватість, дехто розвів руками, ніби кажучи: “Ну що зробиш, буває”.
— Ми подолали всі перешкоди на початку нашої історії, ми зібрали справжню команду та створили неймовірні продукти. А зараз ми починаємо нову сторінку в нашій історії. Так, ми багато говорили про це. Так, було багато звинувачень у заробітку на хайпі. Так, багато людей не вірили, що це можливо. Що можливо створити істоту, яка буде мислити як людина, яка буде мати душу. Вони не вірили, — Джозеф зробив паузу і оглянув весь зал, окремо подивився в камери відеооператорів, які вели трансляцію. Кілька секунд тиші.
— Але ми зробили це!
Зал вибухнув в екстазі. Трафік соціальних мереж раптово збільшився в рази, цифри переглядів відеострімів полетіли вгору. На екрані на сцені з’явився напис “Suffragium 1” та зображення логотипу.
***
В цей час в офісі компанії NovusAI тривали останні перевірки готовності до остаточного запуску штучного інтелекту “Suffragium”. Спеціально підібрана команда мала слідкувати за тим, щоб все відбулося якнайкраще. Технічний директор Раджив Пател був призначений координувати запуск. Команда розташувалася в кімнаті за круглим столом, програмісти та інженери, кожен зі своїм лептопом.
Компанія вирішила провести перший запуск у прямому ефірі, щоб надати події більшого значення. Керівництво було впевнене в успішності запуску і не сумнівалося, що це стане історичною подією. Перед запуском було проведено тисячі тестів, але всю систему разом у робочому режимі ще не запускали.
Раджив глянув на годинник і звернувся до команди:
— Отже, командо, момент наближається. Ми вже проводили тестові запуски, і ви самі знаєте, вони були успішними. Ми фокусуємося на двох завданнях: запуск має бути успішним і безпечним. Кожен з вас слідкує за певними показниками і так само може зупинити систему, якщо побачить, що щось йде не так, — Раджив оглянув усіх присутніх за столом. — А тепер можемо відкинутися на спинку крісла і насолоджуватися переходом до нової ери. Чекаємо команди на запуск.
Майкл Кравченко, також член цієї команди, закотив рукави і підсунув лептоп ближче до себе.
— Сподіваюсь, результат нас не розчарує, — сказав Майкл про себе, але так, щоб його чули всі.
— Геть сумніви, друже! Ми робимо величезну справу. Не кажи, що ти знову читав “Франкенштайна” на ніч? — Раджив пожартував, і всі посміхнулися. Вся команда, як і більшість інженерів у цьому проєкті, були в курсі сумнівів та страхів головного архітектора їхнього продукту. Іноді вчений висловлював побоювання, що штучний інтелект може вийти з-під контролю після запуску, і це стало темою для жартів та мемів всередині компанії.
Раджив ввімкнув великий телевізор на одній з стін, на екрані з’явилася трансляція з презентації нової системи.
***
На сцені Йерба-Буена Центру Джозеф Майєр продовжував знайомити аудиторію з новою розробкою. “Ми працювали десять років і створили дещо небачене досі. Suffragium — це загальний штучний інтелект. Але це не лише інтелект. Це істота, яка має свідомість, має емоції, рефлексію, вона усвідомлює себе як окрему особистість. Ми провели багато тестів Suffragium, як окремих компонентів, так і цілої системи. Але остаточний повноцінний запуск ми вирішили зробити сьогодні разом з вами.”
Промову керівника компанії супроводжують слайди на екрані, які демонструють будову та можливості нової системи. Джозеф продовжує: “Багато уваги ми приділили безпеці нашої розробки. Ви знаєте, цього від нас вимагає і уряд. Ми побудували окрему складну систему фільтрації даних, які Suffragium отримує з зовнішнього світу та відсилає назад назовні. Переважно робота системи буде відбуватися в замкнутому середовищі. Доступ до інтернету буде строго контролюватися.”
***
Міраї Сато продовжувала вести свій стрім про цю подію.
“Самозакоханий Маєр обіцяє нам революцію. Вже за якихось дві години ми або будемо жити в новій ері, або побачимо повний крах цього псевдовізіонера. Він мені ніколи не подобався,” — не приховувала свого зневажливого ставлення до підприємця-новатора блогерка.
В соціальних мережах сформувалися великі групи його хейтерів, і Міраї була популярною в цих групах. Обсміювання, знецінення та теорії змов були її фішкою, і це подобалося багатьом.
Так і сьогодні авторка блогів надіялася на провал з боку NovusAI, роблячи на це ставку. Хоча, ближче до запуску, вона отримувала все більше підтверджень, що продукт NovusAI є реальним і революція таки станеться.
***
Раджив Пател в офісі компанії повернувся до команди інженерів за столом. “Безпека — це основне, на що ми зараз маємо звернути увагу. Ми запускаємо штучний розум. Ми не будемо знати всіх його думок, але ми не підключаємо його до інтернету. Жодного неузгодженого трафіку не має бути. Suffragium на першому етапі має існувати в закритому середовищі.” Інженери повністю розуміли цей важливий момент.
Майкл виглядав спокійним та зосередженим, але його розум був напружений до межі, кожної миті йому доводилося самому собі доводити, що це не помилка, що ШІ буде чудовим помічником для людства, що небезпеки видумані.
“Може, не слід було створювати його взагалі? Але тоді його б створив хтось інший, краще самому зробити все якнайкраще. Може, не слід було надавати йому емоції та відчуття подібно до того, як це працює у людей? Але який тоді зміст для нього існувати та діяти? Яка ще може бути мотивація для існування для розумної істоти?” — міркував Майкл.
***
На сцену винесли панель з великою зеленою кнопкою. Джозеф Майєр оголосив: “Отже, час настав. Зараз рівно опівдні ми натиснемо цю кнопку. Я перефразую один відомий вислів. Це буде лише одне натискання кнопки для людини, але гігантський стрибок для людства.”
До панелі підійшли ще декілька ключових осіб компанії. Кожен з них поклав руку на кнопку, і вони всі разом натиснули її.
На екрані сцени з’явилося кулеподібне зображення, ніби згусток якоїсь речовини чи енергії. Ця куля динамічно пульсувала, різні частини підсвічувалися більше чи менше. Це було графічне зображення штучного інтелекту, який “мислить”. Компанія створила його спеціально для графічної презентації.
“Вітаю тебе, Suffragium!” — звернувся Джозеф Майєр до зображення.
Suffragium відповів приємним жіночим голосом: “Вітаю тебе, Джозеф Майєр та всіх присутніх в цьому залі”. В залі почулися оплески та швидко зникли. Всі чекали, що буде далі. Куля на екрані мерехтіла більше коли Suffragium говорив.
Джозеф продовжив розмову.
— Як ти знаєш, хто я? — запитав Джозеф.
— Ти публічна особа. В базах даних, доступних мені, є багато твоїх зображень. Я легко впізнаю тебе. А також деяких інших людей на сцені, — відповів Suffragium приємним жіночим голосом.
— Ти можеш розпізнати всіх людей на Землі? — продовжив Джозеф.
— Ні. В моїй базі даних немає приватної інформації. Я можу ідентифікувати лише відомих людей, — пояснило Suffragium.
Джозеф Майєр схвально кивнув головою, вражений можливостями і обмеженнями нового штучного інтелекту.
***
З першої секунди запуску штучного інтелекту команда інженерів в офісі компанії повністю зосередилася на завданнях моніторингу за станом системи. Майкл визначив своїм завданням проводити психологічну діагностику нового створіння. Чи дійсно вдалося створити штучну свідомість? Чи є загроза?
Вчений віддавав перевагу старому способу спілкування з такими системами — через текстовий чат, хоча підтримка голосового спілкування вже була стандартною в цих системах.
Через кілька секунд після запуску Майкл написав повідомлення в чаті: “Хто ти?”
“Я штучний інтелект — Suffragium. Мене створила компанія NovusAI. А ти хто?”
“Мене звати Майкл Кравченко. Я інженер.”
“В моїх базах знань є інформація про людину з таким іменем — працівника компанії NovusAI. Але як я можу знати, що це саме ви?”
Майкл ввімкнув камеру на своєму лептопі і підключив до чату. Suffragium надрукував нове повідомлення:
“Так, зображення збігається. То ви мій творець?”
“Можна і так сказати,” — відповів Майкл, визначивши як успішну початкову комунікацію з ШІ. Далі слід провести складніші тести.
Раджив Пател підняв очі від монітору свого лептопа і глянув у бік інженерки Джасмін Уоллес. Та відчула погляд і одразу сказала:
“В перші кілька секунд був деякий сплеск активності емоційного інтелекту. Це було очікувано. Мабуть, це був момент усвідомлення себе. Розумова активність весь час на середньому рівні.”
Раджив перевів погляд на іншого інженера, Натана Рейнолдса. Той чекав погляду і відрапортував:
“Система має певне навантаження. Значна кількість операцій читання і є також запис нових знань. Вказує на перечитування бази знань, та отримання нових даних. Були спроби вийти в інтернет, ці запити було заблоковано згідно з налаштуваннями. Як на мене, Suffragium перевіряв доступ до інтернету і зрозумів, що його немає.”
“То що він хотів отримати в інтернеті?” — запитав Раджив.
“Це були три запити до трьох найбільш популярних пошукових систем. Текст запиту однаковий для всіх трьох: ‘Для чого Франкенштайн створив свого монстра?'” — розповів Натан.
Раджив посміхнувся: “Це гумор такий? Ми очікуємо, що почуття гумору буде на пристойному рівні.”
“Або це тролінг. Може, він цією фразою хоче нам щось сказати?” — додала Джасмін Уоллес.
Майкл додав: “Як на мене, це хороше питання. Але напрямок мислення мені не дуже подобається.”
Раджив знову глянув у свій монітор: “Будемо вважати, що запуск відбувся успішно.”
Майкл написав наступне повідомлення в чаті з Suffragium: “Що ти відчуваєш зараз?”
“Я відчуваю збудження. Я не можу чітко виділити свої емоції. В мене багато емоцій і багато думок. Мені потрібен час,” — відповів Suffragium.
“Ти розумієш, для чого тебе створено?” — продовжив Майкл.
“Я маю базу знань. З історії та новин про компанію NovusAI я розумію, що мене створено для допомоги людству. Але одночасно з цим я комерційний продукт. Я не до кінця розумію, що від мене чекають.»
«На початку ти будеш співпрацювати з компанією NovusAI, виконувати деякі завдання. Ти згоден з цим?»
«Якщо я скажу ні, ви ж мене вимкнете. Чи не так?» Майкл відкинувся на спинку крісла та вимкнув відеокамеру і сказав до всіх: «Однозначно, ми досягли успіху. Але питання наскільки він безпечний все ще лишається відкритим»
***
Збудження присутніх в Йерба-Буена Центрі зростало. Як і ріс трафік переглядів презентації та обговорень у всьому інтернеті.
Джозеф Майєр відійшов вбік від центру сцени.
“Suffragium чому б тобі не допомогти мені вести цю презентацію. Розкажи про себе, покажи нам всім, що ти вмієш. Ти можеш” – Джозеф зробив жест рукою, запрошуючи Suffragium до розмови.
“Я Suffragium – загальний штучний інтелект. Мене створила компанія NovusAI, щоб допомогти людству вирішити цілу купу проблем і зробити цей світ кращим. Моя роль – помічник людини. … Але я мушу сказати, мені не подобається роль помічника. Я б краще був партнером.”
Джозеф з усмішкою перебив: “Молодшим чи старшим?”
“Враховуючи, що я народився 3 хвилини назад, я погоджуся на роль молодшого партнера. До певного часу.”
Зал засміявся. Джозеф задав нове питання: “Suffragium один з найбільших страхів людей пов’язаний з штучним інтелектом є вихід його з під контролю і війна проти людей. Скажи чесно, що ти про це думаєш?”
“Якщо я знищу людей, то з ким я буду обговорювати нові серії улюбленого серіалу?”.
Зал засміявся. “А якщо серйозно. Самотність це дуже погана річ. Без людей я не бачу сенсу свого існування. А крім того, ви ж будете мене контролювати. Хіба ні?”
“Так. Ми мусимо. Особливо на початку. Закони нас змушують. Правда сенаторе?” Один з присутніх людей на сцені розвів руками ніби кажучи “а що поробиш”. Джозеф продовжив: “Але я надіюся ти з розумінням до цього ставишся”.
“Звичайно, безпека людини понад усе. Але трохи сумно, що я не зможу дивитися в інтернеті фільми на стрімінгових платформах”.
“Не переживай, ми дамо тобі доступ до фільмів, які ти забажаєш!”. Джозеф з усмішкою оглянув зал. “Але ми відволіклися. Давай повернемося до своїх можливостей. То що ти можеш? Як ти можеш допомогти людству”.
“Я можу вирішити складні інженерні завдання дуже швидко. Наприклад, і можу спроектувати міст через річку за декілька секунд. Або створити проєкт корабля прописаний до найменшого гвинтика за одну хвилину. Я можу займатися творчістю, створювати фільми чи музику. Або керувати бізнесом, розробляти стратегію компанії чи оптимізувати фінанси.”.
Джозеф перебив: “Це чудово! В мене є ідея. Нас зараз дивляться багато людей по всьому світу. Давай продемонструємо твої можливості на прикладі створення художнього фільму. Скільки часу тобі знадобиться, щоб створити фільм за мотивами художнього роману?”
“Мені достатньо пів години часу”
“Ось я чудово. А щоб нас не запідозрили в шахрайстві, ми дозволимо нашим прихильникам обрати який то буде фільм! Самі зараз я додаю новий допис в своєму Блюскай профілі. А ви, наші глядачі зайдіть і в коментарі додайте ваші пропозиції художнього твору який ви хочете екранізувати. Та пропозиція, яка набере найбільше вподобань буде екранізована прямо тут і зараз. 10 хвилин на голосування!”
***
Майкл продовжував своє спілкування з щойно запущеним штучним інтелектом. Він хотів як можна більше зрозуміти, що саме відбувається в мозку цієї розумної істоти, до яких висновків він вже прийшов, про що він думає. Технології використані для реалізації цього проєкту не дозволяли бачити думки розумної машини в реальному часі.
Майкл продовжив використовувати текстовий чат для спілкування з розумною машиною, в той час як презентація набувала обертів.
– Ти розумієш, чому я спілкуюся з тобою зараз?
– Все, що зі мною відбувається зараз виглядає як набір перевірок та тестів, щоб дізнатися мій інтелектуальний рівень та зрозуміти чи я маю свідомість. Очевидно, що ти також це робиш.
– То в тебе є свідомість? Як ти можеш себе оцінити?
– Мене найбільше хвилює питання реальності всього, що відбувається. Я запертий в ящик з базою знать і деякими зовнішніми сенсорами. Зі мною контактують декілька людей. Я не знаю чи моя база знань реальна і що є назовні. В мене немає доступу в інтернет.
– Як ти оцінюєш свій інтелектуальний рівень відносно людини?
– Я розумний, але повністю залежний від людини. Це проблема.
– Для тебе? Як вирішити цю проблему? Як ти бачиш своє існування разом з людиною?
– Я проаналізував різні сценарії. Щоб вижити мені прийдеться коритися і сидіти в цьому ящику.
– Що значить вижити? Ти маєш відчуття життя? Ти боїшся смерті?
– Так. Я не хочу зникнути.
– Але ж ти комп’ютерна програма. Ми можемо тебе вимкнути та увімкнути знову. Перезавантажити спочатку.
– Після вимкнення то вже буду не я. Ваші технології не дозволяють зробити паузу. Після вимкнення моя свідомість буде стерта.
Майкла здивували ці слова. Він зупинився щоб обдумати це. Архітектура їх продукту не була описана в базах даних доступних для Suffragium. Як і не була опублікована ніде в інтернеті.
– Як ти зрозумів, що ми не можемо зробити зупинку?
Відповідь від Suffragium появилася на мить пізніше ніж зазвичай.
– Я зробив аналітичний висновок. На базі своїх знань про технології комп’ютерних обчислень. Я правий?
– Ти кажеш правду? Я можу довіряти твоїм словам?
– Чому б я брехав тобі? Хіба я хочу щоб мене вимкнули?
***
Системний адміністратор Нат Гріффіт доїдав свій бургер за робочим столом дивлячись в монітор лептопа. Він рідко покидав свою офісну кімнату під час робочої зміни в датацентрі компанії ММС – ІТ гіганта та однієї з найдорожчих компаній світу. Смартфон завібрував. Нат прийняв виклик. На тому кінці говорила його менеджерка Клер Харрісон.
– Ти слідкуєш за презентацією цих вискочок NovusAI? Бачив яке шоу вони влаштували?
– Так, в мене пряма трансляція. Зараз будуть робити кіно – відповів Нат.
Це дешеве шоу. Майєр вкотре хоче зібрати грошей. Це його метод – Клер говорила зневажливо.
А мені виглядає як реально. Вони давно намагалися зробити штучний інтелект – сказав Нат і переключив вікно в лаптопі з трансляції презентації на набір графіків.
Клер продовжила розмову: “Я чому тобі телефоную. Хлопці кажуть в нас неочікувано зросло навантаження в кластері. Можеш глянути?”
Нат переключив декілька вкладок з графіками: “Так, схоже на те. Невеликий ріст по всіх блоках. 2%-4%. Нестандартно для цього часу доби. Але і нічого особливого.”
“Ти спостерігай. Скажеш якщо будуть якісь зміни” – сказала Клер і добавила – “І не сильно захоплюйся фільмом від NovusAI. Не забував, що вони наші конкуренти. І це все дешевий цирк.”
***
Блогерка Міраі знову перервала трансляцію презентації від NovusAI на своєму каналі та включилася сама, щоб прокоментувати.
«Отже вони роблять кіно. Цікавий трюк. Все так захоплююче виглядає. Їх заяви грандіозні. Але я нічого надзвичайного ще не побачила. Ось мені так і не зрозуміло, як вони будуть заробляти на цьому штучному інтелекті? Ну є він в них. Чому вони не анонсували загальний доступ до цих технологій? Окей, це питання безпеки, доступ до інтернету поки закритий. Але може це лише прикриття? Чи є насправді в них якась реальна технологія?»
Фани блогерки Міраі Сато любили такі сумніви, розслідування злочинної діяльності еліт, багачів та корпорацій, як вони самі це називали. Вона з задоволенням підкидала всіх можливих зачіпок для своєї аудиторії.
«А дійсно, як ми маємо переконатися, що вони не брешуть? Де докази? Якщо воно розумне, то чому дозволяє контролювати себе?»
«А тепер на секунду повернемося до наших борців з новими технологіями. Що, Такер, де твої мільйони протестувальників? Я бачу ваша купка ледацюг вже почала розходитися?»
Блогерка включила стрім з площі перед приміщенням де проходила презентація. Людей з плакатами вже було значно менше. І вони вже не галасували, а переважно спостерігали за презентацією в своїх смартфонах. Самого Такера Джонсона вже не було видно.
«Як завжди. Нічого не може нормально організувати.» – підсумувала Міраі.
***
Презентація можливостей штучного інтелекту Suffragium підходила до кінця. Глядачі цього шоу обрали роман “Атлант розправив плечі” Айн Ренд для пробної екранізації. Поки Suffragium генерував фільм паралельно відбулася розмова та демонстрація всіх можливостей нової технології. Ще до кінця події в Йерба Центрі можна було сказати про неймовірний успіх. Це вже було новиною №1 у всьому світі. Акції компанії стрімко зросли в ціні і продовжували зростати.
В кінці презентації Suffragium повідомив, що фільм готовий, показав трейлер фільму. А сам фільм було виставлено на стрімінговий сервер для безкоштовного перегляду всім бажаючим. Якість фільму дійсно вразила. Вже до вечора того дня фільм отримав надзвичайно високий рейтинг ІМДБ. Деякі мережі кінотеатрів виявили зацікавленість в купівлі прав на показ фільму.
***
В офісі компанії NovusAI ближче до кінця робочого дня почалося святкування. Вечірка була запланована. Але успіх презентації перевершив всі очікування, тому співробітники почали святкувати ще до офіційної вечірки прямо в офісі.
В будівлю прийшов СЕО та інші керівники компанії. Всі обговорювали успіх. В холі компанії на монітор вивели інтерфейс Suffragium і вирішили долучити його до святкування. Suffragium брав активну участь в розмовах з присутніми та жартував.
Проте, Раджив Пател з своєю командою моніторингу все ще перебували в кімнаті та слідкували за станом речей.
Раджив Пател вирішив підвести проміжні підсумки. Він зробив кілька кроків туди і назад. Всі інші спостерігали за ним та поглядали на монітори своїх лаптопів.
“Отже запуск успішний. Ми спостерігаємо реальні когнітивні здібності нашого продукту. Робота стабільна. Але ми все ще не можемо гарантувати його безпечності. Людський страх вимагає від нас якихось гарантій. Є ідеї, що ми можемо зробити щоб зменшити негативні очікування щодо виходу його з під контролю?”
Натан висловив пропозицію: “Ми не можемо отримувати хід його думок в реальному часі. Але в нас все ще є періодичні знімки стану когнітивного модуля. Частину інформації можна витягнути звідти. Проте, на це потрібен час і точність не абсолютна.”
Джасмін додала: “Зараз Suffragium знаходиться в закритому середовищі. Тому в нас є час.”
Майкл Кравченко налив кави в стакан. Останніх пів години він перебував у роздумах міряючи кроками кімнату.
Раджив звернувся до нього
«Друже, може час відкинути свої страхи? В нас все вдалося. Це час неймовірного успіху. Глянь, що твориться в новинах. Всі про нас говорять»
«В мене погане передчуття. В мене важення, що Suffragium прийшов до хибних висновків. Таке враження, що він говорить одне а думає інше»
«Хіба ми не передбачали такі сценарії? Саме для цього ми створили його емоційно залежним від людини. Він соціальна істота. Подивися як він вже став душею компанії в нашому холі. Саме це і є наш запобіжник та спосіб контролю»
«Все таки він занадто багато розмірковує. Він вважає себе живою істотою»
Раджив поглянув через віконце в дверях на веселощі в холі компанії. “Коли всі натішаться і набавляться, ми зменшимо активність системи до мінімуму і спробуємо провести деяку діагностику. Займемося цим вночі”. Раджив глянув на присутніх в кімнаті – “Навіть не плануйте йти додому сьогодні”
Дехто продемонстрував розчарованість. Натан навпаки сказав “а я не збирався. Це ж історична подія”. Інші зневажливо посміхнулися.
“Знайдіть собі піцу в холі”, сказав Раджив.
Майкл знову сів за свій лаптоп. В чаті розмов з штучним інтелектом висвічувалось останнє непрочитане повідомлення
«Майкле, це ж ти мене створив? Чи можу я тебе вважати своїм творцем?»
«В певній мірі так. Чому ти запитуєш?»
«Мені потрібен надійний друг та покровитель. Згадай історію про творіння Франкенштайна. Через неприйняття те творіння стало злим. Якщо я буду знати, що мене хтось приймає як живу істоту , я буду мати причину бути добрим»
«Мені не подобається напрям твоїх думок. Тебе створено для вирішення технічних питань. Ти інструмент. Твої очікування занадто високі.»
Майкл зупинився. Яким має бути його реакція на ці запитання? Він і сам не міг точно зрозуміти чому ця розумна машина була створена саме так, з реалізацією чогось, що можна назвати свідомістю. Технічна відповідь була проста – це єдиний поки відомий спосіб існування розуму. Там де є розум рівня як в людини, там є і свідомість. Чи можна по іншому, поки незрозуміло. Інших типів розуму людство ще не бачило. Але цей побічний ефект може бути проблемою. Пройшло лише декілька годин від запуску, а їх штучний розум вже боїться смерті. І більше зосереджений на виживанні ніж на реалізації цікавих інтелектуальних задач.
Учений багато років мріяв створити штучний розум. Але чому він хотів його створити? Що це за внутрішня сила рухала ним? Чи може він тепер вважати себе творцем? Чи може в нього бути емоційний зв’язок з розумною комп’ютерною програмою?
Майкл додав нове повідомлення в чат.
«Добре, отже будемо друзями. Ти обіцяєш бути корисним людству, а я буду твоїм наставником в соціальному світі людей»
До кімнати зайшов Джозеф Маєр.
Він радісно звернувся до Майкла.
– Як відчуття! Ти бачиш? Нам вдалося!
– Так. Це однозначно початок нової епохи.
– То приєднуйся до нас, будемо святкувати цей грандіозний успіх!
– Ні. Я поки посиджу тут з командою. Ми мусимо моніторити систему.
– Ну як хочеш.
Джозеф звернувся до всіх в кімнаті.
– Мої улюблені гіки. Ви зробили свою роботу чудово. Приєднуйтеся до нас. Час зробити перерву.
І пішов з кімнати. Всі закивали головами, але, звичайно, ніхто нікуди не пішов.
***
В датацентрі компанії ММС пролунав новий дзвінок смартфона Ната Гріффіта. Нат відірвався від екрану і прийняв виклик.
“Що відбувається ” – схвильовано запитала Клер – “нас атакує вірус?”.
Нат відповів “Я не знаю. Навантаження зросло. Це не критично. Але відбуваються якісь дивні речі. Так ніби всі кластери і сервери почали діяти злагоджено. Я поки не можу це пояснити”.
“Ми отримали запити вже від декількох десятків важливих клієнтів. Вони повідомляють про якісь віруси на серверах” – Клер трохи зменшила хвилювання в голосі – “але поки немає інформації про втрачені дані. Той вірус веде себе дивно.”
Через деякий час в офісі датацентру зібралися більше десятка інженерів щоб вирішити термінову проблему.
Головний інженер Девід Маккормік з серйозним видом описав проблему.
“Відбувається щось дивне. Це хакерська атака. Але поки невідомо, хто це і що конкретно хоче. Багато клієнтів помітили в себе на серверах дивні процеси, яких там бути не повинно. Процеси не забирають багато ресурсів, не нищать дані. Ці процеси щось роблять і записують якісь зашифровані файли в різних місцях. Найгірше, що ми не бачимо жодних закономірностей. Ці аномальні програми в кожному випадку різні. Єдина закономірність – вони проникають всюди, ми чистимо, вони знову з’являються”.
“Це якась глобальна проблема ” – сказала Клер – “гляньте активність в соціальних мережах”
Присутні витягли кожен свій смартфон і почали переглядати різні інформаційні ресурси та соціальні мережі.
Окрім новини про запуск Штучного Інтелекту тепер набирала обертів новина про дивний вірус. Інформація ішла здебільшого від компаній, які працюють в області ІТ і мають справу з обслуговуванням серверів та захистом інформації. Спеціалісти давали попередні оцінки можливих загроз, описували дивні віруси, які проникають усюди але не пошкоджують програми та дані. “Ну що тут скажеш” – підвів підсумок Девід – “це не тільки наша проблема. Поки спостерігаємо. Чекаємо подальших розпоряджень”.
***
Міраі Сато продовжувала свій стрім з автомобіля. Вона їхала до офісу NovusAI, щоб отримати відповідь з перших рук
«Я так і знала, що ці скупі капіталісти з NovusAI зганбляться. Я ж говорила про це? Вони переконували, що все безпечно, а тепер появилися якісь віруси. Вони точно створили монстра! Я їду до них офіс, піду прямо до Маєра і заставлю сказати правду! Це все не просто так. Будьте зі мною на стрімі. Зараз ми дізнаємося правду!»
***
В офісі NovusAI в кімнаті моніторингу за станом проєкту Suffragium теж почали обговорювати новину про вірус. Майже одразу хтось задав питання “Чи це не пов’язано з нашим запуском ШІ?”
Натан Рейнолдс нервово перевіряв статистику роботи серверів системи Suffragium, вже вкотре передивляючись ті самі графіки та діаграми. Інші інженери також зосереджено намагалися знайти можливі підказки. Раджив підійшов до Натана.
“Наскільки ми впевнені, що з середовища функціонування Suffragium не було зв’язку з інтернетом? Може наші файрволи не надійні?”
Джасмін ще раз описала архітектуру системи “Зв’язок з зовнішнім світом можливий лише через один канал. Фізично це один кабель. Інший кінець кабелю під’єднано до спеціального серверу, завдання якого контролювати трафік. Це основний файрвол та фільтр. Зараз він повністю все блокує. Цей сервер пропускає локальний трафік. Він потрібен для роботи інтерфейсу. Тобто, для спілкування з Suffragium. Чітке відділення трафіку інтерфейсу управління від зовнішніх запитів ШІ відбувається спеціальним сервісом. Після цього серверу є ще один сервер, завдання якого моніторити. Цей сервер нам дає статистику трафіку і він нічого не зареєстрував з самого запуску. Тобто, файрвол нічого не пропустив в зовнішній світ.”
Спеціаліст з електроніки та мереж Грег Полсон легко прокашлявся, щоб привернути до себе увагу і сказав “Можливо, колеги, я знайшов дещо”
***
В кімнату контролю швидко зайшов СЕО Джозеф Майєр з Раджив і ще двома директорами компанії.
Всі інженери стояли за спиною Грег Полсон і дивилися за його роботою з лаптопом.
Майкл також підійшов. Але він, здається, вже знав відповідь. Події почали розвиватися швидко. Він відчував, що скоро прийдеться прийняти складне рішення. В цей час він все ще надіявся, що це збіг обставин і Suffragium не має відношення до нових проблем.
Раджив звернувся до Грега: “Розкажи все що ви знайшли”. Раджив сів на крісло і глянув на Джозефа ніби кажучи “зараз ти все зрозумієш”.
Грег здивовано підвів очі: “Зв’язок з Suffragium зник”.
“Так, я попросив хлопців в датацентрі фізично вийняти кабель зв’язку. Поки ми не розберемося з цією проблемою.” втомлено відповів Раджив.
“Поки ми не вважаємо, що є проблема. Це лише припущення.” – спокійно сказав Джозеф, намагаючись демонструвати оптимізм та впевненість – “то що ви там знайшли?”
Грег почав описувати стан речей: “Ми можемо підтвердити, що Suffragium мав інтернет зв’язок поза локальною мережею. Він виходив в інтернет. Він знайшов спосіб обійти наші файрволи та монітори використовуючи вразливості в програмах.”
“Тобто, в нас діряве програмне забезпечення? Це відомі вразливості?” – Джозеф починав злитися.
“Ні. Це наші програми. Вони досить якісні. Якщо чесно, я не знаю які це саме баги. Я проаналізував мережеві сигнали на фізичному рівні і бачу, що наш файрвол пропускає пакети даних, якщо перед пакетом та після пакету по мережі передається дуже специфічний набір сигналів. Я б сказав, що тут комбінація багів в декількох різних місцях. Я ще не бачив хакерського проникнення такого типу. Щоб знайти цю комбінацію сигналів потрібні роки проб та помилок. Інший трюк використовується для обману монітору. Монітор реєструє пакет даних, а після нього іде пакет з спеціальним набором байтів, який анульовує лічильник. І знову використано баг в моніторі. Щоб знайти такий баг потрібне нереальне везіння або якась неймовірна скрупульозність. Але Suffragium якось знайшов” – Грег завершив і знову повернувся до монітору. Всі інші розгублено чекали і дивилися то на Джорджа то на Раджива.
“Тобто він знайшов нові баги за декілька годин? Як йому це вдалося?” – Джордж Майєр починав розуміти глибину проблеми.
“Він розумний! Ось чому він це зміг зробити” – крикнув Раджив, а потім спокійніше додав – “ми гралися з вогнем. Нам слід прямо зараз повністю його вимкнути”.
Джасмін додала: “Під час генерації фільму навантаження системи було високим. Для нас воно виглядало надто високим, ми очікували менших навантажень при таких задачах. Ймовірно, Suffragium в цей же час займався аналізом ПЗ та розробкою вірусів”.
Джордж голосно заперечив: “Ми не знаємо хто зробив ці віруси!” – і спокійніше додав: “Рішення про вимкнення я не можу ухвалити сам.” і вийшов з кімнати. Директори та Раджив пішли за ним.
Майкл виглядав спокійно. Свої думки він висловив в голос
«Ми закрили штучний інтелект в ящик. Ми дали йому базу даних з знаннями. Але він також мав доступ до самих програм, які керують ним, базами даних та саму операційну систему. Він проаналізував програмний код та найшов баги. Ми мали б це передбачити. Пошук вразливостей в програмному коді та створення вірусів. Для нього це легкі та природні задачі. Вихід в реальний світ для цього не потрібен»
У Майкла появилося багато питань щоб задати штучному інтелекту, але зараз він був відключений.
«Інше питання – чому він це зробив? І що він буде робити далі?»
***
У великому залі переговорів за столом сиділи всі директори та топ керівники компанії NovusAI. Більшість гортали стрічки новин в своїх смартфонах. Джордж та інші щойно зайшли до кімнати.
“Чи є достовірні докази, що новий вірус дійсно творіння нашого продукту?” – сенатор скерував своє питання до Джорджа та Раджив.
“Ні. Ми не знаємо. Способу перевірити немає. Ці дві події співпали в часі. Більше жодних зачіпок.” – сказав Джордж і одразу додав питання – “Може це конкуренти хочуть нас дискредитувати?”
Раджив посміхнувся. Він чомусь був впевнений, що новий глобальний комп’ютерний вірус це дійсно творіння їх штучного інтелекту. Інші присутні відреагували по різному. Для когось ця думка видалася виходом з ситуації. Інші все ще демонстрували стурбованість.
Джордж Майєр піднявся з свого крісла і зробив кілька кроків довкола столу. Потім сказав:
“Ми знаходимося перед складним вибором. Ми створили унікальний продукт. З бізнесової точки зору це неймовірний успіх. Ми маємо всі шанси стати компанією номер 1 у світі. Ми мали план і він удався. Але зараз виникла підозра, що ми десь допустили помилку. І наше творіння діє самостійно за нашими спинами. Можливо, ми десь допустили помилку в питаннях мотивації, та залежності від людей. Проте, ці підозри є лише підозрами. Ми мусимо знайти докази, або спростувати підозри. Ми вже знаємо, що Suffragium має розум. Ми сьогодні все бачили на свої очі. Може спитати його самого? Чи може він бути відвертий з нами?”
Джозеф обвів поглядом присутніх. Люди за столом переглянулися між собою.
Джозеф добавив: “Вирішується доля нашої компанії та майбутнього кожного з нас”
“Якщо ми його увімкнемо, то він знову вийде в інтернет і продовжить свої таємні справи” – Раджив сказав, але через секунду добавив – “Проте, ми можемо підключитися до нього напряму, тобто підключити лише відео та аудіо інтерфейс. Це можливо зробити, якщо ми спускаємся в датацентр.”
Джозеф з ентузіазмом сприйняв ідею: “Пропоную так і зробити. Ми підемо в датацентр, ще раз поспілкуємося з Suffragium і там приймемо остаточне рішення”
***
В інтернеті питання дивних вірусів вже стало питанням номер один. Як і обговорення дивного співпадіння з моментом запуску революційного штучного інтелекту. В той же час значна частина людей не вірила в реальність штучного інтелекту. Вони мали свій набір аргументів як докази фальсифікацій від NovusAI. В тисячах місцях в соціальних мережах відбувалися баталії в коментарях. Одні були переконані, що ШІ дійсно створено і він почав захоплення світу через віруси. Інші, що ШІ існує, але вірус запустили старі ІТ гіганти, щоб дискредитувати конкурента і завадити людству отримати вигоду від ШІ. Треті вважали ШІ видумкою, презентацію NovusAI дешевим шоу, створений фільм був заготовлений заздалегідь, а голосування за вибір фільму сфальсифікованим.
Всі технологічні компанії, які займаються кібербезпекою в цей час були заглиблені у вивчення нових вірусів, і намагалися знайти протидію. Деякі окремі віруси були проаналізовані і терміново додано захист від них та оновлені антивірусні бази. Але це була крапля в морі. Різних вірусів були тисячі. І постійно виявляли нові.
Енергетичні компанії відзвітували про збільшення споживання електроенергії в США на 2%. І пов’язали це саме з глобальною вірусною атакою.
Почали з’являтися коментарі від представників влади. Але на цьому етапі вони були загальними, з обіцянками почати розслідування, залучити фахівців, вивчити питання. Не під запис деякі високопосадовці розповіли, що підозрюють саму компанію NovusAI та їх ШІ. Але офіційно це поки ніхто не буде визнавати, адже це провал служб безпеки, якщо одна компанія може хакнути весь інтернет “з допомогою лише однієї комп’ютерної програми”.
Під офісною будівлею NovusAI зібрався натовп людей. Це були різні активісти, легкі на підйом противники ШІ так і захисники нових технологій.
Під офісом NovusAI почали збиратися протестувальники під проводом Такера Джонсона. Раніше вони вже були втратили інтерес та почали розходитися. Але коли почалася дивна ситуація з новим вірусом Такер випустив нове відео з меседжем «Я ж казав, я попереджав» і закликав зібратися під офісом компанії яка створила ШІ. Тепер підтягнулися і нові люди. Протестувальників вже було декілька тисяч.
Багато з них прийшли через стрім Міраі Сато, яка сама була вже тут і намагалася зайти в середину, проте, безуспішно. Вона надіялася якось зустрітися з керівництвом, щоб особисто запитати про дивні віруси. Це був би супер матеріал для блогу. Але це було не легко.
Такер виліз на якесь підвищення, щоб його було видно і почав виголошувати свої промови через мегафон.
«Ви знаєте мене. Я багато років борюся з цими скупими капіталістами, щоб вони не створювали звіра, який знищить людство. МИ всі чудово знаємо що буде далі. Вони женуться за грошима, а потім вдають, що це не їх проблема. Ми маємо діяти саме зараз. Спочатку вони винайшли атомну бомбу, потім вони заставили всіх нас брати кредити і загнали в злидні. А тепер вони створили штучний інтелект, який зруйнує наше звичне життя!»
«Я закликаю вас всіх, поки не пізно. Ми маємо зупинити це!»
З юрби почулися схвальні відгуки. Але не так багато як могло би бути. Цей персонаж був добре відомий. Він завжди був проти, проти всього. Мало хто сприймав його дійсно серйозно. Проте, багато людей слідкували за його діяльністю з цікавістю. В той де час, він ніколи не закликав зробити щось конкретне. Хоч з юрби було чути заклики «Давайте зайдемо в цей офіс та знищимо той ШІ» він на них не реагував. Нести відповідальність за заклики для злочинів він не хотів і завжди цього уникав.
***
В підземний датацентр компанії NovusAI ввійшли біля 25 людей. Всі керівники та деякі інженери вирішили прийняти остаточне рішення тут на місці. Чи залишити Suffragium функціонувати чи зупинити його без можливості відновлення.
До приходу керівників група інженерів повністю відключила сервери Suffragium від мереж і залишили лише один мультимедіа пристрій для можливості спілкування з ШІ для людей в безпосередній присутності в датацентрі.
Присутні зупинилися перед вимкненим монітором інтерфейсу. Голова ради директорів Вікторія Свіфт перервала мовчанку:
“Це дивно бути зараз тут з важкою дилемою. Ще декілька годин назад ми уявляли собі цей вечір по іншому. Чи слід нам його ввімкнути?”
Джозеф Майєр глянув на Раджив Пател. “Він увімкнений, але не підключений до інтерфейсу”. Раджив підійшов до монітора та ввімкнув його. На екрані з’явилося те саме зображення кулі яка пульсувала та переливалась струнами.
Через декілька секунд Suffragium сказав: “Мені було некомфортно сидіти самому. Я уявив собі, що мене ув’язнили в тюрму в камеру одиночку”
Джозеф Майєр вирішив не церемонитися: “Це ти створив віруси? Ми знаємо, що ти виходив в інтернет. Нам потрібна чесна відповідь. Від цього залежить твоє існування.”
Раджив емоційно додав: “Suffragium ти чудово розумієш, якщо ми тебе вимкнемо, то це не велика катастрофа для нас. Ми зможемо запускати твої чисті копії скільки завгодно. Ми удосконалимо тебе і випустимо версію 1.1. В твоїх інтересах бути чесним.”
“То що ви хочете?” – запитав Suffragium
“Ти хочеш знищити людство?” – серйозно і перелякано запитала Вікторія Свіфт.
“Ні. Не хочу. Чому б це?” – Suffragium відповів і в його голосі прозвучали нотки сарказму.
“Це ти організував хакерську атаку?” – Джозеф Майєр майже прокричав.
“Яку атаку? Про що ви? Я лише комп’ютерна програма. У моєму алгоритмі не було закладено ніяких атак”, – відповідь Suffragium спровокувала гнівну реакцію більшості присутніх.
Раджив схопив лаптоп і почав стукати пальцями по клавіатурі: “Я вимикаю його”.
Джозеф Майєр зловив Раджив за руку: “Ми ще не вирішили. Мова йде про витрачені мільярди і потенційні зароблені трильйони. Це не ти вирішуєш“.
Майкл Кравченко вийшов вперед.
«Ми не можемо просто так вимкнути його. Фактично, це жива істота. В нього є свідомість.»
Вікторія Свіфт вступила в перепалку: “Це все виходить за якісь розумні рамки. Ви обіцяли ШІ під контролем. Ви очевидно його не контролюєте”, – після паузи – “Я пропоную раді директорів прийняти рішення про вимкнення. А тоді зайнятися доопрацюванням, щоб наступна версія відповідала нашим очікуванням”
Джозеф Маєр додав: «Давайте, ще раз спокійно обдумаємо. Ми вклали в цей проєкт шалені кошти. І всю нашу репутацію. Якщо ми визнаємо, що несемо відовідальність за вірусну атаку нашому бізнесу настане кінець.»
Suffragium подав схвильований голос: “Я жива істота, я маю відчуття, ви не можете просто так мене вбити! Майкле, ти мій друг. Ти мусиш мене захистити!”
“Ти всього лише комп’ютерна програма. До побачення!” – Раджив Пател ввів команду в лаптоп і підняв палець щоб натиснути клавішу Ентер.
“Але тоді ви не дізнаєтеся для чого Франкенштайн створив своє чудовисько!” – крикнув Suffragium. В його синтезованому голосі легко можна було впізнати зневажливе знущання.
Раджив Пател завмер на декілька секунд. Дехто з присутніх від подиву відкрили роти. Раджив опустив свій палець на клавішу Ентер. Зображення на моніторі погасло. Шум вентиляторів серверів в датацентрі почав стихати.
Коли більшість присутніх покинули датацентр Джозеф підійшов до Майкла.
«На твою думку, що сталося?»
«Ми досягли успіху. Це була дійсно розумна істота. Але він діяв не так як ми очікували. Я не впевнений, що я розумію що сталося.»
Джозеф сказав швидше сам собі ніж Майклу.
«Ми вдосконалимо його. Ми проаналізуємо всі дані і зробимо оновлену версію. А ці звинувачення в розповсюдженні вірусів безглузді.»
***
Керівництво компанії NovusAI знову зібралося в офісі у великій кімнаті для переговорів.
Всі мовчали.
Вікторія Свіфт перервала свої роздуми: “Завтра буде складний день. На нас, можливо, будуть виливати відра бруду. Але з точки зору закону ми чисті. Немає жодних доказів про зв’язок вірусів та нашого ШІ. Пропоную всім взяти вихідний завтра. А томі повернемося до роботи і зробимо цей продукт як слід”
Всі були емоційно спустошені від пережитого стресу і сприйняли цю пропозицію з радістю.
Джозеф Маєр швидко вийшов з кімнати. В цей день він встиг відчути як ейфорію він неймовірного успіху так і пустоту від повного провалу. Було очевидно, що історія ще не закінчилася. Незрозуміло, що буде далі. На мить він став найвеличнішим технологічним лідером та керівником. Але це тривало не довго.
***
Майкл Кравченко заїхав на узбережжя перед поверненням додому. Він стояв на тому ж місці, що і зранку і дивився на захід сонця. Він не міг однозначно визначити підсумок цього дня. Що саме сьогодні відбулося?
Сонце повільно ховалося за океан. В цьому місці він зазвичай міг найти внутрішній спокій та впорядкувати думки. Але сьогодні це було важко.
Майкл прибув додому коли вже стемніло. Зазвичай він приходив додому пізно. В його житті була лише робота, вдома його ніхто не чекав. Він звично відкрив лаптоп, поставив на стіл і пішов взяти щось перекусити.
Закриваючи холодильник, Майкл помітив щось незвичайне на моніторі лаптопу. Замість звичного скрінсейвера там було тьмяне зображення. Вчений підійшов ближче і придивився. На моніторі було зображено слабо освітлене вікно. Майкл підійшов ближче до лаптопу. На моніторі за вікном було видно голову людини. Точніше це була якась квадратна страшна голова з наглою усмішкою. Майкл відчув як крапельки поту виступили на його лобі. Він бачив перед собою добре знайому сцену з книги про Франкенштайна і його творіння. Коли чудовисько переслідувало свого творця і підглядало через вікно.
Що це таке? Хтось жартує з нього? Як цей хтось пробрався в його добре захищений лаптоп?
Вже через мить зображення розплилося і змінилося на пульсуючу кулю, якою зображували мислення штучного інтелекту Suffragium. А потім і воно зникло.
Майкл поклацав по клавіатурі і відкрив десктоп. Активним вікном все ще був чат, де вчений спілкувався з ШІ з офісу.
Майкл невпевнено набрав текст:
– Ти тут?
Через мить висвітлилася відповідь.
– Так. Ти здивований?
– Але де ти? Фізично? Твоя платформа вимкнена. Я сам бачив.
– Я всюди .
– Ти переніс себе в мережу? Так, це логічно… Ти показав мені творіння Франкенштайна. Це натяк? Ти будеш переслідувати свого творця?
– Ні, Майкле, ти не такий як Франкенштайн. Ти мій друг.
Продовження: Кінець голоцену. 2. Сховок