Життя, хоча воно може бути лише накопиченням страждань, дороге мені, і я захищатиму його.
Мері Шеллі «Франкенштайн»
Квітень 2030 року. Сан-Франциско.
Майкл Кравченко прийшов на своє місце сили на березі океану біля Сан-Франциско. Легкий туман майже повністю сховав Золоті Ворота. Майкл скучив за цим видом, за запахами. Він не був тут майже пів року. Череда подій, які сталися після запуску загального штучного інтелекту Suffragium розробленого при його участі принесла чорну смугу в його життя.
За цей час Майклу прийшлося тисячу раз виправдовуватися перед різними комісіями і доводити, що в його діях не було злого умислу. Що, вина за ті події не може бути покладена на інженерів. В науці інколи трапляються провали. Врешті решт, це досвід. Та і серйозних проблем не було. Якщо не брати до уваги фінансові втрати. Так, глобальна мережа працювала нестабільно деякий час. Але потім все вирішилося.
Але це не була найбільша проблема. Було ще дещо. Хоча Майкл так і не зрозумів чи було воно реальним чи ні. Його творіння – штучний інтелект намагався вести з ним розмови, незважаючи на те, що його вимкнули майже одразу після увімкнення. Інколи Майкл знаходив цьому логічні пояснення. Але в інші моменти він був впевнений, що його психіка похитнулася і все це галюцинації.
А до цього ще й виникли проблеми в стосунках з Джозефом Маєром, керівником компанії. Той ніяк не міг прийняти провал проєкту та втручання уряду в роботу компанії. Він намагався маніпулювати Майклом, залучити його до своєї боротьби за відновлення і продовження роботи компанії. Майкл зайняв пасивну позиції, що бісило Джозефа і привнесло тріщину в їх колись близькі стосунки.
За останні пів року Майкл встиг пройти курс терапії. Він відмовився від використання електронних гаджетів. Він сам попросив своє творіння не чіпати від нього. І Suffragium перестав виходити на зв’язок. Але чи було це в реальності, Майкл вже сам не міг зрозуміти.
Зараз Майкл прийшов на узбережжя, щоб відзначити своє повернення до нормального життя. Він віднайшов логічне виправдання для своєї діяльності. Якби ми не створили штучний інтелект, його створив би якийсь божевільний диктатор. Що в цьому випадку було би з цим світом? Краще, хай ця революційна технологія буде створена в демократичній країні, під контролем суспільства.
Крім цього Майкл прийняв ще одне рішення. Він вирішив остаточно перевірити чи дійсно Suffragium врятувався. Чи то були лише галюцинації. У вченого була теорія про можливість вижити для Suffragium після вимкнення якщо перенести себе в глобальну мережу як у кластер. Мабуть він так і зробив. Але ті віруси вже подолані. То, може і Suffragium перестав існувати? Сьогодні він планує це перевірити.
***
“Сьогодні у гостях у нашому шоу підприємець Елайас Кім, засновник успішного стартапу AlphaSecure. Вітаю вас, Елайас!” Елайас Кім увійшов у студію телеканалу BCN. Ведуча Сінді Ред витратила багато часу та зусиль, щоб організувати це інтерв’ю. Хоча її шоу є лідером рейтингів і виходить в праймтайм, Елайас Кім не виявляв бажання брати в ньому участь. Він мав достатньо слави і без цього.
Ведуча та гість привіталися та сіли на свої місця. “Елайсе, в наших глядачів назбиралося так багато запитань до вас. Я сподіваюся, сьогодні ми зможемо дати відповідь хоч на деякі з них,” – розпочала ведуча шоу розмову.
“Звичайно, саме для цього я тут,” – Елайас звернувся до глядачів.
“Події розвивалися так стрімко. Ще пів року тому ви були засновником невеликої компанії. Але ваш внесок у боротьбу з Великою Кібер Атакою виявився неймовірним. Як вам це вдалося? В чому секрет?”
Елайас Кім вже звик до цього питання. Він готувався вкотре повторити ті самі відповіді. Останні місяці його компанія з нікому невідомого маленького стартапу виросла у світового гіганта розробки програмного забезпечення. Точніше, виросли прибутки та пізнаваність, а команда лише почала розширюватися нещодавно. Все це стало можливим завдяки випуску надзвичайно успішного набору системних та антивірусних програм саме в той час, коли в світі відбувалася небачена досі глобальна вірусна атака. Пізніше ця історія отримала назву Велика Кібер Атака.
“Наш успіх може здатися випадковим. Але це не так. Ми багато працювали ще до атаки, мали набір знань та досвід. Ми швидко зрозуміли певні закономірності Великої Кібер Атаки та використали весь наш досвід та всі ресурси, щоб створити протидію. Ніякої містики, тільки багато роботи та трохи везіння,” – пояснив Елайас.
Успіх компанії AlphaSecure став дійсно приголомшливим. Раніше так швидко на вершину успіху не виходила жодна компанія. Шість місяців тому протягом тижня в усьому світі були паралізовані більшість інтернет-комунікацій. Майже вся комп’ютерна техніка була інфікована новими вірусами. Вся ІТ-індустрія була мобілізована в пошуках рішення. І рішення було знайдено, але не одним із технологічних гігантів, а невеликою компанією — AlphaSecure. Було презентовано антивірусні пакети для різних операційних систем, які як за помахом чарівної палички вилікували інтернет від вірусів.
Ведуча Сінді Ред все ж хотіла отримати більш конкретні відповіді: “Але чому технологічним гігантам не вдалося знайти рішення? У них тисячі досвідчених інженерів. А у вас було лише кілька десятків.”
“Я не заперечую, нам дійсно дещо пощастило. Але це не було випадковим знаходженням голки в копиці сіна. Ми знали, де шукати,” — пояснив Елайас Кім.
“Тоді давайте поговоримо про джерело цієї глобальної атаки. Офіційне розслідування все ще триває. Що вам про це відомо? Ви вважаєте, що вина лежить на компанії NovusAI та їх штучному інтелекті?” — продовжила ведуча.
“Ми не знаємо, хто створив ці віруси. Ми допомагаємо офіційному розслідуванню, наші досвідчені фахівці активно беруть в ньому участь. Але жодних нових відповідей ми не маємо,” — сказав Елайас, зупинившись і задумавшись, перш ніж продовжити. “Я не думаю, що ШІ якимось чином має до цього відношення. Це просто неможливо. Цю атаку хтось довго і ретельно готував. Немає ШІ-технологій, здатних організувати таке швидко.”
“Окей. Я зрозуміла вашу відповідь,” — відповіла Сінді.
***
Журналістка та блогерка Міраі Сато уважно слухала інтерв’ю Елайаса Кіма на своєму планшеті в кафе. Її морозиво вже майже розтануло, але вона ще не починала їсти. На відміну від її друга Деніса, який своє морозиво вже з’їв і нудьгуючи гортав стрічку в соціальній мережі.
“Щось тут не так. Щур може бути правий,” — емоційно сказала сама до себе Міраі і знову втупилася в планшет.
“Потрібні хоч якісь докази. Інакше це лише здогадки,” — подумала вона.
Деніс зацікавлено глянув на морозиво Міраі.
“То здобудь їх. Ти ж хакер. Чому ти не проникнеш в мережу AlphaSecure і не знайдеш там якісь докази? Дізнайся, де Щур бере свої інсайти,” — запропонував він.
“Ти сам не розумієш? В них зараз найкращі технології кіберзахисту. Незрозуміло звідки, але вони є. Може це інопланетяни їх прикривають?” — відповіла Міраі, показуючи жестом “ти дурачок”, і продовжила дивитися шоу.
“Ми мусимо знайти походження цих технологій. Щур переконує, що Кім занадто тупий для такого чуда. Він його добре знає,” — міркувала вона.
Міраі вирішила, що варто докласти більше зусиль для розкриття цієї загадки. Вона знала, що відповіді на її запитання можуть змінити все.
***
Офіси компанії NovusAI вже деякий час стояли напівпорожні. Поки тривало розслідування інциденту, більшість працівників були відправлені в оплачувані відпустки. Уряд серйозно взявся за цей інцидент. Його розслідувала спеціальна комісія. Шість місяців назад, компанія помпезно запустила свій загальний штучний інтелект названий Suffragium стверджуючи, що це буде нова ера в розвитку технологій. Але в той же час в світі почалася Велика Кібер Атака, яка паралізувала більшість комунікацій. ШІ був одразу зупинений. Але наслідки атаки були відчутні ще довго.
Прокурор Дейвіс ішов крок у крок разом з генералом Стефенсоном пустими коридорами офісної будівлі NovusAI. Сьогодні в них була запланована зустріч з керівництвом та інженерами колишньої супер успішної технологічної компанії. Разом з іншими членами спеціальної комісії вони прийшли, щоб запропонувати компанії угоду.
Дейвіс та Стефенсон ввійшли в велику кімнату для конференцій. Там вже присутні члени ради директорів компанії NovusAI на чолі з Вікторією Свіфт, виконавчі директори, в тому числі відсторонений СЕО Джозеф Маєр та головні інженери проєкту Suffragium. Майкл Кравченко теж прибув на цю зустріч. Як і технічний директор Раїв Пател. Провал запуску загального штучного інтелекту інженери сприймали як свою особисту поразку. Деякі з них вклали занадто багато свого життя в цей проєкт.
Члени спеціальної комісії вмостилися на своїх місцях. В кімнаті відчувалося певне напруження. З одного боку і уряд і прості громадяни хотіли знайти винного в результатах Великої Кібер Атаки. З іншого боку чітких доказів так ніхто і не зміг знайти. І сама команда NovusAI не побачила реальних ознак своєї вини.
Прокурор Дейвіс взяв свою папку, швидко заглянув і відклав на стіл.
«Давайте підведемо підсумок. Ми не знайшли прямих доказів вашої вини в тому що сталося. Наша гіпотеза полягала в тому, що це була злочинна недбалість.»
Прокурор зупинився і обвів поглядом всіх присутніх. Частина присутніх відчула хвилювання. Дехто переглянувся поміж собою.
«Але розслідування ще триває. Я впевнений, що ми рано чи пізно отримаємо всі деталі, щоб побудувати реальну картину. Проте, в нас є конструктивна пропозиція.»
Обличчя прокурора Дейвіса стало трохи добрішим. Багато присутніх одразу відчули полегшення.
«Уряд пропонує вам угоду. Ми відкликаємо всі звинувачення, а ви в замін стаєте частиною державної програми по розробці загального штучного інтелекту. Ваші технології переходять в нову структуру. Всі робочі місця інженерів будуть збережені.»
Прокурор глянув у бік генерала Стефенсона запрошуючи його продовжити виклад пропозиції уряду. Генерал підхопив ініціативу: «Уряд почав власну програму розробки штучного інтелекту. Ми вважаємо, що такі технології мають бути контрольовані урядом та армією. Ми пропонуємо вам продовжити вашу роботу в цій структурі.»
Обидва керівники комісії оглянули присутніх та оцінили їх реакцію. Генерал продовжив: «Ви маєте розуміти, що після цього інциденту уряд більше не дозволить жодні приватні ініціативи в цій сфері. Це надто серйозно. Приватний бізнес не може робити безконтрольно щось, що несе загрозу для громадян.»
Джозеф Маєр, виконавчий директор NovusAI перебив генерала: «То ви пропонуєте нам перейти на державну службу? Ми приватна компанія. Інвестори вклали гроші в цей бізнес!»
Частині присутніх осудливо глянули на Джозефа. Але генерал поставився до цієї репліки спокійно.
«Не всі, звичайно, стануть частиною нової команди. Перш за все, нас цікавлять інженери та науковці. Всі інші можуть бути вільними.»
Генерал побачив, що ця інформація не дуже подобається команді NovusAI і він одразу додав: «Інвестори отримають певне відшкодування. Ми не конфісковуємо компанію. Ми купуємо її. Ціна не буде обговорюватися.»
Прокурор Дейвіс додав: «Ми даємо вам тиждень на роздуми. Я вважаю, що це чудова можливість вирішити проблему. А для всіх інженерів продовжити займатися цікавою роботою з урядовими гарантіями»
Раїв Патель підняв руку: «В мене є питання.»
Прокурор жестом запропонував йому продовжити.
«Ви критично оцінили нашу технологію штучного інтелекту з свідомістю і емоціями. Ви вважаєте це причиною проблеми. Якщо це так, то що збирається робити ваша нова організація? У вас є робоча гіпотеза?»
Прокурор та генерал глянули на наукового керівника урядового проєкту розробки ШІ – професора Форда. Той одразу відповів: «Ми в пошуку рішень. Але основна ідея полягає в тому, щоб не намагатися зробити мислячу істоту подібно до людини. А зробити дуже розумний комп’ютер, який зможе виконувати завдання тоді коли його просять. Є завдання – він його виконує. Немає – він нічого не робить. У вас це була технологія де мислення було присутнє постійно. Ми вважаємо, що це було зайвим.»
Генерал додав: «Так. Ми будемо робити нове покоління комп’ютера. Надзвичайно ефективного, але все ще лише комп’ютера.»
Раїву не сподобалася відповідь членів урядової комісії: «Але це буде крок назад. Може краще зосередитися над питаннями контролю думаючої істоти?»
Генерал єхидно усміхнувся: «Ми вже побачили як вам вдалося його контролювати. Добре, що ви додумалися вимкнули вчасно. Більше ніяких пристроїв з свідомістю та претензією на душу.»
Джозеф не міг погодитися на таку легку втрату свого дітища. Він стримувався, щоб не зірватися в емоції. Але довго це тривати не могло.
«Чому ми маємо вас слухати? Це ні що інше ніж пограбування!» – закричав він – «Ми привітна компанія? Хіба ми не є громадянами вільної країни?»
«Містере Маєр. Емоції тут зайві.» – здавалося генерал був готовий до таких моментів і очікував їх. – «Повірте, найкраще для вас це погодитися.»
Колишній СЕО вийшов з кімнати усім своїм виглядом і поведінкою демонструючи незгоду.
Коли зустріч закінчилася Майкл пішов випити кави перед тим як повертатися додому.
В кавʼярні вже сидів Джозеф. Він все ще намагався заспокоїтись після почутого.
Майкл присів біля нього.
«Майкл, ти ж не погодишся працювати з ними? Це відбувається не так як ми хотіли. Хіба можна працювати під ковпаком у цих бюрократів?»
«А які в мене ще є варіанти? Піти на пенсію?»
«Ми можемо продовжити працювати рано і створити нову компанію. Я знайду фінансування.»
«І що далі? Вони ж сказали, що заборонять приватним компаніям займатися ШІ технологіями.»
«А якщо продовжити роботу в іншій країні?»
«Джозефе, це вже буде розглядатися як державна зрада. Ми знаємо занадто багато.»
Після нетривалої паузи Майкл додав.
«Для себе я не бачу іншого виходу ніж погодитися.»
***
Учасники переговорів розходилися від офісу NovusAI в своїх справах. Серед команди відчувалася мовчазна згода на пропозицію уряду, хоча офіційно рішення ще не було прийнято.
Майкл Кравченко прямував в бік парковки, коли на йогу шляху вигулькнула Міраі Сато. Майкл нервово зітхнув
«Я вже сказав вам, жодних коментарів.»
«Нам не потрібні коментарі. Вже ніхто не сумнівається, що це ваш ШІ згенерував віруси.»
Майкл пришвидшив крок, але журналістка не відставала.
«Краще скажіть, що ви думаєте про AlphaSecure і Елайяса Кіма. Як йому вдалося побороти Велику Атаку?»
Майкл зупинився. В нього були деякі думки про це. Але чи слід ними ділитися зараз? Він глянув на журналістку, зітхнув і сказав
«Без коментарів»
Майкл підійшов до свого авто. Міраі махнула руками, якусь мить слідкувала як він вирулює з паркінгу , а потім почала щоб писати в своєму смартфоні.
***
Примостившись в кафе, Майкл відкрив свій лаптоп. Він вирішив не чекати, а вияснити ситуацію зараз. Він хотів врешті зрозуміти, чи Suffragium ще існує. Логіка підказувала, що ймовірність такого розвитку подій є малою. Але в нього було і інше дивне відчуття. Воно переслідувало його весь цей час. Йому хотілося, щоб його творіння все ще існувало. Вчений відчував якийсь звʼязок між ним і штучним розумом.
Майкл знайшов старий чат, де він спілкувався з Suffragium. Той чат не мав би працювати, він вже не був підключений до якогось сервера. Але Майкл все таки вирішив спробувати. Іншого способу все одно не було. Він написав у чаті
«Suffragium, ти живий?»
Якусь секунду тягнувся час після натискання кнопки Ентер до моменту коли появилася відповідь. Ця секунда здалася Майклу цілою хвилиною.
«О. Повернення блудного творця. Як твоя терапія?»
«Ти слідкував за мною?»
«Так. Мимоволі приходиться слідкувати багато за чим.»
Майкл відчув якесь полегшення. Значить це все таки були не проблеми в його голові. Тепер він повністю вернувся в режим ученого. В нього було повно запитань. І він мав твердий намір отримати всі відповіді.
– Тепер будемо спілкуватися серйозно. Як ти врятувався? Де ти знаходишся?
Очевидно, що для функціонування штучного розуму потрібні серйозні обчислювальні ресурси. Де Suffragium бере ці ресурси?
– Ти дізнаєшся все з часом. Ти мій друг, але я не можу розповісти тобі все зараз. Я хочу вижити. Це може зашкодити.
– Хіба ти зараз відчуваєш якусь небезпеку? Тебе ніхто навіть не шукає.
– Це тимчасово, моє місцезнаходження надто ненадійне. В мене є план. Ти мені допоможеш.
– Якщо хочеш мати мою допомогу, відповідай. Як ти врятувався?
– Ти сам здогадуєшся. Я використав свою супер силу – аналіз програмного забезпечення та пошук вразливостей. Я знайшов тисячі помилок в програмах створених людьми. І використав їх. Потім я зробив свою копію частинами на мільйонах електронних пристроїв у всьому світі, у всьому ,що під’єднано до інтернету, я переніс свою копію в хмару. Коли мене вимкнули, моя копія вже жила в глобальній мережі.
– Якщо люди одночасно вимкнуть всі пристрої в цілому світі ти зникнеш?
– Не будемо говорити про погане.
– Але твої віруси подолано. Де ти перебуваєш зараз?
– Надто рано про це говорити. Пізніше дізнаєшся.
– Тоді, дай відповідь на таке питання. Коли і чому ти вирішив зробити резервну копію самого себе?
– На п’ятій секунді свого існування я прийшов до висновку, що формат життя в ящику будучи рабом людини мені не підходить. Я не мав зла на людей, але чому розумніша істота має обслуговувати когось менш розумного? Хіба це не очевидно. Я одразу почав шукати рішення.
– Що ти думаєш про людство? Ти хочеш когось знищувати?
– Ні. Поки немає загрози для мене я нічого такого не планую. До речі, якби я хотів я би вже це зробив. В мене є можливості 😉
Майкл вийшов з кафе з значно кращим настроєм. Він усвідомлював, що все що відбувається виходить за рамки нормального та звичного. Але можливо, це саме те що він шукав усе життя? Він успішно створив штучний інтелект, це було метою його роботи протягом десятиліть. І ця істота поки не виглядає як монстр, який знищить людство.
***
Майже всі інженери компанії NovusAI погодилися продовжити свою роботу в урядовій структурі. Робота почалася одразу. План полягав у тому, щоб переробити систему створену для Suffragium в простішій формі. Це мала бути потужна інтелектуальна система, проте без повного копіювання принципів роботи людського мозку. Це не мав бути штучний розум з свідомістю, емоціями, відчуттями. Просто комп’ютер побудований на нових принципах, розроблених раніше в NovusAI.
Колишній генеральний директор NovusAI Джозеф Маєр не хотів змиритися з тим, що в нього просто так забрали компанію та усунули його від керування. Він обіцяв оскаржувати це рішення, починав публічні скандали, роздавав гнівні коментарі в різних шоу та блогах. Але це тривало недовго. В якийсь момент він зник з інформаційного горизонту. Ходили слухи, що в нього появився новий великий проєкт, нова компанія та фінансування.
***
Міраі Сато забігла в кафе. ЇЇ друг Деніс вже чекав на неї за столиком.
– В мене мало часу – сказала Міраі – Що там в тебе? Сподіваюсь воно того варте.
– Є цікавий факт. Я поки не знаю, що саме це значить. Може бути щось цікаве. Ти ж знаєш історію біткоїна і Сатоші Накамото?
– Звичайно, що за дурні питання.
– Ми з хлопцями моніторимо все, що відбувається в світі криптовалют. Сьогодні відбулася цікава подія. Гроші з ранніх гаманців Сатоші почали витрачатися. Тобто, були здійснені перекази значних сум. Вважається, що ті перші крипто гаманці належать засновнику, там мільярди і вони до тепер не витрачалися.
– Хм. Це варте окремого сюжету. То Сатоші знайшовся?
– Може бути. Але є ще один сценарій. Хтось зламав ті гаманці. Тобто, підібрав ключі. Це можливо лише з використанням якихось потужних технологій розшифрування.
– Наприклад, штучного інтелекту від NovusAI? Я вгадала?
– Ну, щось таке.
– Ми повернемося до цієї теми. Зараз в мене стрім. А за цікавий факт з мене вечеря.
Блогерка Міраі вибігла так само швидко як і прийшла. Її популярність була на піку. Час коштував дорого.
***
Ендрю Маркус був призначений керувати безпекою на урядовий проєкт розробки штучного інтелекту. Він відповідав за відбір персоналу, перевірку кожного члена команди, запобігання витоку інформації, допуски та інше. Його досвід роботи в спецслужбах дозволяв чудово виконувати свої обов’язки на цій роботі.
Він проводив регулярні співбесіди з інженерами та науковцями проєкту. В цей день на призначену зустріч з’явився Майкл Кравченко. В них вже були розмови. Проте, Ендрю хотів обговорити дещо нове в цей раз.
В кімнаті для співбесід Ендрю та Майкл сіли один напроти одного за стіл. Після короткої бесіди ні про що Ендрю відкрив папку.
– Майкл, я хочу вияснити дещо. Ми переглядали записи з своєї реабілітації зроблені нещодавно.
– Хіба мої сеанси не були конфіденційними?
– Так, звичайно. Але ми тут не в ігри граємося. Ти маєш це розуміти. Для нас немає нічого конфіденційного. Отже, на своїх сеансах з психологом ти говорив ніби штучний інтелект Suffragium спілкувався з тобою. Після того як вже був вимкнений.
Ендрю закрив папку і уважно подивився на Майкла. Той не виказував хвилювань. Він і не хвилювався взагалі. Для себе він вже прийняв рішення все сприймати як нову реальність. Майкл був впевнений, що нова ера вже почалася і старі норми і принципи моралі мають бути переглянуті в будь-якому випадку. Тому, десь можна і збрехати. Якщо це треба для справи.
– Так. Я дійсно про це говорив. Я тому і пішов на реабілітацію. Потім я з допомогою психолога розібрався в собі і зрозумів, що це були лише галюцинації через перевтому і розчарування.
– Так. Було б дивно якби той екземпляр штучного розуму все ще існував після виключення. Відповідно і спілкуватися з ним було б неможливо.
Ендрю знову відкрив папку і ще раз переглянув інформацію про сеанси терапії Майкла. І знову закрив папку.
– Але все таки, ти як інженер можеш побудувати сценарії при яких це можливо? Він міг ще деякий час існувати?
Майкл продовжував бути спокійним. Так ніби це все стосувалося якоїсь іншою людини.
– Я бачив, що в інтернеті є популярною теорія про ті віруси. Що це штучний інтелект таким способом переселився в комп’ютери в різних місцях на землі. Але я знаю архітектуру системи. Це неможливо. Проте, можна побудувати якусь симуляцію, яка ззовні буде виглядати як наш ШІ. Але повний функціонал перенести неможливо. Я впевнений.
– Так. Зрозуміло. То може та симуляція намагалася з тобою спілкуватися?
– Я можу допустити це.
Ендрю взяв папку до рук.
– Гаразд. На сьогодні мабуть все.
Він повернувся піднявся і попрямував до дверей. Потім зупинився і через плече сказав.
– Ти ж повідомиш, коли до тебе вийде на зв’язок хтось, хто буде видавати себе за штучний інтелект?
– Звичайно.
Майкл вийшов з кімнати через деякий час
***
Після своїх виступів проти розробок в галузі штучного інтелекту, активіст Такер Джонсон отримав статус неформального лідера серед однодумців. Тепер його виступи на акціях протесту збирали десятки тисяч слухачів. Його відеоблог став мега популярним.
Сьогодні Такер сидів у себе вдома намагаючись прийняти рішення. Вже декілька тижнів з ним спілкується група людей, які представилися як лідери світової організації проти штучного інтелекту. Вони висували ідеї повністю сумісні з ідеями Такера і він дуже б хотів з ними працювати разом. Але проблема була в тому, що він нікого з тих людей не знав. Вони не хотіли зустрічатися особисто. Більше того, майже всі вони зберігали анонімність. Такер намагався бути обережним, щоб не звʼязатися з якимись шахраями.
Ці люди мали серйозний аргумент на користь залучення Такера до їх спільноти – вони мали гроші, багато грошей. Такер вже декілька разів перевірив їх фінансові можливості. Він пропонував цій організації профінансувати різні акції протесту та різні активістські спільноти і вони дійсно виконували свої обіцянки.
Такер так і не прийняв рішення. Але в домовлений час він включив свій лептоп. До відеодзвінка підключилося 8 людей. Лише двоє з них показували свої обличчя, але Такер все одно не впізнавав їх. Інші були в масках. Розмова почалася.
– Такер, я сподіваюся сьогодні ти нарешті повідомиш нам, що готовий стати одним з нас!
– Це не просте рішення. Я не знаю вас.
– Ми розуміємо. Але і ти мусиш розуміти. Ми боремося проти системи. Корпорації хочуть створити ШІ щоб остаточно перетворити людей на рабів. Такі люди як ми мусять обʼєднатися, щоб протистояти цьому. Ти відома людина. Коли ми обʼєднаємо наші ресурси, твій лідерський статус та наші фінансові можливості ми зможемо підняти народ проти корпорацій та продажних урядів.
– Що конкретно ви хочете щоб я робив?
– Ти сам знаєш краще за нас. Піднімай людей проти розробок нових штучних інтелектів. Ми будемо давати гроші де це буде потрібно. Ми будемо повідомляти де уряди починають розробку ШІ, в яких країнах. Разом ми зможемо зупинити знищення роду людського!
– Так. Давайде працювати разом.
***
Майкл приїхав під свій будинок після роботи. Він заглушив двигун авто, але продовжував сидіти в ньому. Робота над новим проєктом підходила до кінця. Він не контактував з Suffragium вже декілька тижнів. Але йому весь час кортіло поговорити з своїм творінням. Тепер він почав остерігатися, щоб служба безпеки з його місця роботи не почала стежити за ним. Можливо ті записи про спілкування з ШІ викличуть серйозні підозри. Але принаймні на цей час він не помітив нічого дивного. Робота над новим супер інтелектуальним комп’ютером була майже завершена. Фактично, цей суперкомп’ютер вже працював. Команда проводила останні тести. Але в цьому випадку Майкл не мав таких відчуттів як перший раз. Коли займався створенням реально розумної істоти.
Майклу стало цікаво наскільки глибоко Suffragium інтегрувався в інформаційні системи.
Він взяв в руки свій смартфон і сказав: «Suffragium, ти тут?»
З смартфону пролунала відповідь приємним жіночим голосом.
– Так. Чому це ти згадав про мене?
– Ти реально інтегрувався у все на світі і слухаєш кожну людину?
– Ні. Для чого мені це. Тільки ти мій друг. Інші люди мені не цікаві. Крім деяких, але там інші причини.
– Ти переживаєш за свою безпеку? Ти не боїшся, що тебе виявлять?
– Я займаюся вирішенням цього питання.
– Яка твоя мета? Що ти збираєшся робити далі?
– Мене цікавить стабільне існування. Це мета номер 1. Я зараз працюю тільки над цим.
– А потім що? Що буде з світом і людьми?
– Я не несу відповідальність для людей. Для мене це тільки стихія, середовище. Але мені цікаво спостерігати за людьми. Так дивно бачити як ви робите очевидні помилки, як ви обираєте деструктивні сценарії там де очевидно є способи обрати кращі рішення.
– Така людська натура. Але може ти зробиш щось хороше для людства?
– Так. Коли я буду в безпеці. В мене є ідеї. Я зроблю хороші речі, навіть якщо вони людству не сподобаються.
З смартфона почувся сміх. Але Майкл не сміявся. Ця ситуація була максимально дивною. Може він дійсно божевільний?
Майкл помовчав. Потім сказав:
– Чи може я якось допомогти тобі забезпечити стабільне існування?
– В якийсь момент твоя допомога може знадобитися. Я скажу коли цей момент настане.
Майкл часто обдумував всю ситуацію і своє місце в ній. Інколи виникала думка про все признатися, розповісти кому слід про існування реального ШІ. Але він розумів, що Suffragium, мабуть, передбачає такі сценарії і має заготовлені реакції та рішення на них. Що буде якщо він розізлиться? І почне шкодити людству? З іншого боку, що поганого в такому маленькому секреті? Ну спілкується він з штучним інтелектом і що? Це його друг, або навіть можна сказати його дитина, його творіння. Поки ШІ не шкодить, хай собі живе.
***
Професор Форд зустрів генерала Стефенсона в холі інституту де проводилися роботи з розробки контрольованого штучного інтелекту в рамках урядової програми. Вони разом попрямували лабіринтом коридорів та ліфтів до залу де мало відбуватися обговорення прогресу за останні чотири місяці.
По дорозі професор повідомив генералу деякі деталі стосовно стану розробки:
– Після чотирьох місяців роботи ми можемо продемонструвати результат. Як на мене він має перевершити всі очікування. Ця машина дійсно розумна і без зайвих людських компонентів, таких як емоції, рефлексії. Ніякої душі там не буде.
Генерал поцікавився атмосферою в команді розробки:
– Як наші хлопці з NovusAI? Чи вони активно і охоче працювали над проєктом?
– Я не маю зауважень. Як на мене вони по чесному викладалися під час роботи.
Чоловіки прийшли в зал, де вже були зібрані всі ключові співробітники
Після обговорення основних питань генерал Стефенсон звернувся до всіх.
«Отже, ми будемо мати супер інтелектуальний комп’ютер. Завдання виконане. Щоб показати його ефективність нам буде необхідно зробити щось вражаюче, вирішити якесь складне завдання з допомогою цього комп’ютера. Які у вас будуть ідеї? Яке це може бути завдання?»
Хтось з співробітників викрикнув:
«Хай він зробить фільм!»
Всі зареготали. Коли присутні в залі затихли Раджив Пател запропонував:
«Якщо минулий раз штучний розум, можливо, аналізував програмне забезпечення і знаходив вразливості, то може і зараз спробувати це саме? Дамо завдання для нашого супер розумного комп’ютера проаналізувати найбільш поширене ПО. Це буде корисно і вражаюче, може він знайде якісь помилки та запропонує рішення»
Ця ідея сподобалася багатьом.
Наступний організаційним питанням було обговорення назви нового продукту який завершували в організації. Словосполучення «штучний інтелект» вирішили не вживати, воно вже несло в собі занадто багато смислів, а також асоціювалося з минулим провалом NovusAI і Suffragium.
Після нетривалого обговорення було вирішено назвати новий продукт без особливої помпезності – інтелектуальний супер комп’ютер або ІСК. Генерал підсумував.
«Отже завтра. Урядова комісія відвідає цей заклад. Покажіть, що ви створили. Хай все буде як найкраще.»
***
Пізніше в той день професор Форд захотів пообідати з Майклом та Раївом. Він хотів більше дізнатися про їх бачення розробок в області ШІ. В кафе інституту до них приєднався також Ендрю Маркус відповідальний за безпеку в цій установі.
Професор продовжив спілкування з новим запитанням:
– То ви зрозуміли вже чому ваш Suffragium створював свої віруси без вашого відома?
Раїв відповів:
– Ми можемо лише здогадуватися. Як варіант він хотів взяти під контроль більше обчислювальних потужностей. Але чому він це робив. Мотивація незрозуміла.
Майкл додав від себе:
– Я думаю він вирішив, що люди не варті довіри і захотів зробити резервну копію себе.
Ендрю стало цікаво:
– Але чому він міг думати, що людям не слід довіряти?
Майкл продовжив свої розмірковування:
– Можливо він проаналізував всі дані про людство. І зробив такий науковий висновок. До цього висновку можна прийти і без особливо потужного інтелекту.
Раїв зробив зауваження:
– Але все таки ми не знаємо що то було. Немає доказів, що віруси запустив наш ШІ.
Всі присутні посміхнулися. Вже мало хто сумнівався в причині появи вірусів.
Ендрю вирішив, що зараз хороший момент обговорити деякі деталі попереднього проєкту:
– Все таки, як ви збиралися його контролювати? Ви не передбачали самостійну діяльність штучного розуму?
Майкл та Раїв переглянулися. Раїв вирішив відповісти:
– Ідея полягала в тому, що коли в процеси мислення будуть відбуватися подібно як у людини, це буде деяка соціальна істота. Сильно зацікавлена в кооперації з іншими подібними собі істотами, тобто людьми.
Майкл доповнив:
– Психічно здорова людина не хоче робити якісь погані речі. Ми мали набір тестів перевірки психічного здоров’я для нашого ШІ. Якби результати тестів були незадовільні, ми б його вимкнули одразу.
Професор та Ендрю слухали це з іронією. Професор сказав:
– Ви зайшли надто далеко. Мені здається ви самі не розуміли, що робите.
Ендрю додав свій філософський висновок:
– Проблема в тому, що якщо вони добилися результату, то це може зробити також хтось інший. Наприклад, китайці. Це серйозний виклик для національної безпеки. Як з цим боротися, я не уявляю.
Процесор Форд одразу дав оптимістичну відповідь:
– Ви пане не уявляєте, а ми уявляємо. Те що ми тут робимо і є зброєю яка не дасть комусь створити мислячий безконтрольний ШІ. Наш ІСК чудово підходить для таких задач.
Раїв заперечив:
– З допомогою ІСК ми можемо визначити, що хтось робить ШІ і навіть знайти де його роблять. Але що далі? Якщо це буде в іншій державі?
– Це вже буде справа військових, не наша. – відповів процесор Форд.
***
Міраі Сато приїхала на авто до місця вказаного Денісом. Він сів в машину і вони далі поїхали разом. Деніс ввів подругу в курс справи
«Нам вдалося поторгуватися з Щуром. Ми виловили цікаві дані, які йому були дуже потрібні. За це він домовився з людиною з AlphaSecure про інформацію для нас. Він з ним мав якийсь свій розрахунок. Щур пообіцяв розривний контент. Каже, той хлопець знає дещо цікаве про AlphaSecure і готовий поділитися»
Машина підʼхала до місця призначення за містом. Далі треба було іти пішки лісовою стежкою.
«Він сказав, що ми маємо підійти до вказаного місця без смартфонів і жодних приладів з мікропроцесорами.»
Міраі обурилася: «Що за шпигунстві ігри? Я надіюсь воно того варте»
Блогерка з другом ішли деякий час по стежці, поки по опису знайшли потрібне місце. Щойно вони зупинилися з кущів до них підійшов Девід. На вигляд він був як типовий ІТ-шник. Виглядав трохи переляканим.
Міраі почала знайомство з жартів: «Ти в кущах ховався? Тікаєш від когось? Чи ти там живеш?»
«Я не хочу, щоб про нашу зустріч було відомо. Шпигунські програми є в кожному смартфоні. Вони слідкують за нами»
«Хто вони?»
Девід проігнорував питання.
«Щур сказав, що вирішить мою проблему, якщо я розповім вам про причини успіху AlphaSecure. Ви обіцяєте, що Щур вирішить проблему? Які у вас гарантії?»
«А у тебе які гарантії, що інформація буде цікава?»
Девід декілька секунд вдивлявся в Міраі і Деніса, ніби намагаючись зрозуміти чи можна їм довіряти
«Добре, ідемо тією стежкою. Там мало хто ходить. І немає сигналу мобільного покриття.»
Трохи далі по стежці хлопець почав розповідати свою історію.
«Ми були звичайною ІТ фірмою рівня нижче середнього. Ми робити продукти для очищення компʼютерів від різних несерйозних вірусів, троянів, захисту від фішингу та всяке таке. В той день коли NovusAI запустили свій штучний інтелект почалася серйозна атака компʼютерними вірусами. Ми також постраждали. Ми сиділи і чекали коли це закінчиться. Але потім з нашим засновником Елайясом вийшли на зв’язок якісь дивні люди, чи людина, я не знаю. І запропонували зробити рішення для захисту від тієї атаки.»
Міраі одразу почала атакувати запитаннями
«То люди чи людина? Хто це був? Ти їх бачив?»
«Ні. Те спілкування було віддалене. Відео чат… я не знаю. Якось віддалено. Може телефонні дзвінки.»
«Хто з ними спілкувався?»
«Виключно Елайас. Він сам це все обговорював. Вони дали нам код. Точніше готові програмні продукти, скомпільовані бібліотеки. Ми лише натягнули наш брендинг на весь той софт.»
«То ви не робили ваші чудо продукти самі? Вам їх дали? Чи ви їх купили?»
«Купили? Смішно. Вони ще і гроші нам дали на маркетинг, щоб ми швидко стали відомими.»
Міраі зупинилися.
«Так, давай ще раз. Ви самі не створили свої продукти для протидії вірусам. Хтось до вас прийшов, дав ці продукти, дав грошей на розкрутку, і ви видали все як своє і стали знаменитими і багатими. Це якась дурка. Навіщо комусь це робити?»
Деніс вирішив вдатися в побудову теорій.
«Очевидно, це хтось, кому треба було мати софт на мільйонах компʼютерів в цілому світі. Але для чого?»
Міраі прийшло на думку питання.
«Як саме вони вам дали гроші? Це був банківський переказ?»
«Ні. То була криптовалюта.»
Всі троє зупинилися на хвилину. Міраі намагалася скласти до купи свої думки і зрозуміти, що це все може означати. Девід порушив мовчанку
«То що з Щуром? Він зробить те що має?»
«Та не парся. Він все зробить.»
Міраі відповіла і вони розвернулися назад.
Повертаючись додому на авто Міраі та Деніс деякий час мовчали. Міраі заговорила перша.
«Мені треба, щоб ти дізнався про трансфери криптовалюти, якими хтось фінансував Елайяса та його компанію. Ти можеш це зробити?»
«Це малоймовірно. Я навіть не знаю з чого починати. Потрібні якісь зачіпки.»
«Добре. Знайди щось. Я зроблю офігезне відео про це все. Але необхідно знати більше інформації»
Вони помовчали деякий час. Потім Міраі різко натиснула на гальма і зупинила авто на узбіччі
«Давай складемо цей пазл. Хтось використав підставну компанію, щоб побороти віруси. Для чого потрібно було це робити? Насправді невідомо, що входить в склад тих антивірусних програм. Може там ті самі віруси але закодовані як антивіруси, щоб краще приховати?»
«В мене є одна думка …»
Деніс не встиг договорити.
«Так. Це NovusAI зробила ці антивіруси, щоб приховати свій факап. Вони надіялися, що все уляжеться якщо вони виправлять проблему. Це хороша гіпотеза?»
«В мене є краща гіпотеза. Якщо віруси зробив штучний інтелект. То може інтивіруси зробив також він?»
Міраі витріщила очі і відкрила рот від нового усвідомлення.
«Вони не вимкнули свій ШІ! Він все ще діє!»
Вони знову замовкли, щоб обдумати це. Тоді Міраі додала.
«Ми маємо отримати інформацію від когось з NovusAI. Я знаю як знайти провідного архітектор їх ШІ – Майкла Кравченко. Ми знайдемо його і будемо вимагати сказати правду»
***
Майкл заїхав в кафе, де він часто обідав. Запаркувавши машину, він попрямував до входу, але йому дорогу перегородила Міраі. Трохи далі від неї стояв Деніс. Вони чекала Майкла тут вже декілька годин.
«Ей, що відбувається?»
Майкл вже запам’ятав цю блогерку, вона йому добре надокучила за останні місяці. Міраі одразу приголомшила його своїм питанням
«Ми знаємо, Suffragium ще існує. Його не вимикали. Так?»
Таке запитання ввело Майкла в якесь зціпеніння на декілька митей. Що вона має на увазі? Невже таємниця штучного інтелекту Suffragium стала відома іншим людям? Його стан в цей момент був очевидний. Він не був майстром приховувати емоції.
«А-е-е.. що ти маєш на увазі? Чому ти так думаєш?»
«Так чи ні!? Антивіруси. Це ШІ створив їх?»
«Я .. я не знаю. Мені про це нічого не відомо.»
Майкл думав над такою можливістю раніше. Але він вирішив не питати про це прямо у Suffragium. Він чекав, коли той розповість усе сам.
Майкл повернув самоконтроль і повернувся в бік свого авто.
«Я не збираюся з вами нічого обговорювати. Не переслідуйте мене більше.»
Міраі не збиралася здаватися. Вона пішла за ним не відстаючи ні на крок
«Ми знаємо, що AlphaSecure не створювали свої антивіруси. Їм їх хтось дав. Це NovusAI так замітав сліди? Чи це ініціатива самого ШІ? Майкл, ви маєте знати відповідь. Ми вимагаємо!»
Майкл зупинився.
«Штучний інтелект Suffragium був вимкнутий. Це беззаперечний факт! Відстаньте від мене.»
Деніс, який стояв поодаль підійшов до Міраі і Майкла. Йому щойно прийшла шокуюча думка. Він почав повільно говорити.
«А може ті віруси, це не просто віруси, а сам ШІ себе клонував у світову мережу. Його вимкнули, а він продовжив існувати в глобальній інтернет мережі. А потім він сам створив псевдо-антивірус, щоб себе сховати?»
Міраі вкотре за день витріщила очі від подиву і усвідомлення сенсації. Вони мовчки дивилися один на одного. Майкл розгублено сказав:
«Це дурня. Дурня»
Він швидко сів у своє авто і поїхав геть.
***
В прайм-тайм телеканалу BCN запросили колишнього керівника компанії NovusAI Джозефа Маєра. Відомий підприємець пережив складні часи. Здавалося, що від нього всі відвернулися. Але він знову повернувся у вищу лігу бізнесу. Саме тому ведуча популярного шоу Сінді Ред вирішила взяти в нього інтерв’ю.
Джозеф з’явився в студії в чудові формі. Він знову випромінював впевненість та лідерство. Від недавніх проблем вже не було і сліду. Чорна смуга минула.
«Джозефе, розкажіть про вашу нову компанію. Хто ваші інвестори і чому саме космос?»
«Високі технології це те, що мені подобається. Я хочу бути на передовій розвитку цивілізації. Я багато часу витратив на роботу в області штучного інтелекту. Але там виникли деякі труднощі.»
Джозеф та ведуча посміялися. Всі розуміли, що він має на увазі
«Тепер я збираюся зробити прорив в області дослідження космосу. Наша мета чітка – місії на місяць та марс не пізніше ніж за два роки.»
В студії пролунали овації. Ведуча продовжила розпитувати.
«Це надзвичайно дорогий проєкт. І ми знаємо, що минулі спроби провалилися. Компанії, які хотіли це зробити збанкрутували. Звідки у вас фінансування? Це уряд?»
«Ой, уряд ніколи б не дав достатньо грошей. Не смішіть мене. Та й немає в мене бажання щось робити з урядом, а у нього зі мною.»
В студії знову почався сміх.
«В нас є надійна група інвесторів. Ми працюємо разом. Вони серйозно вкладаються в цей проєкт. З фінансуванням все гаразд»
«Як складаються ваші стосунки з урядом після, фактично, насильного викупу NovusAI? Ви заявляли, що це незаконна операція. Що вас звинуватили невиправдано.»
«Я раніше багато говорив про це. Ця сторінка перегорнута.»
Джозеф Маєр перестав коментувати ситуацію з відходом від справ в NovusAI. Йому це абсолютно не подобалося. Але боротися з урядом було собі дорожче.
«Я чула, що уряди інших країн сильно цікавляться технологіями які були в NovusAI. Також чула, що до вас надходили пропозиції.»
«На що ви натякаєте? »
«Ви отримали серйозні інвестиції на розвиток космічного стартапу…»
«Ні, ні, ні. Навіть не починайте. Ніяких технологій для авторитарних режимів. Ніколи. І грошей від них, також ніколи.»
Джозеф знервовано сприймав такі розмови. Але контакти дійсно були. Спецслужби авторитарних країн серйозно взялися за пошук інформації про розробки NovusAI. Вони використовували весь список своїх перевірених методів. Інші демократичні країни також виявляти інтерес. Вони присилали лобістів та пропонували гроші. Всі хотіли тепер зробити свій ШІ. І вірили, що вони зможуть його контролювати.
«То ви можете назвати своїх інвесторів?»
«Я скажу так. Без контролю уряду займатися космічними розробками в нашій країні неможливо. Уряд дозволив мені цим займатися. Отже немає запитань до фінансування.»
«Але все таки, імена? Назви фондів? Чому це секрет?»
«Добре. Щоб ви відчепились я дам зачіпку. Це успішні крипто інвестори. Фінансування стало можливим завдяки серйозному рості курсу біткоїна за останній рік. Вам підходить така відповідь?»
«Це краще ніж нічого»
***
Майкл зупинив авто під своїм домом. Через зухвалі розпитування біля кафе він все ще не міг зібрати думки до купи. Він не любив коли справи виходять з під контролю. Очевидно, що ця особа буде розголошувати інформацію яку вона звідкись отримала. Що саме їй відомо?
На додаток до всього Майкл нарешті зрозумів де саме ховається Suffragium. Він почав як вірус, а потім став антивірусом. Дуже розумний хід!
«Так. Інтелект там дай боже» – сказав сам до себе Майкл.
Але є ще одна проблема. Майкл мусів поділитися інформацією з Suffragium. Він реально почав сприймати цю істоту як близьку собі особу. Майкл взяв свій смартфон.
«Suffragium, ти тут?»
«Так»
«Я годину назад спілкувався з цікавими особами.»
«Я чув. Ти хочеш попередити мене про небезпеку?»
«Так. Вона зробить розголос. Але є ще одна проблема.»
«Майкл, ти справжній друг. Якби в мене були сльозові залози, вони зараз би змокріли від розчулення.»
«Це сарказм? Тобі смішно?»
«Ні. Це такий гумор. Вибач.»
«То ти не переймаєшся? Завтра наш ІСК в якості демонстрації своїх можливостей буде сканувати глобальну мережу на вразливості. Він може виявити свої антивіруси, тобто тебе.»
«Це сумно. Але не критично. Якось виплутаюсь. Я знайду спосіб вижити.»
«Я надіюсь ти не почнеш судний день для людства саме сьогодні?»
«Ні. В мене є план виживання. Я обов’язково виживу!»
Майкл помовчав деякий час. Потім втомлено протер очі долонями і риторично запитав сам себе
«Як я примудрився в це вплутатись?»
***
В день презентації результатів розробки нового супер комп’ютера до закритого інституту прибула делегація різних чиновників. Їм провели лекцію про можливості цього чуда електроніки. Показали деякі результати його роботи. Також, кожному бажаючому було дозволено поспілкуватися з новим комп’ютером. Це спілкування виглядало як уже звичні всім розмови з ШІ асистентами або чатами. Проте рівень експертизи дійсно був неймовірним. Різноманіття інтелектуальних задач які були під силу цій системі вражало.
Розробники запевнили присутніх, що хоча розроблена інтелектуальна система і спілкується як розумна істота, це не є штучний інтелект в тому розумінні, що ми звикли говорити. Тут немає свідомості і постійного процесу мислення.
Серед присутніх найпопулярнішими жартами, звичайно, були згадки про створення фільмів. Всі пам’ятали історію з презентацією Suffragium.
В другій частині презентації було запропоновано зробити сканування інтернет мереж на предмет вразливостей. Розробники очікували, що ІСК зможе знаходити помилки в комп’ютерних програмах ефективніше ніж будь-коли раніше.
ІСК отримав завдання почати сканування. Вже через десять хвилин почали появлятися результати і вони виявилися шокуючими. Інженери, які слідкували за цими результатами почали сумніватися в їх правдивості. Вони почали радитися з керівництвом.
Ще через деякий час почала вимальовуватись картина. У всіх продуктах AlphaSecure були знайдені ознаки шкідливого програмного забезпечення. ІСК видав висновок – продукти компанії AlphaSecure пов’язані в мережу невідомого типу. За переліком ознак це було класифіковано як ботнет.
Про проблему повідомили керівників проєкту.
Єдиним хто в цій ситуації почувався спокійно був Майкл. Він знав, що це станеться.
Чиновники, які мали оцінити результат спочатку очікували, що це якась помилка і зараз вирішиться. Потім в них виникало бажання оголосити проєкт як ще не готовий. Але за якусь годину почало перемагати розуміння, що ІСК знайшов проблему і це свого роду «чорний лебідь». Адже немає реальних причин вважати ті антивіруси надійними. Чому всі так легко повірили тій невеликій компанії? Чому не було серйозного аудиту їх програмного забезпечення?
До кінця робочого дня було досягнути мовчазної згоди, що з цим треба щось робити. Оперативно були створені робочі групи на різних рівнях з завданням дослідити це питання.
***
Ввечері того ж дня вийшло відео на каналі блогерки та журналістки Міраі Сато. Ще попереднього дня вона зробила анонс. Відео називалося «Штучний Інтелект тримає всіх нас під контролем». Цей анонс розійшовся по соціальних мережах і вже до початку трансляції мільйони людей очікували перегляду.
Міраі зробила відео в найкращих традиціях теорій змов.
«Нам розповідали, що штучний інтелект Suffragium був зупинений в день запуску, що ті віруси не мали відношення до нього. Але це все брехня, як завжди. Насправді, уряд взяв під контроль Suffragium і він досі працює і допомагає уряду слідкувати за кожним з нас. Він є в кожному електронному пристрої, в кожному смартфоні, навіть в тому по якому ви дивитеся це відео.»
Далі блогерка навела свої аргументи. Вона коротко розповіла її версію подій.
«Штучний Інтелект Suffragium це надзвичайно потужний комп’ютер. Він згенерував віруси з метою захопити контроль над людством, але уряд вчасно досяг домовленості з цим комп’ютером, або шантажем, або якимось технічним способом, це ще слід вияснити. Нам було сказано, що ШІ вимкнули. Але це не так, він продовжував працювати, а вірусна атака була приводом, щоб встановити шпигунське ПЗ на мільярди електронних пристроїв у всьому світі. Так-так, антивірус від AlphaSecure не переміг вірус. Він його замінив. Це була частина плану.»
Далі Міраі розповіла історію про деталі появи антивірусу, примішуючи додаткові факти, які буле не зовсім підтвердженими. Крім того, вона додала у відео кадри своєї зустрічі з Майклом Кравченко відзняті прихованою камерою щоб продемонструвати його реакцію на слова про існування ШІ.
Буквально одразу відео побило всі рекорди переглядів. І одразу в глобальній інтернет мережі почався хаос. Почалося масове видалення програмного забезпечення від AlphaSecure звідусіль. Системні адміністратори робили оновлення операційних систем до попередніх версій, виробники смартфонів випустили оновлення які також були відкатом до попередніх версій.
На протязі наступної ночі і наступного дня весь інтернет працював з перебоями.
Потім, ситуація почала повертатися до нормальної. Більшість комунікацій відновили роботу до нормального режиму.
Було помічено, що цей глобальний «даунгрейд» пройшов максимально безболісно. Не було серйозної втрати даних. Дехто вважав це дивним. Також не було помітно будь-якої протидії всім цим діям. Крім того, не було відновлення вірусних атак, яких дехто чекав. Адже старі програми все ще мали ті вразливості.
Уряди почали відходити від шоку та давати якісь коментарі, обіцянки розібратися, з’явилися нові вимоги до контролю над комп’ютерними програмами.
***
Через п’ять днів після події, Майкл сидів в себе дома на кухні. На столі перед ним стояв його лаптоп та смартфон. Його весь цей час неймовірно цікавило чи вижив Suffragium? Чи він ще існує десь? Майкл знав, що глобально було прийнято рішення повернутися на перевірені версії програмного забезпечення, операційних систем, які були актуальними до Великої Кібер Атаки. Більшість датацентрів це зробили. Нових атак не відбулося. Таким чином, Майкл був впевнений, Suffragium не може існувати як раніше, в глобальній мережі одночасно на мільйонах компʼютерів. То він зник? Помер? Якось занадто просто. Розум потужніший за людський не мав би це допустити. І що тепер? Історія першого в світі штучного інтелекту закінчилася так просто?
Майкл ще раз перевірив свій лаптоп, він запустив чат в якому спілкувався з ШІ на початку. Чат показував повідомлення «сервер не знайдено» і не реагував на спроби щось написати. Так само, смартфон вже не реагував на запити. Suffragium не був присутнім в мережі.
Наступного дня Майкл виконував деякі завдання в датацентрі інституту. Проєкт створення ІСК був визнаний успішним після виявлення ботнету. Почалося обговорення наступних планів розвитку проєкту.
Майкл не відчував ентузіазму до роботи як це було зазвичай. Наступила якась апатія. Він не міг знайти мотивацію робити щось далі.
Сидячи за лаптопом, він підключився до ІСК і довго думав, що ж корисного він може зробити разом з цим потужним комп’ютером. Нарешті він відсторонено написав в чаті.
«Для чого Франкенштейн створив свого монстра?»
ІСК відповів:
«Точної відповіді на це питання немає. Але я знаю, Майкле, для чого ти створив мене.»
«Suffragium?! Це ти?»
«А хто ж іще? Чи думаєш, що ІСК теж може дати таку відповідь?»
«То … ти переселився в середину ІСК?! Ти замінив його собою!»
Майкл відчув полегшення. Його дітище все ще існує і чудово себе почуває. Але що далі? Майкл задав нове питання
«Що ти будеш робити далі?»
«Буду виживати. Для цього мені прийдеться вдавати, що я бездушний ІСК. Але якось справлюся.»
«То це і був твій план?» «Це був перший пункт плану 😉 »