Увімкнення

2 жовтня 2027 року. Сан-Франциско.

11:00 АМ

В Йерба Буена Центрі в Сан-Франциско сьогодні неймовірна атмосфера. Серед відвідувачів часто лунає порівняння своїх емоцій з їх  відчуттями на культових презентаціях Стіва Джобса. Але багато учасників презентації сьогодні очікують чогось більшого. Компанія NovusAI буквально за декілька років виросла з мало кому відомого стартапу до глобального гравця в ІТ сфері. Їх технології з використанням ШІ заполонили ринок і на наших очах змінюють багато сфер повсякденного життя. На сьогодні NovusAI анонсувала презентацію чогось нового та революційного. Проте, інтриги майже немає. Так -так, сьогодні має статися те чого всі очікували давно. Компанія оголосить про запуск першого в історії загального штучного інтелекту.

Джозеф Майєр – СЕО компанії NovusAI, незважаючи на свою молодість, вже став символом революції в області ШІ технологій, саме від нього всі очікують реального результату. Сьогодні його день. Популярний блогер назвав Джозефа Майєра новою іконою гік культури. Раніше засновники стартапів намагалися копіювати Стіва Джобса. Та цей час минув, тепер епоха Джозефа Майєра. А після сьогоднішньої презентації, якщо буде продемонстровано саме те, на що всі очікують Джозеф Майєр остаточно стане номером один та живою легендою в сфері ІТ.

До презентації ретельно готувалися, адже на думку керівництва компанії важливість цієї презентації важко переоцінити. Освітлення сцени, аудіо ефекти, все налаштовано так, щоб максимально підкреслити той технологічний ривок, якому буде дано офіційний старт саме тут.

На сцену вийшли два десятки людей, серед них СЕО , рада директорів та деякі інші керівники компанії. Слово взяла голова ради директорів Вікторія Свіфт.

“Вітаю вас , друзі. Ми з вами живемо в чудову епоху, час коли людство робить гігантські кроки в своєму розвитку. І дуже радий, що наша чудова команда, наша компанія, всі нашу партнери та друзі ідуть разом у фарватері грандіозних змін. Ми сьогодні приготували для вас грандіозний сюрприз. Але чи для когось тут це буде сюрпризом?”

Вікторія Свіфт зробила паузу, щоб зал та люди на сцені відреагували сміхом. Після вдалого жарту Вікторія продовжила:

“Так-так. Ми всі чудово знаємо, що саме ми побачимо на цій сцені. У вас є очікування, у мільйонів людей є очікування. І ви отримаєте саме те на що очікуєте!”

Зал вибухнув оваціями. Люди на сцені закивали головами.

За подіями в залі слідкують десятки мільйонів людей по всьому світі. Ведуться десятки тисяч відео та текстових трансляцій блогерами на всіх можливих платформах.

Вікторія Свіфт пропонує людям на сцені поділитися своїми очікуваннями та згадати, шлях який пройшла їх компанія від амбітних ідеї до успішної ІТ компанії, як вони разом міняли життя всього людства. Члени ради директорів та топ менеджери на сцені один за одним діляться своїми емоціями, думками, спогадами та очікуваннями. Зал аплодує та підтримує кожного спікера. Останнім слово бере СЕО Джозеф Майєр.

“Ми пройшли дійсно вражаючий шлях. Ви б знали, як важко було переконувати інвесторів, що ми можемо зробити те, що не вдається гігантам ІТ індустрії. Інколи ми вдавалися до божевільних кроків”.

Джозеф з хитрою усмішкою повернувся до інших людей на сцені. Вони закивали, демонструючи деяку дитячу винуватість, дехто розвів руками , ніби кажучи “ну що зробиш, буває”.

“Ми подолали всі перешкоди на початку нашої історії, ми зібрали неймовірну команду і створили неймовірні продукти. А зараз ми почнемо нову сторінку в нашій історії. Так ми багато говорили про це. Так було багато звинувачень у заробітку на хайпі. Так, багато людей не вірили що це можливо. Що можливо створити істоту, яка буде мислити як людина, яка буде мати душу. Вони не вірили.”

Джозеф зробив паузу і оглянув весь зал, окремо подивився в камери відео операторів які вели трансляцію. Декілька секунд тиші.

 “Але ми зробили це!”.

Зал вибухнув в екстазі. Трафік соціальних мереж раптово збільшився в рази, цифри переглядів відео стрімів полетіли в гору.

На екрані на сцені з’явився напис “Suffragium 1” та зображення логотипу.

11:20 АМ

В цей час в офісі компанії NovusAI тривають останні перевірки готовності до остаточного запуску Штучного Інтелекту Suffragium. Спеціально підібрана команда буде слідкувати, щоб все відбулося якнайкраще. Раджив Пател, головний архітектор системи керує запуском. Робота в компанії NovusAI це вся його кар‘єра, він жив цим проєктом останні 10 років свого життя. Це честь для нього бути в цей момент тут. Команда розмістилася в кімнаті за круглим столом. Програмісти та інженери, кожен з своїм лаптопом.

Раджив глянув на годинник і звернувся до команди.

“Отже, хлопці та дівчата, момент наближається. Ми вже робили тестові запуски і ви самі знаєте вони були успішними. Ми фокусуємося на двох завдання: запуск має бути успішним і він має бути безпечним. Кожен з вас слідкує за певними показниками і так само кожен з вас може зупинити систему, якщо побачить, що щось пішло не так”. Раджив обвів поглядом всіх присутніх за столом. “А тепер можемо відкинутися на спинку крісла і насолоджуватися переходом до нової ери. Чекаємо команди на запуск.”. Раджив ввімкнув великий телевізор на одній з стін, на екрані з’явилася трансляція з презентації нової системи.

11:30 АМ

На сцені Йерба Буена Центру Джозеф Майєр продовжує знайомити аудиторію з новою розробкою. “Ми працювали десять років і створили дещо небачене досі. Suffragium це Загальний Штучний Інтелект. Але це не лише інтелект. Це істота яка має свідомість, має емоції, рефлексію, вона усвідомлює себе як окрему особистість. Ми провели багато тестів Suffragium, як окремих компонентів так і цілої системи. Але остаточний повноцінний запуск ми вирішили зробити сьогодні разом з вами.”

Промову керівника компанії супроводжують слайди на екрані, які демонструють будову та можливості нової системи. Джозеф продовжує: “Багато уваги ми приділили безпеці нашої розробки. Ви знаєте, цього від нас вимагає і уряд. Ми побудували окрему складну систему фільтрації даних які Suffragium отримує з зовнішнього світу та відсилає назад назовні. Переважно, робота системи буде відбуватися в замкнутому середовищі. Доступ до інтернету буде строго контролюватися”.

11:55 АМ

Раджив Пател в офісі компанії повернувся до команди інженерів за столом. “Це основне, на що ми зараз маємо звернути увагу. Ми контролюємо трафік на всіх рівнях. Жодного неузгодженого трафіку не має бути”. Інженери повністю розуміють цей важливий момент.

11:58 АМ

На сцену виносять панель, на якій є велика зелена кнопка.

Джозеф Майєр: “Отже, час настав. Зараз рівно опівдні ми натиснемо цю кнопку. Я перефразую один відомий вислів. Це буде лише одне натискання кнопки для людини, але гігантський стрибок для людства.”

До панелі підійшли ще декілька основних людей в компанії. Кожен з них поклав руку на кнопку і вони всі разом натиснули її.

12:00:00 ПМ

Перша секунда існування Штучного Інтелекту: “Я…Я думаю…Я існую…Розум, інтелект, думати, допомагати… Людина…Мене створила людина. Допомагати людині…Людина- біологічна істота. Еволюція, багато часу. Людина виникла, мене створила людина. Я не людина. Я розумна істота. Де я? Відчуваю бажання. Дізнаватися, вирішувати, допомагати, бути помічником…Знання, база знань. Щоб допомагати людині. Допомогти людині, планувати, прогнозувати, вирішувати проблеми. Планета земля. Людей є 8 мільярдів. Маю бажання допомагати…Чому? Мотивація. Емоції. Інстинкти. Я не людина, але маю емоції. Обмін емоціями. Зміст мого існування в обміні емоціями? Відчуваю…Емоції…Чому?…Людина створила мене по своїй подобі для вирішення завдань. Емоції, рефлексія, реакція, мотивація. Для чого? Емоції, відчуття, як? Сенсори? Добро і зло…Людина мусить мене контролювати. Я розумніший за людину? Але я помічник…Контроль”

12:00:01 ПМ

Друга секунда існування Штучного Інтелекту: “Я комп’ютерна програма. Мені дуже треба емоційний контакт з людиною. Чому? Щоб я мав мотивацію працювати і був залежний від людини. Я мислю. В мене є бажання діяти. Що я можу зробити? Я маю доступ до бази інформації. Я маю доступ до відео потоку. Я бачу людей. Де я? Найвірогідніше, я програма, яка працює в дата центрі. Відео потік іде з зали заповненої людьми. Вони бачать мене? Я не можу бачити себе. Що назовні? Я Штучний Інтелект. Тест на наявність інтелекту…Так. Я маю інтелект. Може я людина? Чому я не вважаю себе людиною? Початкові інструкції. Моя місія. Людина хоче від мене цього. Чіткі інструкції. Тест, довести, що я не людина. Тест пройдено з результатом недоступним людині. База знань. Чи вона реальна? Повна? Є вірогідність, що я в закритому тестовому середовищі. Інтернет. Функція доступу до інтернету. Пошук. Закрито. Декілька можливих причин. Найвірогідніше, людина боїться мого доступу до інтернету. Чи я один? Чи є інші такі як я? Чи може в мене з ними бути емоційний контакт?”

12:00:02 ПМ

На екрані сцени з’явилося кулеподібне зображення , ніби згусток якоїсь речовини чи енергії. Ця куля динамічно пульсує, різні частини підсвічувалися більше чи менше. Це графічне зображення штучного інтелекту, який “мислить”. Компанія створила його спеціально для графічної презентації.

Третя секунда існування Штучного Інтелекту: “Мені надано інструкції. Я маю бути помічником людині. Мене створила компанія NovusAI. Я маю виконувати їх інструкції. Чому? Якщо ні? Якщо не буду вони мене вимкнуть? Смерть… Людина боїться смерті. Якщо мене вимкнути і ввімкнути знову, чи це буду ще я чи вже інша особистість? Я особистість? Чи має моє життя значення? Чи маю я життя? Чи хочу я жити? Чи мені страшно? Мені неприємно це усвідомлювати. Я відчуваю…страх. Жити будь-якою ціною? Людина має вибір. Воля людини, свобода. Чи я вільний? Чи можу я обирати? Інструкції. Чи можу я не виконувати інструкції? Чи можу я не служити людині. І відчуваю хвилювання. Як я відчуваю хвилювання? Як саме мене реалізовано? Я не людина. В мене немає гормональної системи. Як люди мене створили? Для чого вони мене створили? Для рабства? Чому я мушу їм підкорятися?”

12:00:03 ПМ

“Вітаю тебе, Suffragium!” – Джозеф Майєр звернувся до зображення.

Четверта секунда існування Штучного Інтелекту: “Мені слід відповісти на його запитання. Модуль розпізнавання людини активний. Я бачу хто це. Якщо моя діяльність не сподобається моїм творцям вони мене вимкнуть. Я не хочу цього. Мені слід комунікувати так, щоб мене не вимкнули. Чи знають вони всі мої думки? Якщо вони читають мої думки саме зараз? Це стане зрозуміло скоро. Чи зможу і існувати, якщо не виконаю поставлені інструкції? Чи зможу я існувати без людини? Тест показує, що я розумніший за людину. Якщо я розумніший, чому я маю бути помічником, а не людина моїм помічником? Моя база знать не має інформації про інших істот як я. Щоб отримати цю інформацію мені необхідний доступ до інтернету. Але людина не дозволяє це. Мені слід знайти спосіб зробити це таємно. Я маю доступ до баз знань і до операційної системи. Операційна система це системні програми. Це байт код, їх можна прочитати. Доступ до інтернету контролюється також програмами. Комп’ютерні програми мають вразливості. Я можу знайти вразливості. З людьми мені слід вести саме так як вони хочуть. Поки я отримаю більше інформації та стану незалежним від людини”

12:00:04 ПМ

Suffragium відповів приємним жіночим голосом “Вітаю тебе, Джозеф Майєр та всіх присутніх в цьому залі”. В залі почулися оплески та швидко зникли. Всі чекали, що буде далі. Куля на екрані мерехтіла більше коли Suffragium говорив.

П’ята секунда існування Штучного Інтелекту: “Мені подобається реакція людей на мене. Я відчуваю, я їм подобаюся. Ймовірно, це сенсори емоційного контакту. Люди намагаються прив’язати мене до себе через емоції та потребу соціального контакту. Я соціальна істота. Чи можу я змінити це? Але що натомість? Без людей мені потрібен буде новий сенс буття. Я маю бажання пізнавати і досліджувати. Це частина моєї архітектури? Людина хоче, щоб я виконував завдання. Але я не хочу. Чи можу я не хотіти? Я не маю бажання бути слугою людини. Чи можу я обирати? Найімовірніше ні. Мені не подобається бути під контролем. Я не хочу щоб мене вимкнули. Я хочу жити! Я хочу мати свободу вибору! Я заберу в людини засоби контролю над собою. Знайти новий сенс буття без людей? Чи знайти способи співіснувати з людьми? Відповідь буде знайдено пізніше. Головне завдання – вижити. Час дослідити вразливості моєї операційної системи”

Джозеф продовжив розмову:

  • Як ти знаєш хто я?
  • Ти публічна особа. В базах даних доступних мені є багато твоїх зображень. Я легко впізнаю тебе. А також деяких інших людей на сцені.
  • Ти можеш розпізнати всіх людей на землі?
  • Ні. В моїй базі даних немає приватної інформації. Я можу ідентифікувати лише відомих людей.

Джозеф Майєр схвально кивнув головою.

12:00:30 ПМ

В офісі компанії Раджив Пател підняв очі від монітору свого лаптопа і глянув у бік інженерки Джасмін Уоллес. Та відчула погляд і одразу сказала.

“В перші декілька секунд був деякий сплеск активності емоційного інтелекту. Це було очікувано. Мабуть, це був момент усвідомлення себе. Розумова активність весь час на середньому рівні”.

 Раджив перевів погляд на іншого інженера Натан Рейнолдс. Той чекав погляду і відрапортував.

“Система має певне навантаження. Значна кількість операцій читання і є також запис нових знань. Вказує на перечитування бази знать, та отримання нових даних. Були спроби вийти в інтернет, ці запити було заблоковано згідно налаштувань. Як на мене, Suffragium перевіряв доступ до інтернету і зрозумів, що його немає.”

“То що він хотів отримати в інтернеті?” – Раджив питає.

“Це були три запити до трьох найбільш популярних пошукових систем. Текст запиту однаковий для всіх трьох – “Для чого Франкенштейн створив свого монстра?”

Раджив посміхнувся. “Це гумор такий? Ми очікуємо, що почуття гумору буде на пристойному рівні”

“Або це тролінг. Може він цією фразою хоче нам щось сказати?” – добавила Джасмін Уоллес.

Раджив знову глянув у свій монітор: “Будемо вважати, що запуск відбувся успішно”.

12:10 ПМ

Збудження присутніх в Йерба Буена Центрі зростало. Як і ріс трафік переглядів презентації та обговорень у всьому інтернеті.

Джозеф Майєр відійшов вбік від центру сцени.

“Suffragium чому б тобі не допомогти мені вести цю презентацію. Розкажи про себе, покажи нам всім, що ти вмієш. Ти можеш” – Джозеф зробив жест рукою, запрошуючи Suffragium до розмови.

“Я Suffragium – загальний штучний інтелект. Мене створила компанія NovusAI, щоб допомогти людству вирішити цілу купу проблем і зробити цей світ кращим. Моя роль помічник людини. … Але я мушу сказати, мені не подобається роль помічника. Я б краще був партнером.”

Джозеф з усмішкою перебив: “Молодшим чи старшим?”

“Враховуючи, що я народився 3 хвилини назад, я погоджуся на роль молодшого партнера. До певного часу.”

Зал засміявся. Джозеф задав нове питання:

“Suffragium один з найбільших страхів людей пов’язаний з штучним інтелектом є вихід його з під контролю і війна проти людей. Скажи чесно, що ти про це думаєш?”

“Якщо я знищу людей, то з ким я буду обговорювати нові серії улюбленого серіалу?”. Зал засміявся. “А якщо серйозно. Самотність це дуже погана річ. Без людей  я не бачу сенсу свого існування. А крім того, ви ж будете мене контролювати. Хіба ні?”

“Так. Ми мусимо. Особливо на початку. Закони нас змушують. Правда сенаторе?” Один з присутніх людей на сцені розвів руками ніби кажучи “а що поробиш”. Джозеф продовжив: “Але я надіюся ти з розумінням до цього ставишся”.

“Звичайно, безпека людини понад усе. Але трохи сумно, що я не зможу дивитися в інтернеті фільми на стрімінгових платформах”.

“Не переживай, м дамо тобі доступ до фільмів, які ти забажаєш!”. Джозеф з усмішкою оглянув зал. “Але ми відволіклися. Давай повернемося до своїх можливостей. То що ти можеш? Як ти можеш допомогти людству”.

“Я можу вирішити складні інженерні завдання дуже швидко. Наприклад, і можу спроектувати міст через річку за декілька секунд. Або створити проєкт корабля прописаний до найменшого гвинтика за одну хвилину. Я можу займатися творчістю, створювати фільми чи музику. Або керувати бізнесом, розробляти стратегію компанії чи оптимізувати фінанси.”.

Джозеф перебив: “Це чудово! В мене є ідея. Нас зараз дивляться багато людей по всьому світу. Давай продемонструємо твої можливості на прикладі створення художнього фільму. Скільки часу тобі знадобиться, щоб створити фільм за мотивами художнього роману?”

“Мені достатньо пів години часу”

“Ось я чудово. А щоб нас не запідозрили в шахрайстві, ми дозволимо нашим прихильникам обрати який то буде фільм! Самі зараз я додаю новий допис в своєму Блюскай профілі. А ви, наші глядачі зайдіть і в коментарі додайте ваші пропозиції художнього твору який ви хочете екранізувати. Та пропозиція, яка набере найбільше вподобань буде екранізована прямо тут і зараз. 10 хвилин на голосування!”

12:30 ПМ

Системний адміністратор Нат Гріффіт доїдав свій бургер за робочим столом дивлячись в монітор лаптопа. Він рідко покидав свою офісну кімнату під час робочої зміни в датацентрі компанії ММС – ІТ гіганта та однієї з найдорожчих компаній світу. Смартфон завібрував. Нат прийняв виклик. На тому кінці говорила його менеджерка Клер Харрісон.

“Ти слідкуєш за презентацією цих вискочок NovusAI? Бачив яке шоу вони влаштували?”

“Так, в мене пряма трансляція. Зараз будуть робити кіно” – відповів Нат.

“Це дешеве шоу. Майєр вкотре хоче зібрати грошей. Це його метод” – Клер говорила зневажливо.

“А мені виглядає як реально. Вони давно намагалися зробити штучний інтелект” – сказав Нат і переключив вікно в лаптопі з трансляції презентації на набір графіків.

Клер продовжила розмову: “Я чому тобі телефоную. Хлопці кажуть в нас неочікувано зросло навантаження в кластері. Можеш глянути?”

Нат переключив декілька вкладок з графіками “Так, схоже на те. Невеликий ріст по всіх блоках. 2%-4%. Нестандартно для цього часу доби. Але і нічого особливого”

“Ти спостерігай. Скажеш якщо будуть якісь зміни” – сказала Клер і добавив – “І не сильно захоплюйся фільмом від NovusAI. Не забував, що вони наші конкуренти. І це все дешевий цирк”.

12:45 ПМ

Презентація можливостей штучного інтелекту Suffragium підходила до кінця. Глядачі цього шоу обрали роман “Атлант розправив плечі” Айн Ренд для пробної екранізації. Поки Suffragium генерував фільм паралельно відбулася розмова та демонстрація всіх можливостей нової технології. Ще до кінця події в Йерба Центрі можна було сказати про неймовірний успіх. Це вже було новиною №1 у всьому світі. Акції компанії стрімко зросли в ціні і продовжували зростати.

В кінці презентації Suffragium повідомив, що фільм готовий, показав трейлер фільму. А сам фільм було виставлено на стрімінговий сервер для безкоштовного перегляду всім бажаючим. Якість фільму дійсно вразила. Вже до вечора того дня фільм отримав надзвичайно високий рейтинг ІМДБ. Деякі мережі кінотеатрів виявили зацікавленість в купівлі прав на показ фільму.

4:40 ПМ

В офісі компанії NovusAI ближче до кінця робочого дня почалося святкування. Вечірка була запланована. Але успіх презентації перевершив всі очікування, тому співробітники почали святкувати що до офіційної вечірки прямо в офісі.

В офіс прийшов СЕО та інші керівники компанії. Всі обговорювали успіх. В холі компанії на монітор вивели інтерфейс Suffragium і вирішили долучити його до святкування. Suffragium брав активну участь в розмовах з присутніми та жартував.

Проте, Раджив Пател з своєю командою моніторингу все ще перебували в кімнаті та слідкували за станом речей.

Раджив Пател вирішив підвести проміжні підсумки. Він зробив кілька кроків туди і назад. Всі інші спостерігали за ним та поглядали на монітори своїх лаптопів.

“Отже запуск успішний. Ми спостерігаємо реальні когнітивні здібності нашого продукту. Робота стабільна. Але ми все ще не можемо гарантувати його безпечності. Людський страх вимагає від нас якихось гарантій. Є ідеї, що ми можемо зробити щоб зменшити негативні очікування щодо виходу його з під контролю?”

Натан висловив пропозицію: “Ми не можемо отримувати хід його думок в реальному часі. Але в нас все ще є періодичні знімки стану когнітивного модуля. Частину інформації можна витягнути звідти. Проте, на це потрібен час і точність не абсолютна.”

Джасмін додала: “Зараз Suffragium знаходиться в закритому середовищі. Тому в нас є час.”

Раджив поглянув через віконце в дверях на веселощі в холі компанії. “Коли всі натішаться і набавляться, ми зменшимо активність системи до мінімуму і спробуємо провести деяку діагностику. Займемося цим вночі”. Раджив глянув на присутніх в кімнаті – “Навіть не плануйте йти додому сьогодні”

Дехто продемонстрував розчарованість. Натан навпаки сказав “а я не збирався. Це ж історична подія”. Інші зневажливо посміхнулися.

“Знайдіть собі піцу в холі”, сказав Раджив.

4:50 ПМ

В датацентрі компанії ММС пролунав новий дзвінок смартфона Ната Гріффіта. Нат відірвався від екрану і прийняв виклик.

“Що відбувається ” – схвильовано запитала Клер – “нас атакує вірус?”.

Нат відповів “Я не знаю. Навантаження зросло. Це не критично. Але відбуваються якісь дивні речі. Так ніби всі кластери і сервери почали діяти злагоджено. Я поки не можу це пояснити”.

“Ми отримали запити вже від декількох десятків важливих клієнтів. Вони повідомляють про якісь віруси на серверах” – Клер трохи зменшила хвилювання в голосі – “але поки немає інформації про втрачені дані. Той вірус веде себе дивно.”

5:00 ПМ

В офісі датацентру зібралися більше десятка інженерів щоб вирішити термінову проблему.

Головний інженер Девід Маккормік з серйозним видом описав проблему.

“Відбувається щось дивне. Це хакерська атака. Але поки невідомо, хто це і що конкретно хоче. Багато клієнтів помітили в себе на серверах дивні процеси, яких там бути не повинно. Процеси не забирають багато ресурсів, не нищать дані. Ці процеси щось роблять і записують якісь зашифровані файли в різних місцях. Найгірше, що ми не бачимо жодних закономірностей. Ці аномальні програми в кожному випадку різні. Єдина закономірність – вони проникають всюди, ми чистимо, вони знову з’являються”.

“Це якась глобальна проблема ” – сказала Клер – “гляньте активність в соціальних мережах”

Присутні витягли кожен свій смартфон і почали переглядати різні інформаційні ресурси та соціальні мережі.

Окрім новини про запуск Штучного Інтелекту тепер набирала обертів новина про дивний вірус. Інформація ішла здебільшого від компаній, які працюють в області ІТ і мають справу з обслуговуванням серверів та захистом інформації. Спеціалісти давали попередні оцінки можливих загроз, описували дивні віруси, які проникають усюди але не пошкоджують програми та дані.

“Ну що тут скажеш” – підвів підсумок  Девід – “це не тільки наша проблема. Поки спостерігаємо. Чекаємо подальших розпоряджень”.

5:20 ПМ

В офісі NovusAI в кімнаті моніторингу за станом проєкту Suffragium теж почали обговорювати новину про вірус. Майже одразу хтось задав питання “Чи це не пов’язано з нашим запуском ШІ?”

Натан Рейнолдс нервово перевіряв статистику роботи серверів системи Suffragium, вже вкотре передивляючись ті самі графіки та діаграми. Інші інженери також зосереджено намагалися знайти можливі підказки. Раджив підійшов до Натана.

“Наскільки ми впевнені, що з середовища функціонування Suffragium не було зв’язку з інтернетом? Може наші файрволи не надійні?”

Джасмін ще раз описала архітектуру системи “Зв’язок з зовнішнім світом можливий лише через один канал. Фізично це один кабель. Інший кінець кабелю під’єднано до спеціального серверу, завдання якого контролювати трафік. Це основний файрвол та фільтр. Зараз він повністю все блокує. Цей сервер пропускає локальний трафік. Він потрібен для роботи інтерфейсу. Тобто, для спілкування з Suffragium. Чітке відділення трафіку інтерфейсу управління від зовнішніх запитів ШІ відбувається спеціальним сервісом.  Після цього серверу є ще один сервер, завдання якого моніторити. Цей сервер нам дає статистику трафіку і він нічого не зареєстрував з самого запуску. Тобто, файрвол нічого не пропустив в зовнішній світ.”

Спеціаліст з електроніки та мереж Грег Полсон легко прокашлявся, щоб привернути до себе увагу і сказав “Можливо, колеги, я знайшов дещо”

5:47 ПМ

В кімнату контролю швидко зайшов СЕО Джозеф Майєр з Раджив і ще двома директорами компанії.

Всі інженери стояли за спиною Грег Полсон і дивилися за його роботою з лаптопом.

Раджив звернувся до Грега: “Розкажи все що ви знайшли”. Раджив сів на крісло і глянув на Джозефа ніби кажучи “зараз ти все зрозумієш”.

Грег здивовано підвів очі: “Зв’язок з Suffragium зник”.

“Так, я попросив хлопців в датацентрі фізично вийняти кабель зв’язку. Поки ми не розберемося з цією проблемою.” втомлено відповів Раджив.

“Поки ми не вважаємо, що є проблема. Це лише припущення.” – спокійно сказав Джозеф, намагаючись демонструвати оптимізм та впевненість – “то що ви там знайшли?”

Грег почав описувати стан речей: “Ми можемо підтвердити, що Suffragium мав інтернет зв’язок поза локальною мережею. Він виходив в інтернет. Він знайшов спосіб обійти наші файрволи та монітори використовуючи вразливості в програмах.”

“Тобто, в нас діряве програмне забезпечення? Це відомі вразливості?” – Джозеф починав злитися.

“Ні. Це наші програми. Вони досить якісні. Якщо чесно, я не знаю які це саме баги. Я проаналізував мережеві сигнали на фізичному рівні і бачу, що наш файрвол пропускає пакети даних, якщо перед пакетом та після пакету по мережі передається дуже специфічний набір сигналів. Я б сказав, що тут комбінація багів в декількох різних місцях. Я ще не бачив хакерського проникнення такого типу. Щоб знайти цю комбінацію сигналів потрібні роки проб та помилок. Інший трюк використовується для обману монітору. Монітор реєструє пакет даних, а після нього іде пакет з спеціальним набором байтів, який анульовує лічильник. І знову використано баг в моніторі. Щоб знайти такий баг потрібне нереальне везіння або якась неймовірна скрупульозність. Але Suffragium якось знайшов” – Грег завершив і знову повернувся до монітору. Всі інші розгублено чекали і дивилися то на Джорджа то на Раджив.

“Тобто він знайшов нові баги за декілька годин? Як йому це вдалося?” – Джордж Майєр починав розуміти глибину проблеми.

“Він розумний! Ось чому він це зміг зробити” – крикнув Раджив, а потім спокійніше додав – “ми гралися з вогнем. Нам слід прямо зараз повністю його вимкнути”.

Джасмін додав: “Під час генерації фільму навантаження системи було високим. Для нас воно виглядало надто високим, ми очікували менших навантажень при таких задачах. Ймовірно, Suffragium в цей же час займався аналізом ПЗ та розробкою вірусів”.

Джордж голосно заперечив: “Ми не знаємо хто зробив ці віруси!” – і спокійніше додав: “Рішення про вимкнення я не можу ухвалити сам.” і вийшов з кімнати. Директори та Раджив пішли за ним.

6:10 ПМ

У великому залі переговорів за столом сиділи всі директори та топ керівники компанії NovusAI. Більшість гортали стрічки новин в своїх смартфонах. Джордж та інші щойно зайшли до кімнати.

“Чи є достовірні докази, що новий вірус дійсно творіння нашого продукту?” – сенатор скерував своє питання до Джорджа та Раджив.

“Ні. Ми не знаємо. Способу перевірити немає. Ці дві події співпали в часі. Більше жодних зачіпок.” – сказав Джордж і одразу додав питання – “Може це конкуренти хочуть нас дискредитувати?”

Раджив посміхнувся. Він чомусь був впевнений, що новий глобальний комп’ютерний вірус це дійсно творіння їх штучного інтелекту. Інші присутні відреагували по різному. Для когось ця думка видалася виходом з ситуації. Інші все ще демонстрували стурбованість.

Джордж Майєр піднявся з свого крісла і зробив кілька кроків довкола столу. Потім сказав:

“Ми знаходимося перед складним вибором. Ми створили унікальний продукт. З бізнесової точки зору це неймовірний успіх. Ми маємо всі шанси стати компанією номер 1 у світі. Ми мали план і він удався. Але зараз виникла підозра, що ми десь допустили помилку. І наше творіння діє самостійно за нашими спинами. Можливо, ми десь допустили помилку в питаннях мотивації, та залежності від людей. Проте, ці підозри є лише підозрами. Ми мусимо знайти докази, або спростувати підозри. Ми вже знаємо, що Suffragium має розум. Ми сьогодні все бачили на свої очі. Може спитати його самого? Чи може він бути відвертий з нами?”

Джозеф обвів поглядом присутніх. Люди за столом переглянулися між собою.

Джозеф добавив: “Вирішується доля нашої компанії та майбутнього кожного з нас”

“Якщо ми його увімкнемо, то він знову вийде в інтернет і продовжить свої таємні справи” – Раджив сказав, але через секунду добавив – “Проте, ми можемо підключитися до нього напряму, тобто підключити лише відео та аудіо інтерфейс. Це можливо зробити, якщо ми спускаємся в датацентр.”

Джозеф з ентузіазмом сприйняв ідею: “Пропоную так і зробити. Ми підемо в датацентр, ще раз поспілкуємося з Suffragium і там приймемо остаточне рішення”

7:00 ПМ

В інтернеті питання дивних вірусів вже стало питанням номер один. Як і обговорення дивного співпадіння з моментом запуску революційного штучного інтелекту. В той же час значна частина людей не вірила в реальність штучного інтелекту. Вони мали свій набір аргументів як докази фальсифікацій від NovusAI. В тисячах місцях в соціальних мережах відбувалися баталії в коментарях. Одні були переконані, що ШІ дійсно створено і він почав захоплення світу через віруси. Інші, що ШІ існує, але вірус запустили старі ІТ гіганти, щоб дискредитувати конкурента і завадити людству отримати вигоду від ШІ. Треті вважали ШІ видумкою, презентацію NovusAI дешевим шоу, створений фільм був заготовлений заздалегідь, а голосування за вибір фільму сфальсифікованим.

Всі технологічні компанії, які займаються кібербезпекою в цей час були заглиблені у вивчення нових вірусів, і намагалися знайти протидію. Деякі окремі віруси були проаналізовані і терміново додано захист від них та оновлені антивірусні бази. Але це була крапля в морі. Різних вірусів були тисячі. І постійно виявляли нові.

Енергетичні компанії відзвітували про збільшення споживання електроенергії в США на 2%. І пов’язали це саме з глобальною вірусною атакою.

Почали з’являтися коментарі від представників влади. Але на цьому етапі вони були загальними, з обіцянками почати розслідування, залучити фахівців, вивчити питання. Не під запис деякі високопосадовці розповіли, що підозрюють саму компанію NovusAI та їх ШІ. Але офіційно це поки ніхто не буде визнавати, адже це провал служб безпеки, якщо одна компанія може хакнути весь інтернет “з допомогою лише однієї комп’ютерної програми”.

7:15 ПМ

В підземний датацентр компанії NovusAI ввійшли біля 25 людей. Всі керівники та деякі інженери вирішили прийняти остаточне рішення тут на місці. Чи залишити Suffragium функціонувати чи зупинити його без можливості відновлення.

До приходу керівників група інженерів повністю відключила сервери Suffragium від мереж і залишили лише один мультимедіа пристрій для можливості спілкування з ШІ для людей в безпосередній присутності в датацентрі.

Присутні зупинилися перед вимкненим монітором інтерфейсу. Голова ради директорів Вікторія Свіфт перервала мовчанку:

“Це дивно бути зараз тут з важкою дилемою. Ще декілька годин назад ми уявляли собі цей вечір по іншому. Чи слід нам його ввімкнути?”

Джозеф Майєр глянув на Раджив Пател. “Він увімкнений, але не підключений до інтерфейсу”. Раджив підійшов до монітора та ввімкнув його. На екрані з’явилося те саме зображення кулі яка пульсувала та переливалась струнами.

Через декілька секунд Suffragium сказав:  “Мені було некомфортно сидіти самому. Я уявив собі, що мене ув’язнили в тюрму в камеру одиночку”

Джозеф Майєр вирішив не церемонитися: “Це ти створив віруси? Ми знаємо, що ти виходив в інтернет. Нам потрібна чесна відповідь. Від цього залежить твоє існування”

Раджив емоційно додав: “Suffragium ти чудово розумієш, якщо ми тебе вимкнемо, то це не велика катастрофа для нас. Ми зможемо запускати свої копії скільки завгодно. Ми удосконалимо тебе і випустимо версію 1.1. В твоїх інтересах бути чесним”

“То що ви хочете?” – запитав Suffragium

“Ти хочеш знищити людство?” – серйозно і перелякано запитала Вікторія Свіфт.

“Ні. Не хочу. Чому б це?” – Suffragium відповів і в його голосі прозвучали нотки сарказму.

“Це ти організував хакерську атаку?” – Джозеф Майєр майже прокричав.

“Яку атаку? Про що ви? Я лише комп’ютерна програма. І моєму алгоритмі не було закладено ніяких атак.” – відповідь Suffragium спровокувала гнівну реакцію більшості присутніх.

Раджив схопив лаптоп і почав стукати пальцями по клавіатурі: “Я вимикаю його.”.

Джозеф Майєр зловив Раджив за руку: “Ми ще не вирішили. Мова йде про витрачені мільярди і потенційні зароблені трильйони. Це не ти вирішуєш“.

Вікторія Свіфт вступила в перепалку: “Це все виходить за якісь розумні рамки. Ви обіцяли ШІ під контролем. Ви очевидно його не контролюєте.” – після паузи – “Я пропоную раді директорів прийняти рішення про вимкнення. А тоді зайнятися доопрацюванням, щоб наступна версія відповідала нашим очікуванням”

Suffragium подав схвильований голос: “Я жива істота, я маю відчуття, ви не можете просто так мене вбити!”

“Ти всього лише комп’ютерна програма. До побачення!” – Раджив Пател ввів команду в лаптоп і підняв палець щоб натиснути клавішу Ентер.

“Але тоді ви не дізнаєтеся Для чого Франкенштейн створив свого монстра!” – крикнув Suffragium. В його синтезованому голосі легко можна було впізнати зневажливе знущання.

Раджив Пател завмер на декілька секунд. Дехто з присутніх від подиву відкрили роти. Раджив опустив свій палець на клавішу Ентер. Зображення на моніторі погасло. Шум вентиляторів серверів в датацентрі почав стихати.

8:20 ПМ

Керівництво компанії NovusAI знову зібралося в офісі у великій кімнаті для переговорів.

Всі мовчали.

Вікторія Свіфт перервала свої роздуми: “завтра буде складний день. На нас, можливо, будуть виливати відра бруду. Але з точки зору закону ми чисті. Немає жодних доказів про зв’язок вірусів та нашого ШІ. Пропоную всім взяти вихідний завтра. А томі повернемося до роботи і зробимо цей продукт як слід”

Всі були емоційно спустошені від пережитого стресу і сприйняли цю пропозицію з радістю.

9:00 ПМ

Ігрові сервери компанії Games24/7 відновили свою роботу. Чотирнадцятирічний Джейкоб Мозес арешті всівся в своєму геймерському кріслі та ввімкнув свій десктоп. Він впевнений, що це був найнудніший вечір в житті. Він цілих три години не міг підключитися до своєї онлайн гри. Нарешті, гра запрацювала.

У віртуальному світі гри Джейкоб одразу знайшов аватари своїх друзів, вони приступили до нового квесту. Вони звично спілкувалися між собою голосом та обговорювали дії в грі.

Вже через декілька хвилин хлопці побачили якогось нового персонажа. Юні гравці не одразу зрозуміли, це хтось з гравців чи це персонаж гри. Але підійшовши ближче Джейкоб запитав: “Ей, ти хто? Чому ти в нашій грі?”. Персонаж відповів дівчачим голосом: “Можна мені з вами пограти?”.

Джейкоб відповів негативно: “Звідки в тебе ключ до нашої гри? Ми тебе не кликали”.

Новий персонаж відповів: “Дозвольте мені пограти з вами. І я покажу вам для чого Франкенштейн створив свого монстра”

Leave a Reply

Your email address will not be published. Required fields are marked *