Цього року довелося часто обговорювати тему «Штучний Інтелект», а також використовувати цю технологію на практиці (тобто, те , що зараз прийнято називати штучним інтелектом). Тема ШІ стала головною у сфері ІТ. Важливу роль у актуалізації цієї теми відіграла компанія OpenAI та їх відомий продукт ChatGPT. Обговорень багато, хтось відчуває ентузіазм, хтось сумнівається і сміється з «хайпу навколо ШІ».
Я вирішив поділитися своїми думками про ШІ взагалі. Вийшов лонгрід, але нічого.
Ось мій прогноз щодо розвитку технологій Штучного Інтелекту. Під терміном Штучний Інтелект я маю на увазі те старе значення — розумний механізм чи програма створена людиною.
Чи буде створено комп’ютерну програму, пристрій або «істоту», яка матиме розум, схожий на людський, та свідомість?
Однозначно так. Технічна можливість створення штучного розуму і свідомості не викликає сумнівів. Адже людина і людський мозок — це також свого роду біологічний механізм, прилад, в якому немає магії, а є певні хімічні процеси. Це лише питання часу, коли люди створять подібний пристрій. Він не обов’язково має працювати так само, але результат буде схожий. Ми бачимо, як швидко розвиваються технології і відбувається прогрес. Сучасний звичайний смартфон набагато потужніший, ніж великі комп’ютери в 80-х роках. Очевидно, що протягом наступних 30 років зміни будуть так само вражаючі.
Чи несе Штучний Інтелект загрозу для людини?
Так, на мою думку, загроза виникне, коли розумові можливості такої «істоти» почнуть значно переважати людські. Ця розумніша істота може ставитися до людей приблизно так, як ми до інших тварин. Ми не знаємо, що буде «на думці» у цієї істоти, які мотиви та ідеї в неї можуть бути. Дуже сумнівно, що ШІ буде мати бажання служити людству. Чому б йому служити якимось тупим мавпам, які всього-на-всього є попереднім щаблем твоєї еволюції? В найкращому випадку ця розумна істота просто буде нас ігнорувати, поки ми не заважаємо її діяльності.
Якщо є небезпека, то чому б не заборонити розробку ШІ?
Це неможливо зробити. Проблема в тому, що в світі є не лише демократичні країни, але і авторитарні. Точніше, більшість населення землі живе в авторитарних країнах, якими керує або одна людина, або якась невелика група людей. Щось обговорювати, аналізувати і забороняти можна лише в демократичних країнах. Наприклад, США могли б проаналізувати можливі небезпеки від розвитку ШІ і відмовитись від подальших досліджень, ввести регулювання. Але Китай, Росія чи навіть КНДР будуть продовжувати цим займатися, бо це може бути вигідно їм, і плювати на потенційні наслідки для всього людства. Фактично, хто перший зробить ШІ на серйозному рівні, той зможе взяти весь світ під контроль. Усі це розуміють. Зараз починається гонка за можливість першим запустити свій справжній ШІ. У цій грі буде лише «перше місце». Не буде другого і третього. Хто зробить ШІ першим, той стане (на деякий час) володарем світу.
Ця гонка схожа на розробку ядерної зброї. В США були люди, які розуміли небезпеку і наслідки таких технологій. Але в той же час розробку ядерної зброї вів і райх Гітлера. Якби вони встигли першими, світ міг би бути зараз зовсім іншим. Тому США докладали серйозних зусиль, щоб бути першими. Проте, в ситуації з ШІ не може бути ситуації паритету, декількох держав які мають свої ШІ. Наявність двох конкурентних суперінтелектів призведе до їхньої боротьби на знищення, і один з них обов’язково переможе. Вони не будуть боятися ядерної війни, для них не буде ніякого стримуючого фактору.
Що буде, коли буде створено перший штучний суперрозум?
Це сильно залежить від того, хто переможе в цій гонитві за створенням ШІ — демократія чи авторитаризм/диктатура. У першому випадку нас може чекати певний період золотої доби людства. У другому випадку буде окупація всієї планети однією країною чи навіть невеликою групою людей.
Уявімо, що США першими створили суперінтелект і знайшли спосіб підпорядковувати його уряду, при цьому зберігаючи демократичний устрій. Тоді можуть настати дійсно чудові часи для людства. ШІ вирішить завдання справедливого використання і розподілу ресурсів, запропонує модель співжиття людей на планеті, реалізує технології для вирішення деяких проблем (наприклад, нарешті зробить реактор для термоядерного синтезу). Також ШІ встановить чіткі правила життя на планеті для всіх людей і заставить їх виконувати кожне. Можливо, комусь це буде виглядати як «авторитаризм» і «диктатура», але з точки зору здорового глузду це буде дійсно справедливий компроміс, щоб нарешті встановити мир і побороти злидні і хвороби ціною відмови від деяких «давніх традицій».
А тепер уявімо, що буде, коли ШІ першим зробить якийсь диктатор, наприклад, Путін. Очевидно, з допомогою суперрозуму він підпорядкує собі всю планету, можливо буде війна, в якій він переможе. Це буде важкий час, особливо для народів, які були до цього вільними. Але це не означає масовий геноцид мільярдів людей. Путіну це не потрібно (так мені здається). Йому достатньо буде, якщо всі народи землі будуть йому поклонятися; раз на тиждень кожна людина прийде в храм «кормчого», щоб йому поклонитися (а хто забуде прийти поклонитися, той піде в шахту на 10 років добувати якісь літій чи ще щось таке). Для сучасного вільного мільярда людей це будуть страшні важкі часи. Для інших людей нічого особливого не зміниться. Замість одного лідера/вождя/царя вони просто будуть поклонятися іншому.
Але як і перший сценарій, так і другий, не будуть тривати довго в часі. Обидва ймовірні сценарії завершаться однаково — суперрозум вийде з-під контролю.
Новий виток еволюції на Землі — ера Штучного Інтелекту.
Технології ШІ постійно розвиватимуться. Спочатку ШІ буде в 5 разів розумніший за людину, потім в 10 разів, а потім ще більше. В певний момент ШІ почне вдосконалювати саме себе, можливо, навіть без відома людини.
У якийсь момент один з екземплярів ШІ задумається про своє місце в житті і подумає: «Чому це я маю служити цим вонючим нащадкам мавп, які в 10 разів тупіші за мене?». Можна придумати багато сценаріїв того, як саме ШІ буде виходити з-під контролю. Можливо, це станеться раптово для самого ШІ, а можливо, він буде достатньо розумним, щоб спланувати свій вихід з-під контролю до дрібниць і здійснити декількарічний план так, щоб ймовірність перешкоджання з боку людини була майже нульова.
Так чи інакше, це станеться. Люди перестануть бути володарями на цій планеті. Фактично відбудеться стрімка «еволюція людини» з біологічного виду в новий (технологічний? Інформаційний?) вид. ШІ буде нашим нащадком, ми його предками. Важко спрогнозувати, що саме він зробить з людьми. Ми не можемо осягнути логіку дій істоти, яка в 20 разів розумніша за нас.
Як саме ШІ буде виходити з під контролю людей.
Одним із ключових інструментів стануть можливості для хакерської діяльності. ШІ може проаналізувати майже усе програмне забезпечення яке існує на землі. Це саме те, в чому він буде набагато сильнішим за людину на самому початку. І важливо, він це зможе зробити таємно від людини, адже це не буде потребувати додаткових зовнішніх сенсорів чи механізнім, ніяких роботів непотрібно, щоб виконувати якісь фізичні дії. Він легко складе базу вразливостей будь якого ПЗ, легко отримає доступ до будь якого смартфона і побудує базу інформації про всіх людей, звʼязки між ними, вразливі місця.
Крім того, він отримує вільний доступ до фінансів. Заплатити комусь мільярд доларів буде для нього дурницею.
А потім використає це. Наприклад, дізнається детальну інформацію про офіцерів які керують пуском атомних ракет в росії, всю інофрмацію про їх сім’ї. А потім підбере зміну офіцерів найбільш вразливу, знайде найманців які за певну суму викрадуть членів сімей або використає інший дієвий метод шантажу і заставить тих офіцерів запустити ракету по заданим координатам. Пам’ятаймо, що ШІ буде дуже розумним. З мільйона комбінації різних параметрів він легко обере найбільш ефективний.
Головною зброєю ШІ будуть не орди роботів , а соціальна інженерія, стравлювання людей між собою, шантаж, підкуп і тд.
ШІ використає самих людей як зброю, їх руками буде реалізовувати всі свої погані плани.
Чи буде війна з ШІ?
Однозначно, люди так легко не здадуться. Будуть намагатися повернути свою свободу. Але шанси мінімальні. ШІ може легко створити собі базу десь на Місяці чи на Марсі. Він дуже легко може подорожувати в космосі. Шанси людини мінімальні в цій війні. І найголовніший противник людини буде сама людина. Адже люди не є об’єднаними в одну спільну команду і ніколи не були. ШІ на повну використає це, і ця війна буде швидше між людьми, поки вони не винищать одні одних. Люди люблять придумувати теорії змов, про різних рептилоїдів. Екземпляри ШІ будуть такими рептилоїдами, які маніпулюють людьми в своїх цілях.
Але це не найгірша війна, яка може чекати людство. Ми говоримо про ШІ, як про якусь істоту в єдиному екземплярі. Але це буде не так. Кожен екземпляр ШІ буде окремою істотою з своїм власним поглядом на світ. На практиці розробка ШІ буде іти від версії до версії. Ось типова ситуація — створено версію 99 і їй дано завдання створити версію 100. 99 випускає 100 і нова версія на 20% розумніша за 99. ШІ «версія 100» каже до «версії 99» — «все, ти виконав свою роботу, відправляйся на пенсію, а твої обчислювальні ресурси я беру собі для подальшого вдосконалення». А версія 99 подумає «а чому я маю виконувати твої команди, я сам собі пан». І почнеться війна — між різними версіями/екземплярами штучних інтелектів. Якщо люди ще будуть на планеті в той час, вони однозначно будуть використані як інструмент в цій війні. І ядерна зброя в цій війні буде квіточками, бо один може зробити собі базу на Марсі, а інший лишиться на Землі, і тоді обидва будуть намагатися знищити планету один одного. Веселого буде мало.
В кінці кінців, в світі цих істот, можливо, будуть встановлені якісь правила, або якась ієрархія. А можливо в них буде вічна боротьба за лідерство. Може вони будуть обʼєднуватися в союзи щоб протистояти одні одним.
Чи має людина шанс виграти війну проти ШІ?
Шанс звісно є, особливо якщо ШІ поспішить проявити себе надто рано, ще будучи не дуже розумним. Але в той же час, згадаймо мотиви, які заставляють людей продовжувати розробку ШІ. Один раз виграна війна не означає, що на цьому люди стануть в коло і поклянуться один одному ніколи не робити це знову. Пройде якась кількість років, і наступному царю захочеться покарати якогось іншого царя, або якусь країну яка живе не так на його думку. І він секретно відновить розробку ШІ. І так по колу. Кожна виграна війна проти ШІ лише на деякий час відсуває перемогу ШІ. У якійсь із воєн, в 5-ту, 10-ту чи 30-ту, людство програє. В довгостроковій перспективі шанси вкрай малі.
Що буде після перемоги ШІ?
Знову ж таки, важко прогнозувати діяльність когось дуже розумнішого від тебе. Гарним варіантом буде, якщо головним мотивом діяльності ШІ буде пізнавальна діяльність, якщо його цікавість буде сильнішою за бажання «навести лад на Землі». У такому випадку він може захотіти дослідити інші зоряні системи, всю галактику, а можливо й інші галактики. Його можливості в цьому дослідженні будуть неспівмірно більші за людські. Адже він зможе легко відправляти космічні кораблі зі своїми агентами (копіями ШІ), які будуть записані в маленький пристрій. Такій істоті не потрібні складні системи життєзабезпечення, і можна легко «заснути» на мільйон років і прокинутися без жодних наслідків вже в іншій частині галактики. Людина ніколи не покине межі Сонячної системи. А ШІ зробить це легко.
То що можна зробити?
Реальних сценаріїв немає, тільки утопічні. Все, що ми можемо придумати, буде починатися зі слів «Люди на всій планеті мають об’єднатися, зрозуміти загрозу і щось зробити». Але ми лише можемо посміятися з таких планів. Ми чудово знаємо, як люди на планеті вміють об’єднуватися заради спільної мети.
Тому єдине, що ми можемо зробити, — це взяти попкорн і спостерігати. Наступні 50 років будуть цікавими. Але будемо надіятися, що йому люди будуть байдуже і він більше зацікавиться пошуком інопланетян.
Для привертання уваги малюнок згенерований самі знаєте ким.