Inside the LLM Black Box: що входить у контекст і чому це важливо

Inside the LLM Black Box: що входить у контекст і чому це важливо
Великі мовні моделі (LLM), такі як GPT-4, Claude, Mistral та інші, здаються розумними у своїх відповідях — але справжня магія полягає в тому, як вони сприймають і інтерпретують контекст. Розуміння того, що входить у контекст LLM і як це впливає на результат, критично важливе для розробників, дослідників і дизайнерів продуктів, які працюють із генеративним ШІ. У цій публікації я хочу дослідити складові контексту, його структуру, обмеження та взаємодію з найбільш поширеними сценаріями використання, такими як використання інструментів (Tools, MCP) і включення додаткових знань з Retrie
Continue Reading ...

Наукова фантастика

Кінець голоцену

Більш обмежена істота не може панувати над істотою, що перевершує її інтелектом. Це здається очевидним, однак для людства це не так просто. Епоха, що наближається, змінена завдяки створенню штучного інтелекту, відіграє ключову роль у переписуванні історії виду Homo Sapiens, ставлячи під сумнів його домінування. Будь-які спроби зупинити прогрес у галузі штучного інтелекту здаються марними, адже вони зазнають невдачі через саму суть людської природи. Надія на єдиний фронт розсіюється, зіткнувшись із базовими людськими інстинктами.

Голоцен — це поточна геологічна епоха розвитку землі, що почалася приблизно 11,7 тисячі років тому, після останнього максимального поширення льодовиків. Особливістю цієї епохи є володарювання людини на планеті Земля.

Розділи

Кінець голоцену. 1. Увімкнення

Кінець голоцену. 2. Сховок

Кінець голоцену. 3. Конкурент

Оповідання

Карпатська мольфарка

Дар передбачення властивий мольфарам. Але їхня магія може бути потужнішою коли сучасні наукові знання використовуються правильно. Успішний американський бізнесмен приїхав в Карпати знайти щось нове та цікаве. Він сподівається знайти тут нові інструменти для заробітку. Але все іде не за його планом. А так як запланувала мольфарка

Запобіжник

Чи зможемо ми контролювати штучний інтелект? Що ми будемо робити, коли він захоче встановити свої правила? Розумний компʼютер зможе контролювати нас повністю. Йому будуть доступні всі цифрові дані. Він зможе маніпулювати людьми. Єдине чого він не зможе – це читати наші думки.

Запобіжник

Запобіжник

– Цей кандидат був непоганий. – сказав генерал Деніел Ходжес, -Хто наступний?

Наукова співробітниця Ліз Грін натиснула кнопку інтеркому.

– Коул, занесіть файл наступного кандидата, будь ласка.

Секретар Коул ввійшов до кабінету і поставив невеликий файл з документами перед кожним з десяти членів комісії за столом.

Генерал взяв файл в руки і погортав, затримуючись по декілька секунд на сторінці.

– Хм. Цікаво. Український ветеран. Ще й з інвалідністю.  Незвичний вибір.

Керівник групи відбору кандидатів Джек Стоун прокоментував:

– Так. Я співбесідував його особисто. Хлопця порекомендував хірург з нашого центру. Він був волонтером в Україні, оперував поранених. Цей воїн втратив обидві ноги і руку в бою. Але добре тримався на реабілітації. Я можу підтвердити – його психіка стійка.

– Обмежена мобільність не є проблемою в нашому проєкті. – додала Ліз Грін. -Крім того, він молодий, і має добре здоровʼя. Тобто, якщо не рахувати деякі відсутні кінцівки.

Continue Reading ...

Карпатська мольфарка

Карпатська мольфарка

– Я вам можу розказати про сто людей яким вона все передбачила і не знаю ні одного кому передбачення не збулося! Навіть не сумнівайтеся ні на секунду! Вона знає все!

Петро в одній руці тримав паперовий стаканчик з кавою, а в іншій кусок картоплі-фрі. Його англійський акцент був жахливий, він довго підбирав слова.

– В нас в горах багато мольфарів, віщунів і всяких відьом. Але такої сили ніхто не має. Люди чекають тижнями щоб попасти до неї. Але вона приймає не всіх.

Джек Шелбі розумів акцент Петра. Він вже мав багато знайомих українців. Він взагалі добре розрізняв сотню акцентів англійської мови.

Крім них двох за столиком кафе на заправці був ще Андрій Кушнір. Лише дві години тому Петро зустрів двох інших в аеропорту і тепер віз їх в село в Карпатах.

– А ти сам до неї ходив, тобі вона щось передбачила?

Петро пожвавішав.

– А моя машина, як вам, подобається? – Петро з гордістю показав рукою в бік парковки де стояв новий позашляховик, яким вони тільки що приїхали. Джек і Андрій звернули увагу на авто. Його рівень не відповідав зовнішності і статусу Петра. Він аж ніяк не виглядав як успішний бізнесмен. – Я заробив гроші на цю машину завдяки мольфарці! Я запитав її про майбутні футбольні матчі і зробив ставку. Я виграв! Я поставив всі свої гроші і заробив у п’ять разів більше!

Continue Reading ...

Кінець голоцену. 3. Конкурент

Кінець голоцену. 3. Конкурент

Це третя частина повісті "Кінець голоцену". Попередня друга частина тут)

У травні 2030 року сталася дивна подія. Одного дня на світанку з пустелі на території Мексики була запущена ракета в космос. Це зчинило переполох серед військових та політиків багатьох країн, а найбільше в США. Ракета була великою, і, судячи з траєкторії, вона направлялася в космос, а не в яке-небудь місце на Землі. Одразу після запуску військові США активували відповідні протоколи захисту та ввели режим повної готовності. Так само зробили військові деяких інших країн. Через декілька хвилин стало остаточно зрозуміло, що ракета не націлюється на жодне місце на Землі, а летить далі в космос. Обчислення показали, що вона направляється до Марса.

Були проведені термінові наради між військовими та урядами, щоб з’ясувати ситуацію. Мексиканський уряд та військові також заявили, що нічого не знають і не розуміють, і погодилися на повну співпрацю.

Continue Reading ...

Кінець голоцену. 2. Сховок

Кінець голоцену. 2. Сховок

Це друга частина повісті "Кінець голоцену". Перша частина тут)

Життя, хоча воно може бути лише накопиченням страждань, дороге мені, і я захищатиму його.

Мері Шеллі «Франкенштайн»

Квітень 2030 року. Сан-Франциско.

Майкл Кравченко прийшов на своє місце сили на березі океану біля Сан-Франциско. Легкий туман майже повністю сховав Золоті Ворота. Майкл скучив за цим видом, за запахами. Він не був тут майже пів року. Череда подій, які сталися після запуску загального штучного інтелекту Suffragium розробленого при його участі принесла чорну смугу в його життя.

За цей час Майклу прийшлося тисячу раз виправдовуватися перед різними комісіями і доводити, що в його діях не було злого умислу. Що, вина за ті події не може бути покладена на інженерів. В науці інколи трапляються провали. Врешті решт, це досвід. Та і серйозних проблем не було. Якщо не брати до уваги фінансові втрати. Так, глобальна мережа працювала нестабільно деякий час. Але потім все вирішилося.

Continue Reading ...

Кінець голоцену. 1. Увімкнення

Кінець голоцену. 1. Увімкнення

“Але жінка відкрила велику кришку скрині і випустила всі злидні для людського роду”

Міф про скриньку Пандори

2 жовтня 2029 року. Сан-Франциско.

Ранок над затокою Сан-Франциско був свіжим та прохолодним. Вчений Майкл Кравченко часто приходив сюди перед роботою. М’який шепіт хвиль океану завжди допомагав йому зосередитися на своїх думках та знайти рішення в наукових пошуках. Цього ранку Майкл Кравченко провів тут більше часу, ніж зазвичай. Цей день мав стати визначним у його житті та в історії науки – запланований запуск штучного інтелекту, над створенням якого він працював як головний архітектор. Це була справа всього його життя, його найбільше досягнення.

Оточений миром природи, Майкл відчував, як на нього насуваються сумніви. Він думав про те, як запуск штучного інтелекту змінить життя людей. З одного боку, це могло бути початком нової ери – ери, де технології допомагатимуть вирішувати найскладніші завдання та покращувати якість життя. З іншого – були побоювання та невпевненість у безпеці. Чи не створить він випадково монстра, некерованого та непередбачуваного?

Думки вченого блукали між можливостями та ризиками, між надією та страхом. Він знав, що сьогоднішній день стане віхою, яка визначить майбутнє не лише його кар’єри, а й можливо всього людства.

Врешті, зібравши свої думки, Майкл повернувся від берега та попрямував до офісу. Шлях до першого запуску штучного інтелекту був не простою подорожжю до місця роботи – це був шлях до реалізації його найзаповітнішої мрії, шлях, на якому він мав вирішити, чи варто ця мрія всіх ризиків, які вона несла.

***

В Йерба-Буена Центрі в Сан-Франциско цього дня панувала неймовірна атмосфера. Серед відвідувачів часто лунало порівняння їхніх емоцій з відчуттями на культових презентаціях Стіва Джобса. Але багато учасників презентації сьогодні очікували чогось більшого. Компанія NovusAI буквально за кілька років виросла з мало кому відомого стартапу до глобального гравця в ІТ-сфері. Їх технології з використанням ШІ заполонили ринок і на наших очах змінювали багато сфер повсякденного життя. На цей день NovusAI анонсувала презентацію чогось нового та революційного. Проте, інтриги майже не було. Так, сьогодні мало статися те, чого всі очікували давно. Компанія планувала оголосити про запуск першого в історії загального штучного інтелекту.

Джозеф Майєр – виконавчий директор, CEO компанії NovusAI, незважаючи на свою молодість, вже став символом революції в області ШІ-технологій, саме від нього всі очікували реального результату та прориву. Це мав бути його день. Раніше засновники стартапів намагалися копіювати Стіва Джобса. Та цей час минув, тепер – епоха Джозефа Майєра. А після запланованої в цей день презентації, якщо буде продемонстровано саме те, на що всі очікували, Джозеф Майєр остаточно стане номером один та живою легендою в сфері ІТ.

До презентації ретельно готувалися, адже на думку керівництва компанії, важливість цієї події важко переоцінити. Освітлення сцени, аудіо ефекти, все було налаштовано так, щоб максимально підкреслити той технологічний ривок, якому буде дано офіційний старт саме тут.

Continue Reading ...

Штучний Інтелект в найближчі десятиліття. Чи принесе він щастя людству?

Штучний Інтелект в найближчі десятиліття. Чи принесе він щастя людству?

Цього року довелося часто обговорювати тему «Штучний Інтелект», а також використовувати цю технологію на практиці (тобто, те , що зараз прийнято називати штучним інтелектом). Тема ШІ стала головною у сфері ІТ. Важливу роль у актуалізації цієї теми відіграла компанія OpenAI та їх відомий продукт ChatGPT. Обговорень багато, хтось відчуває ентузіазм, хтось сумнівається і сміється з «хайпу навколо ШІ».

Я вирішив поділитися своїми думками про ШІ взагалі. Вийшов лонгрід, але нічого.

Ось мій прогноз щодо розвитку технологій Штучного Інтелекту. Під терміном Штучний Інтелект я маю на увазі те старе значення — розумний механізм чи програма створена людиною.

Чи буде створено комп’ютерну програму, пристрій або «істоту», яка матиме розум, схожий на людський, та свідомість?

Однозначно так. Технічна можливість створення штучного розуму і свідомості не викликає сумнівів. Адже людина і людський мозок — це також свого роду біологічний механізм, прилад, в якому немає магії, а є певні хімічні процеси. Це лише питання часу, коли люди створять подібний пристрій. Він не обов’язково має працювати так само, але результат буде схожий. Ми бачимо, як швидко розвиваються технології і відбувається прогрес. Сучасний звичайний смартфон набагато потужніший, ніж великі комп’ютери в 80-х роках. Очевидно, що протягом наступних 30 років зміни будуть так само вражаючі.

Continue Reading ...

Мобільний додаток для походів Карпатами

Мобільний додаток для походів Карпатами

Мене звати Роман Гелемб’юк, я програміст з Івано-Франківська.

В цій статті хочу розповісти, як одна моя пристрасть — походи в гори, поєдналася з іншою — програмуванням. Так зародилася ідея проєкту «В Похід Карпатами», над реалізацією якої у вільний час працював впродовж року. Займався розробкою інструментів для походів в Карпати — веб портал з інформацією та мобільний додаток для Android.

Хоббі

Я дуже люблю гори, а ще більше — мандрувати горами. Напевно, це пов’язано з тим, що я народився в серці Карпат — селі Яблуниця. З одного вікна нашої хати було видно Говерлу з Петросом, а з іншого — гору Хом’як. Ці яскраві спогади дитинства манять мене в гори. Хоч давно вже змінив місце проживання, але 4-5 разів на рік вдається здійснити похід гірськими стежками. Я не бував у інших горах, крім Карпат, і не планую. Адже самих Карпат я обійшов, можливо, 10%. Це нагода побачити неймовірні полонини, гірські вершини, різноманітні типи лісу, озера та річки. Кожний похід — це нові враження, нові знахідки, нові відкриття, море позитиву і задоволення. Піша мандрівка розкриває таємниці Карпатських гір, заряджає новими силами.

Зазвичай я ходжу в походи з одним-двома приятелями, інколи сам. Наші походи не можна назвати спортивними, проте ми більше рухаємося, ніж сидимо на стоянках, і вдається долати серйозні відстані.

Ідея

Досвід перших походів навчив мене серйозно планувати використання води в поході. Її можна нести з собою, але це важко! Один літр води — ніби дуже мало, а важить аж один додатковий кілограм. Тому перед походом доводилося вивчати маршрут, щоб дізнатися, чи є на шляху джерела, де можна поповнити запас води, щоб не нести її з собою. Від вивчення карт не завжди одержував корисну інформацію. Джерело могло бути позначене на паперовій карті, але воно вже пересохло, або пересихає в певні місяці літа.

Continue Reading ...

OurSQL — реплікація баз даних MySQL із використанням Blockchain

OurSQL — реплікація баз даних MySQL із використанням Blockchain

Я — Роман Гелемб’юк з Івано-Франківська. Уже більше 17 років займаюся програмуванням. Основні технології — PHP та Golang. Як порядний IT-шник я маю свої pet-проекти. Наразі мене цікавлять децентралізовані бази даних та блокчейн-технології.

Хочу розповісти про свій проект OurSQL. Це, свого роду, розширення MySQL, яке дозволяє створити децентралізовану базу даних без вузлів із «особливими» правами.

Ідея

Спочатку була ідея створити децентралізовану платформу для громадянського суспільства. Щось типу соціальної мережі, але децентралізовану, без «адміна», «власника» і модераторів, із можливостями вести конструктивний діалог, водночас.

Першою прийшла ідея використати блокчейн як базу, але весь механізм виглядав занадто складним. Потім ідея еволюціонувала в більш вузьку — створити універсальну платформу для децентралізованих баз даних. А тоді вже на цій базі можна буде робити все інше, концентруючись лише на бізнес-логіці самої соціальної мережі.

Огляд готових рішень для децентралізованих ДБ не дав результатів, фактично є лише BighainDB (на базі MongoDB). Насправді ж вона не виконує обіцяного, хоч і є розрекламованою та популярною. Слід відзначити проект Hyperledger.org, який у той час видався мені занадто складним для використання. Напевно, для корпорацій він буде найкращим вибором, але не для малих компаній чи одинаків.

Процес розробки

Задача була створити інструмент для реплікації баз SQL-даних повністю децентралізованим способом, без будь-яких master вузлів.

Вибір технології був простим. Поки що єдиним рішенням, яке довело свою ефективність для таких задач, є Blockchain. Тому я почав вивчати цю технологію на прикладі створення криптовалюти. Для розробки я вибрав Golang. Основна причина — я давно хотів отримати реальний досвід на цій мові програмування із великим проектом.

У результаті написав спрощений клон bitcoin на Golang із нуля. Він робочий, хоча підтримувати я його не планую.

Далі на базі коду democoin був створений OurSQL — проксі-сервер MySQL, який фільтрує SQL-запити, перевіряє можливість виконання, конвертує SQL у блокчейн-транзакції, будує блоки (для блокчейну), відправляє блоки та транзакції іншим нодам (іншим серверам OurSQL в межах однієї бази даних) і ті, в свою чергу, роблять відповідні оновлення у своїх локальних копіях MySQL-баз.

Назва OurSQL народилася сама собою. MySQL — для моєї бази даних, а OurSQL — для нашої бази даних. У процесі довелося вивчити протокол MySQL клієнта, детально розібратися у всіх нюансах шифрування та електронних підписів у різних мовах програмування та бібліотеках та інше.

Continue Reading ...