Цифрові арбітри, штучно створене суспільство та віртуальні громадяни: вплив штучного інтелекту на розвиток цивілізації.

Людство створило штучний інтелект, і тепер стикається з викликом, як жити поруч з ним. Ми вже не можемо вважати себе "панами природи", адже поруч з'явився штучний конкурент, який має здатність навчатися, аналізувати інформацію і приймати рішення, а часом навіть перевершувати нас за розумовими здібностями. Як знайти спосіб співіснування з ним і який вплив цей розвиток має на майбутнє людства — про це ZN.UA поспілкувалося з доктором юридичних наук, керівником Наукової лабораторії імерсивних технологій і права НАН України Олексієм Костенком.

Це друга частина нашої розмови. У першій ми розглянули, як функціонує штучний інтелект і чому він лише прикидається, що розуміє нас.

-- Пане Олексію, як на вашу думку, чи стане розвиток ШІ загрозою для людського інтелекту? За прогнозами аналітиків, він поступово зможе замінити людей у професіях, пов'язаних з інтелектуальною працею.

Футуристичні побоювання з'являються з певною періодичністю. З прогресом штучного інтелекту деякі спеціальності дійсно можуть зникнути, але натомість виникнуть нові. Це схоже на те, як зникли професії, пов'язані з технікою минулих часів: наприклад, ремонтники дискових телефонів або телевізорів "Огонек", а також сервісні центри для холодильників "Минск".

Згідно з інформацією Всесвітнього економічного форуму, до 2030 року автоматизація може призвести до зникнення близько 92 мільйонів робочих місць. Проте водночас очікується створення приблизно 170 мільйонів нових вакансій, зокрема в галузях, пов'язаних зі штучним інтелектом, аналізом великих даних та програмуванням. Якщо ви ознайомитеся з розділом вакансій на сайтах OpenAI, Microsoft або інших компаній, що займаються ШІ, ви знайдете безліч цікавих назв нових професій.

Отже, інтелектуальна діяльність не зникне. Навпаки, ті, хто здатен продукувати нові ідеї, гіпотези, проблеми та соціальні конструкції, стануть елітою суспільства. Якщо ти можеш створювати те, що машина не здатна згенерувати, ти станеш "золотою кісткою" цивілізації. Як у золотих шахтах шукають дорогоцінний метал, так і в майбутньому держави шукатимуть людей, які здатні генерувати нові концепції. І вони надаватимуть їм підтримку як фінансову, так і моральну. Адже інформацію потрібно не лише споживати, але й створювати. Це є найважливішим.

Проте ти не зможеш стати творцем майбутнього, якщо не будеш безперервно навчатися. Якщо зупинишся на досягнутому і перестанеш оновлювати свої знання, які вже маєш. А також, якщо не оволодієш мистецтвом структурування цих знань за допомогою сучасних мовних моделей.

Таким чином, у змаганні "технології проти людини" людина не зазнає поразки?

Отже, на мою думку, цифрове суспільство навряд чи залишиться суворо антропоцентричним. У ньому вже виникають цифрові суб'єкти — аватари, електронні особистості та гуманоїдні роботи, які можуть мати інтелектуальні можливості, що в сотні разів перевищують людські, якщо ними керуватиме штучний інтелект нового покоління — AGI (Artificial General Intelligence). Це, можна сказати, "суперGPT", який не лише відповідає на запити, а й здатен самостійно генерувати ідеї, ухвалювати рішення та втілювати їх у життя: укладати угоди, призначати лікування та розробляти нові технології.

Відео створено за проханням Олексія Костенка.

Уже сьогодні ведуться дискусії про можливість частково наділити таких цифрових суб'єктів правами людини. Наприклад, у Євросоюзі обговорюють ідею надати AGI-агентам правовий статус, що дозволив би їм діяти від імені корпорацій: підписувати угоди, вести переговори, розпоряджатися активами, навіть брати участь у судових процесах. Фактично йдеться про спробу зробити ШІ не просто інструментом, а самостійним учасником правових відносин. І вже зараз є певні кроки в цьому напрямку.

У жовтні 2025 року уряд Казахстану зробив революційний крок, який досі не наважилися вжити ні в Сполучених Штатах, ні в країнах Європейського Союзу: до складу ради директорів державного інвестиційного фонду "Самрук-Казина" офіційно було введено штучний інтелект. Цей інноваційний учасник, відомий як SKAI (Samruk-Kazyna Artificial Intelligence), отримав повноцінне право голосу при ухваленні рішень. Фонд управляє активами, що перевищують 81 мільярд доларів, і тепер один з голосів, які впливають на його майбутнє, належить не людині.

SKAI працює на основі суперкомп'ютера Al Farabium, який використовує архітектуру NVIDIA. Цей комп'ютер не має доступу до зовнішніх мереж, а навчається виключно на даних, зібраних фондом, та проводить аналіз усіх рішень, прийнятих радою протягом останніх 15 років. Його функція виходить за межі звичайної аналітики: він здатний виявляти помилки, прогнозувати різні сценарії та пропонувати інноваційні стратегії для розвитку.

У ряді країн активно працюють "електронні судді". Яким чином це реалізується?

У Бразилії існує система, де штучний інтелект займається підготовкою справ до розгляду, проводить первинний аналіз, шукає аналогії та створює проєкти рішень. Після цього остаточне рішення затверджується суддею. Завдяки цій технології один суддя може обробляти більше 30 тисяч адміністративних справ протягом року. У Китаї функціонує не лише "цифровий суд", а також "цифрова прокуратура", яка, проте, розглядає виключно ті справи, що не пов’язані із завданням шкоди особі.

Говорячи про судові справи, варто зазначити, що існують відомі випадки, коли люди звертаються до суду на штучний інтелект. Наприклад, у США батьки підлітка подали позов проти компанії, що розробила ChatGPT, а також її генерального директора. Їхній син наклав на себе руки після отримання небезпечних рекомендацій від цієї мовної моделі. Батьки вважають, що розробники не вжили достатніх заходів для забезпечення безпеки та не створили системи втручання у випадках, коли ШІ надає небезпечні поради.

Це дійсно непрості запитання. Кому слід пред'являти претензії: лише розробнику мовної моделі, чи також тому, хто некоректно сформулював запит (завдання) для штучного інтелекту? Хто насправді відповідає за правопорушення, вчинені цифровими суб'єктами: користувач, платформа, творець, постачальник інфраструктури чи держава?

Існує безліч невирішених питань, пов’язаних з штучним інтелектом. У правовій сфері, як і в інших аспектах суспільного життя, настав час кардинальних змін — старі методи більше не працюють. Адже штучний інтелект, цифрові технології (Метасвіт) та електронна юрисдикція трансформують саму суть соціальної взаємодії. Право майбутнього вимагає не просто косметичних змін чи "оновації норм", а створення абсолютно нової логіки юридичних процесів.

І поки ця нова логіка лише формується, ми намагаємося врегульовувати цифрову реальність звичними інструментами -- там, де ще можемо "дотягнутися руками" застарілої юриспруденції. Наприклад, бельгійський суд розглядав ситуацію, коли один користувач заволодів акаунтом іншого й викрав чужого аватара. Суд вирішив так: якщо ви вкладали у свого аватара фінансовий ресурс (купували йому ігрові гаджети, піднімали за гроші його рівень), то викрадення аватара -- це викрадення ваших інвестицій. Але ж це рішення -- не рятівне коло, а пластир на пробоїні "Титаніка".

-- Законодавство не регулює захист персональних даних користувачів, які взаємодіють з моделями штучного інтелекту. Немає чіткої інформації про те, в які бази даних може бути передана інформація, що надається нами у запитах.

-- Так. І це стосується не лише тих людей, що користуються великими мовними моделями, а й усіх, хто має будь-які гаджети, підключені до інтернету. Замисліться, у світі існує близько 60-70 мільярдів пристроїв інтернету речей: комп'ютери, мобільні телефони, датчики, відеокамери. І всі вони постійно передають інформацію. Більшість таких пристроїв не мають реального захисту від витоку даних -- часто їх захищає хіба що простий пароль на роутері, а заводські налаштування ніколи не оновлювалися.

На основі даних, які збирають пристрої кожної особи, штучний інтелект здатний створити її цифровий аналог. Ця копія може на 85-90% мати аналогічні реакції й міркування, як і реальна людина. Використовуючи мільйони таких цифрових дублікатів, великі мовні моделі (LLM) формують віртуальну модель суспільства, що дозволяє проводити експерименти та прогнозувати результати виборів, ринкові тенденції та споживчі вподобання щодо товарів і послуг.

Відео створено за проханням Олексія Костенка.

Чи наявний український симулякр-хаб – питання залишається відкритим. Проте закордонні хаби безперечно існують. Залишається лише зрозуміти, чи не відбувається вже моделювання України в чужій системі координат.

-- Якщо дані перетворюються на зброю, то чи не йдеться вже про нові війни, де воюють не люди, а їхні цифрові двійники?

-- Цифрові війни стануть реальністю. І той, хто першим навчиться воювати в цьому вимірі, отримає перевагу.

Не випадково Путін висловився у 2021 році на міжнародному заході Artificial Intelligence Journey: "Держава повинна взяти на себе відповідальність за збереження критично важливої інформації. Мова вже йде не лише про забезпечення кібербезпеки людини, але й про захист її віртуального образу — аватара в формуючих Метавсесвітах". У країні-агресорі вже готувалися до конфліктів у кіберпросторі, де аватар не має правового захисту, на відміну від фізичної особи. Це створює значні можливості для інформаційних воєн у цифровій сфері.

У традиційних кібернападах акцент робиться на атаках на сервери або системи, тоді як у контексті цифрових воєн основною мішенню стає психіка людини. Це не просто поширення тривіальних фейків у соціальних мережах. Конфлікти у віртуальному середовищі матимуть власні цілі, методи та визначення "успіху".

Один із гіпотетичних сценаріїв бойових дій: противник запускає "операцію інверсії реальності". Через заражені цифрові простори створюється альтернативна версія подій -- скажімо, у віртуальній копії Парижа аватари бачать, як "уряд впав", "армія здалася", "нові закони" оголошені іншою владою. Тисячі людей, що живуть у інтерфейсах віртуальної та доповненої реальності, сприймають це як факт -- реагують, транслюють далі. Такі конфлікти не знищують інфраструктуру, а знищують довіру. Інформаційна ілюзія перетворюється на політичний ефект. Це -- війна сприйняття, де головна зброя -- симуляція. Вона може змінювати поведінкові патерни, настрої та навіть ідентичність. Коли змінюється сам контекст -- ти вже не можеш бути впевненим у тому, що бачиш, чуєш і відчуваєш.

Іншим аспектом "інформаційних" бойових дій є захоплення та перепрограмування аватара важливої особи для цілей дезінформації. Ще одна тактика полягає в руйнації віртуальної економіки — у цифровому просторі вже існують свої активи, токени та віртуальні ринки. Коли відбувається обвал курсу або знецінення активів, а також блокування обігу, це призводить до паралічу систем, в яких знаходяться тисячі, а іноді й мільйони людей.

Усе це змінює саме поняття безпеки -- від захисту територій ми переходимо до захисту свідомості. І якщо такі війни неминучі, людству доведеться створити нові правила гри. Нам потрібен сучасний міжнародний цифровий кодекс, що поєднує технічні, правові та етичні підходи до віртуальних конфліктів.

Нобелівський лауреат Джеффрі Гінтон, якого вважають "батьком" штучного інтелекту, під час своєї промови на урочистій церемонії вручення нагороди висловив занепокоєння щодо можливих загроз, які розвиток ШІ може нести для людства. Гінтон вважає, що ці ризики повинні привернути увагу держав і міжнародних організацій, оскільки компанії, які займаються створенням цифрового середовища і керуються бажанням отримати швидкий прибуток, навряд чи будуть ставити безпеку людей на перше місце.

Як я вже зазначав, існує потреба в глобальному цифровому кодексі. Проте, міжнародні правові норми зазвичай розвиваються повільно. Тому важливо розпочати цей процес на місцевому рівні: кожна країна може ініціювати формування власних законодавчих основ для регулювання штучного інтелекту. Почати слід зі створення стратегії.

Я аналізував 137 стратегій розвитку штучного інтелекту у 137 країнах світу. Ви знаєте, що Україна входить у число 11 країн, які досі не мають власної офіційно затвердженої стратегії розвитку штучного інтелекту? Її проєкт був розроблений 2020 року, але досі не ухвалений. Стратегія -- це не декларація: "ми будемо першими в цій галузі". Для України стратегія -- це комплексний аналіз всіх технологічних, наукових, освітніх, державних, фінансових, військових, медичних та інших сфер на їхні реальні можливості й потенційні потреби цифрової трансформації. Стратегія -- не лозунг, стратегія -- конкретний план дій, адекватні ресурси, транскордонна колаборація, науковий потенціал. Стратегія без участі НАН, НАПрНУ та інших профільних академій та наукових закладів буде лише маніфестом, а не протоколом виживання України.

Нашій державі також необхідний нормативно-правовий акт, що регулює використання штучного інтелекту.

-- Як ви ставитеся до ШІ, ви оптиміст чи песиміст?

-- Оптиміст. У кожній технології існують як переваги, так і недоліки. Завдяки штучному інтелекту, безсумнівно, ми станемо свідками значних досягнень у багатьох галузях. Проте людство повинно впроваджувати заходи безпеки — кожна нова технологічна інновація повинна бути ретельно оцінена на предмет можливих загроз для нас.

Я також маю позитивний погляд на співіснування людства з штучним інтелектом. Людство вже адаптувалося до різних технологій – автомобілів, літаків, мобільного зв’язку, інтернету, космічних подорожей і дистанційного навчання. Ми впораємося і з технологією штучного інтелекту, і всім нам необхідно буде навчитися жити та творити у співпраці з нею.