Алгоритми штучного інтелекту здатні обмежувати людську свободу.

Штучний інтелект буде визначати наші рішення при покупках, змінюючи поведінку споживачів.

Експерти припускають, що вже розробляються інструменти ШІ, які дозволяють виявляти, робити висновки, розуміти, прогнозувати і навіть маніпулювати людськими планами та цілями.

Цю інформацію повідомляє TechXplore.

Дослідники з Кембриджського центру Леверхалма для вивчення майбутнього інтелекту (LCFI) вважають, що швидкий розвиток генеративного ШІ і зростаюча популярність чат-ботів відкривають нові можливості для технологій маніпулювання переконаннями. Про це повідомляє TechXplore. Подібні натяки вже звучали у заявах технологічних гігантів.

У найближчому майбутньому можуть з'явитися штучні інтелекти, які здатні передбачати і впливати на наше ухвалення рішень на початкових етапах, а також реалізовувати ці "намірення" компаніям у реальному часі, ще до того, як ми усвідомимо, що зробили вибір. Такі прогнози роблять експерти з етики штучного інтелекту з Кембриджського університету, які називають це явище "економікою намірів". Вони вважають, що людство лише починає створювати новий, вигідний, але водночас тривожний ринок цифрових сигналів намірів — від купівлі квитків до вибору кандидатів.

"Антропоморфні" штучні агенти, які можуть варіюватися від чат-ботів-помічників до цифрових репетиторів і супутників, отримають доступ до величезного обсягу особистих психологічних і поведінкових даних, які часто збираються через неформальні бесіди. Це забезпечить можливість таким помічникам адаптуватися до наших потреб, відтворюючи наші риси характеру і прогнозуючи бажані реакції, що створить атмосферу довіри та взаєморозуміння. Це, в свою чергу, дозволить здійснювати соціальну маніпуляцію на новому, масштабному рівні.

"На реалізацію штучних інтелектуальних помічників у різних аспектах життя витрачаються значні ресурси, що викликає питання про те, які інтереси вони насправді підтримуватим," – прокоментував д-р Якуб Чаудхарі, науковий співробітник LCFI.

"Те, як люди висловлюють свої думки, їхній стиль спілкування та тип висновків, які можна зробити на ходу, є набагато більш особистою інформацією, ніж просто взаємодії в інтернеті," – зазначив він.

Д-р Джонні Пенн, історик технологій з Кембриджського інституту LCFI, зазначив, що впродовж багатьох років основною валютою Інтернету вважалася увага. Взаємодія та обмін увагою в соціальних мережах стали ключовим чинником, що стимулює розвиток онлайн-економіки.

"Якщо не вжити заходів, економіка намірів перетворить ваші бажання на новий вид валюти, що стане справжніми золотими копальнями для тих, хто вміло маніпулює і реалізує людські прагнення," -- зауважив він.

Пенн і Чаудхарі вважають, що економіка намірів є складовою економіки уваги, в якій аналізується зв'язок між увагою користувача, його комунікаційним стилем та прийнятими рішеннями.

У своїй статті для Harvard Data Science Review автори зазначають, що великі мовні моделі (LLM) здатні виявляти темп мовлення, політичні переконання, словниковий запас, вік, стать, історію онлайн-пошуку, а також уподобання в питанні компліментів при мінімальних витратах.

Цей процес збору інформації буде асоційований з посередницькими мережами, щоб підвищити шанси на досягнення конкретної мети, наприклад, реалізацію квитка на кінопоказ.

Пенн та Чаудхарі підкреслюють, що це може охоплювати організацію діалогів для рекламодавців, компаній та політичних структур.

Хоча дослідники вказують на те, що концепція економіки намірів ще тільки починає формуватися, вони вже помічають перші прояви цієї тенденції в сфері технологій. Серед таких проявів можна виділити заклики до збору даних про наміри людей у різних мовах і формах, а також новітні інструменти для виявлення намірів користувачів, наприклад, платформа "App Intents" від Apple, яка здатна прогнозувати майбутні дії користувачів.

"Моделі ШІ, такі як CICERO від Meta, вже досягли людського рівня в грі 'Дипломатія', яка базується на умовиводах і прогнозуванні намірів", -- сказав Чаудхарі.

Хоча ці технології не є суттєво негативними, вчені застерігають про можливі наслідки їх використання, які можуть бути шкідливими.

Нагадаємо, блогери виявили, що телефонні дзвінки з ChatGPT можуть загрожувати конфіденційності користувачів, оскільки існує ризик витоку особистих даних під час розмови.