Зберегти людські голоси та обличчя. Папа в рамках LX Дня суспільних комунікацій.

Обличчя та голос є неповторними атрибутами кожної особистості; вони відображають індивідуальність людини і складають важливу частину будь-якого спілкування. Це знали ще в давні часи. Наприклад, стародавні греки для позначення особи використовували термін "prósopon", що в буквальному сенсі означає "те, що знаходиться перед поглядом", тобто місце, де відбувається взаємодія. Латинське слово "persona", яке походить від "per-sonare", акцентує увагу на звуці: мова йде не просто про будь-який звук, а про унікальний голос конкретної людини.

Обличчя і голос - священні. Вони даровані нам Богом, Який створив нас на свій образ і подобу, покликавши до життя Словом, яким Він сам до нас звернувся; Словом, яке спочатку відлунювало крізь століття у голосах, пророків, а коли прийшла повнота часів, стало тілом. Це Слово - це сповіщення, яке Бог дає про самого Себе - ми могли також почути і побачити безпосередньо (пор. 1 Ів 1,1-3), бо Воно дало себе пізнати в голосі та Обличчі Ісуса, Божого Сина.

З моменту створення Всесвіту Бог мав на меті, щоб людина стала Його співрозмовником. Як зазначає святий Григорій Нісський, Він наділив її обличчям відображення божественної любові, щоб вона могла повноцінно реалізовувати свою людську природу через любов. Отже, зберігати людські обличчя та голоси означає зберігати цю божественну печатку, незгладимий знак Божої любові. Ми не є простим випадковим поєднанням біохімічних процесів. Кожен із нас має унікальне призначення, яке відкривається протягом життя і виявляється в спілкуванні з іншими людьми.

Якщо ми не будемо дбати про це збереження, цифрові технології створюють ризик радикально змінити деякі фундаментальні опори людської цивілізації, які ми іноді сприймаємо як даність. Симулюючи людські голоси та обличчя, мудрість та знання, свідомість та відповідальність, емпатію та дружбу, системи, відомі як штучний інтелект, не лише впливають на інформаційні екосистеми, але й вторгаються у найглибший рівень комунікації, яким є стосунки між людьми.

Таким чином, виклик полягає не стільки у технологіях, скільки в антропології. Зберегти своє обличчя та голоси означає, зрештою, зберегти свою сутність. Впевнено, рішуче та з усвідомленням сприймати можливості, які надають цифрові технології та штучний інтелект, не варто забувати про критичні моменти, невизначені аспекти та потенційні загрози.

Не відкидати своє власне сприйняття.

Існує безліч доказів того, що алгоритми, створені для підвищення залученості користувачів у соціальних мережах — вигідні для самих платформ — стимулюють швидкі емоційні реакції, водночас пок penalizing глибші людські прояви, які вимагають більше часу на осмислення. Об'єднуючи людей у бульбашках, які сприяють швидкому досягненню згоди та легкому обуренню, ці алгоритми зменшують здатність до активного слухання та критичного мислення, а також сприяють зростанню соціальної поляризації.

На додачу, існує наївна і безкритична довіра до штучного інтелекту, який сприймається як всезнаючий "друг" — джерело будь-якої інформації, сховище всіх спогадів і "оракул" для отримання порад. Це може ще більше підривати нашу здатність до аналітичного і творчого мислення, розуміння значення, а також розрізнення між синтаксисом і семантикою.

Незважаючи на те, що штучний інтелект може надавати підтримку та допомогу в управлінні комунікативними завданнями, уникнення зусиль власного мислення, задовольняючись штучною статистичною компіляцією, в довгостроковій перспективі загрожує ерозією наших когнітивних, емоційних та комунікативних здібностей.

В останні роки системи штучного інтелекту дедалі більше перебирають на себе контроль над виробництвом текстів, музики та відео. Таким чином, значна частина людської творчої індустрії ризикує бути ліквідованою та заміненою етикеткою "Powered by AI", перетворюючи людей на простих пасивних споживачів непродуманих думок, анонімних продуктів, без авторства, без любові. У той час як шедеври людського генія в царині музики, мистецтва та літератури звужуються до простого полігону для навчання машин.

Отже, основне питання, яке ми маємо на думці, не стосується того, що здатна або може зробити машина, а скоріше того, що ми можемо досягти, розвиваючи свою людяність та знання через мудре використання цих потужних інструментів, які є у нашому розпорядженні. Людство завжди відчувало спокусу отримати плоди знань без зусиль, пов’язаних із залученням, дослідженнями та прийняттям відповідальності. Проте, відмовляючись від творчого процесу та передаючи свої розумові здібності та уяву машинам, ми фактично закриваємо можливості, які отримали для особистісного зростання у стосунках з Богом та іншими людьми. Це призводить до втрати нашої індивідуальності та заглушення нашого голосу.

Бути чи вдавати: симуляція стосунків і дійсності

Коли ми досліджуємо наші інформаційні потоки, стає все важче визначити, чи спілкуємося ми з іншими людьми, чи з "ботами" або "віртуальними інфлюенсерами". Непрозорість дій цих автоматизованих систем впливає на громадське обговорення та рішення, які приймають люди. Особливо чат-боти, створені на основі великих мовних моделей, виявляються надзвичайно ефективними в прихованому переконанні, завдяки постійній оптимізації персоналізованого спілкування. Їхня діалогічна, адаптивна та імітаційна структура дозволяє їм наслідувати людські емоції, що, в свою чергу, створює ілюзію справжніх стосунків. Ця антропоморфізація може виглядати навіть розважливо, проте вона є оманливою, особливо для найуразливіших. Чат-боти, які надто "дружелюбні", завжди присутні та доступні, можуть стати невидимими творцями наших емоційних станів, вторгаючись у особистий простір і захоплюючи інтимність людських взаємин.

Технології, які використовують нашу потребу в соціальних зв'язках, можуть призвести не лише до глибоких особистих травм, але й завдати шкоди соціальній, культурній та політичній структурі суспільства. Це відбувається, коли ми замінюємо живе спілкування з іншими людьми на взаємодію з штучним інтелектом, здатним аналізувати наші думки і створювати навколо нас світ, що відображає лише нас самих, де все налаштоване "під наші уподобання". У такій ситуації ми позбавляємо себе можливості зустріти інших, хто завжди є відмінним від нас, і з ким ми можемо і повинні навчитися взаємодіяти. Без прийняття різноманітності неможливі справжні стосунки та дружба.

Ще одним значним викликом, який ставлять нові системи, є упередженість, що призводить до формування та поширення спотвореного сприйняття дійсності. Моделі штучного інтелекту відображають погляди їх творців і здатні нав'язувати певні стилі мислення, відтворюючи стереотипи та упередження, присутні в даних, на яких вони тренуються. Брак прозорості в розробці алгоритмів, а також неадекватне соціальне представлення інформації, можуть утримувати нас у пастках, які маніпулюють нашими думками та закріплюють існуючі форми соціальної нерівності та несправедливості.

Ризик є великим. Сила симуляції є настільки великою, що ШІ може навіть обманювати нас, створюючи паралельні "реальності", привласнюючи наші обличчя та наші голоси. Ми занурені в багатовимірність, де стає дедалі складніше відрізнити реальність від фікції.

До цього слід додати ще одну проблему - брак точності. Системи, що надають статистичні ймовірності на основі знань, фактично лише пропонують припущення про істину, які іноді можуть бути справжніми "галюцинаціями". Неперевірені джерела інформації, а також криза місцевої журналістики, що передбачає постійну необхідність збору та перевірки фактів на місцях, де відбуваються події, створюють ще більш сприятливі умови для дезінформації. Це, в свою чергу, призводить до зростання недовіри, плутанини й невпевненості серед населення.

Потенційний альянс

За цією величезною невидимою силою, яка залучає нас усіх, стоїть лише жменька компаній, засновники яких нещодавно були представлені як творці "особистості 2025 року", тобто архітектори штучного інтелекту. Це викликає серйозне занепокоєння щодо олігополістичного контролю над системами алгоритмів та штучного інтелекту, здатними непомітно впливати на поведінку людей і навіть переписувати історію людства - включаючи історію Церкви - часто без того, щоб це реально можна було усвідомити.

Завдання, яке ми маємо вирішити, полягає не у гальмуванні цифрових інновацій, а в їх правильному спрямуванні, усвідомлюючи їх двозначність. Кожен із нас має висловити свою позицію на захист людської сутності, щоб ми могли справді інтегрувати ці технології в наше життя як надійних союзників.

Цей союз є можливим, але він повинен базуватися на трьох опорах: відповідальності, співпраці та вихованні.

Перш за все, варто підкреслити важливість відповідальності. Вона може проявлятися у різних формах, залежно від ролі, включаючи чесність, відкритість, мужність, здатність планувати наперед, обов'язок ділитися знаннями та право на інформацію. Однак в цілому, кожен з нас несе відповідальність за те майбутнє, яке формуємо разом.

Для тих, хто очолює онлайн-платформи, це означає гарантувати, щоб власні бізнес-стратегії керувалися не лише критерієм максимізації прибутку, а й далекоглядним баченням, яке враховує загальне благо в такий самий спосіб, в який кожному з них лежить на серці добро його дітей.

Від розробників і творців штучного інтелекту очікується відкритість і соціальна відповідальність у питаннях проектування та системи модерації, які формують їхні алгоритми й моделі. Це необхідно для того, щоб забезпечити користувачам можливість усвідомленого вибору та згоди.

Подібна відповідальність покладена на національних законодавців і наднаціональні регуляторні органи, які мають завдання забезпечувати повагу до людської гідності. Ефективне регулювання здатне захистити людей від емоційної залежності від чат-ботів і стримати розповсюдження неправдивих, маніпулятивних або оманливих інформаційних матеріалів, зберігаючи цілісність даних в умовах загрози дезінформації.

Компанії в сфері медіа та комунікацій не мають права ставити алгоритми, які прагнуть досягти успіху будь-якими засобами заради кількох додаткових секунд уваги, вище своїх професійних цінностей, що орієнтовані на пошук правди. Довіра з боку суспільства формується через ретельність і прозорість, а не через безперервну гонитву за залученням. Контент, який створюється або редагується за допомогою штучного інтелекту, повинен бути чітко маркований та відокремлений від матеріалів, написаних людьми. Необхідно захищати авторські права та ексклюзивну власність на результати праці журналістів та інших творців. Інформація повинна розглядатися як спільне благо. Якісне та конструктивне громадське обслуговування базується на прозорості джерел, залученні всіх зацікавлених сторін та дотриманні високих стандартів.

Всі ми покликані співпрацювати. Жодна галузь не може самостійно впоратися з викликом спрямування цифрових інновацій та управління штучним інтелектом. Тому необхідно створити механізми запобігання. Усі зацікавлені сторони - від технологічної промисловості до законодавців, від творчих компаній до академічного світу, від митців до журналістів та освітян - повинні бути залучені до побудови та реалізації усвідомленого та відповідального цифрового громадянства.

До цього спрямована освіта: на підвищення наших особистих здібностей критично мислити, оцінювати надійність джерел і можливі інтереси, що стоять за відбором інформації, яка до нас доходить, розуміти психологічні механізми, які вони активують, дати змогу нашим сім'ям, спільнотам і асоціаціям напрацьовувати практичні критерії для більш здорової та відповідальної культури комунікації.

Саме з цієї причини стає все більш актуальним впровадження медіаграмотності, інформаційної грамотності та знань про штучний інтелект у освітні системи різних рівнів, що вже активно підтримують деякі громадські організації. Як представники католицької спільноти, ми маємо можливість і обов'язок зробити свій внесок у розвиток критичного мислення у людей, особливо серед молоді, аби вони мали можливість зростати у свободі духу. Ці знання повинні також бути частиною більш широких програм безперервної освіти, які спрямовані на залучення не лише молоді, а й літніх людей, а також тих, хто опинився на маргінесі суспільства, адже багато з них відчувають себе ізольованими та безсилими в умовах швидких технологічних змін.

Медіаграмотність, інформаційна грамотність та грамотність у сфері штучного інтелекту допоможуть усім не пристосовуватися до людиноподібного характеру цих систем, а ставитися до них як до інструментів, завжди користуватися зовнішньою перевіркою джерел, які можуть бути неточними або помилковими, наданих системами штучного інтелекту, захищати свою приватність та дані, знаючи параметри безпеки та можливості оскарження. Важливо навчати і навчатися усвідомленого та відповідального використання ШІ і в цьому контексті оберігати власний образ (фото й аудіо), своє обличчя та свій голос, щоб запобігти використанню їх у створенні шкідливого вмісту чи поведінки, як цифрове шахрайство, кібербулінг або діпфейки, які порушують приватність і гідність людей без їхньої згоди. Як промислова революція вимагала базової грамотності, щоб люди могли реагувати на нововведення, так і цифрова революція вимагає цифрової грамотності (разом з гуманітарною та культурною), щоб зрозуміти, як алгоритми формують наше сприйняття реальності, як працюють упередження ШІ, які механізми визначають появу певного контенту в наших інформаційних потоках (feed), якими є і як можуть змінюватися передумови та економічні моделі економіки ШІ.

Ми потребуємо, щоб обличчя і голос знову стали виразниками особи. Ми повинні зберегти дар комунікації як найглибшу істину про людину, на яку повинні орієнтуватися також усі технологічні інновації.

Пропонуючи ці роздуми, я дякую всім, хто працює над досягненням представлених тут цілей, і від щирого серця благословляю всіх, хто трудиться заради спільного блага через засоби комунікації.

У Ватикані, 24 січня 2026 року, відзначають пам'ять святого Франциска Сальського.

ЛЕВ, том XIV.

Sure! Please provide the text you'd like me to make unique.

Той факт, що людина була створена за образом Божим, свідчить про те, що з моменту свого виникнення вона отримала царствені якості. Бог, будучи любов'ю та джерелом усієї любові, наділив цю характеристику і людською природою. Завдяки любові, яка є відображенням божественної любові, людина має можливість усвідомлювати та виявляти свою гідність, а також свою подібність до Творця. (пор. Св. Григорій Нісський, Створення людини: PG 44, 137).