Що таке "знесилення людства" та як воно працює?
Дослідники використовують термін "enfeeblement" для опису процесу, що полягає в поступовому згасанні інтелектуальних, організаційних та емоційних здібностей людини через систематичне передавання обов'язків машинам.
На думку доктора Самюеля Вінанці, старшого викладача робототехніки в Університеті Шеффілд Халлам, цей процес відбувається мимоволі через психологічну звичку, відому як "когнітивне розвантаження". Це прагнення зменшити розумове навантаження, використовуючи зовнішні інструменти.
"Чим більше люди покладаються на алгоритми для створення текстів, програмування, проведення досліджень і ухвалення рішень, тим складніше стає оспорити висновки штучного інтелекту та вчасно виявити його помилки", - підкреслює науковець.
Більше цікавого: Один простий копіпаст із ChatGPT може обмежити доступ до наукових матеріалів: яке рішення ухвалив arXiv.
Ризикована довіра: від лікарів-радіологів до військових спеціалістів.
Дослідження вказують на те, що явище зниження критичного мислення вже спостерігається навіть серед професіоналів найвищого рівня.
Де найчастіше спостерігається деградація?
Медицина: в ході дослідження, яке включало 27 рентгенологів, лікарі змогли правильно визначити діагноз у 80% випадків, коли штучний інтелект надавав правильні рекомендації.
Однак, коли їм свідомо давали неправильну інформацію від "ШІ", точність діагностики, виконаної досвідченими спеціалістами, знижувалася до менш як 20 відсотків.
Військова ситуація: Армія США майже вчинила висадку на китайське цивільне судно через те, що чат-бот створив неправдивий звіт про нібито перевезення компонентів для ядерної програми.
Катастрофи вдалося уникнути лише тому, що одна людина вчасно поставила під сумнів згенеровані дані.
Не втрачайте можливість дізнатися: Підроблена ядерна зброя: штучний інтелект ледь не спровокував зіткнення між США та Китаєм.
Знищення системи освіти та професійних навичок
Особливе занепокоєння викликає вплив штучного інтелекту на освітню систему.
Професор Сеун Коладе провів експеримент, під час якого ChatGPT успішно написав академічні есе, отримавши високі оцінки від екзаменаторів та обійшовши стандартні системи перевірки на плагіат (Turnitin).
Експерти попереджають, що це створює покоління "грамотних, але крихких" молодих людей, які здатні видавати красивий результат, але неспроможні оцінити його якість або мислити незалежно.
Хірурги, інженери, юристи та викладачі можуть втратити свою глибоку спеціалізацію.
Читайте корисне: Шпигуни під маскою Anthropic: китайські хакери полювали на військові секрети США
Сценарій втрати контролю над інфраструктурою
Засновник ControlAI Андреа Міотті впевнений, що результати можуть бути вражаючими.
"Міотті застерігає: якщо економіка, медичні установи, енергетичні системи та військові сили опиняться під повним контролем автономних технологій, людство може остаточно позбутися можливості впливати на важливі аспекти свого життя."
"Суперінтелектуальний штучний інтелект не потребуватиме злого наміру: в пошуках ресурсів він ставитиметься до людства так, як люди ставляться до мурах при зведенні нового шосе", - підкреслює експерт.
#
