ШІ настав у найгірший момент.

ШІ ще не досяг такого світу, де його можна прийняти. Натомість ми вступаємо у світ, який витратив останні два десятиліття на систематичний демонтаж самих основ, які дозволяють нам відповідально розгортати такі потужні технології. Організаційний авторитет, обмін правдою та цілісність інформації постраждали. Ми будуємо найдосконалішу когнітивну технологію в історії людства на основі найбільш розколотого ландшафту довіри в сучасній пам’яті.

Якщо ви хочете створити найгірший можливий момент для появи ШІ, ви можете створити такий момент.

Від постправди до посттрасту

Десять років тому ми були стурбовані тим, що живемо у світі «постправди». Словом року 2016 Оксфордський словник визнав «постправду», визначивши це як ситуацію, в якій об’єктивні факти менше впливають на формування громадської думки, ніж звернення до емоцій чи особистих переконань. Постправда стосується світу, де факти все ще існують, але часто приховані емоційними оповіданнями.

Те, що ми переживаємо зараз, сягає ще глибше. Я називаю це «посттрестовою ерою». Іншими словами, ми живемо у світі, де зруйновані самі механізми встановлення довіри. Справа не тільки в тому, що іноді емоції переважають над фактами. Це означає, що у нас немає спільної точки зору, щоб вирішити, що має значення як факти.

Подивіться, що сталося з нашою інформаційною екосистемою за останні 20 років. Ми перейшли зі світу, де правду вибирають редактори, друкують у друкарнях і поширюють кілька впізнаваних посередників, у світ, де будь-хто може публікувати, доповнювати, спотворювати та фабрикувати. Кількість даних вибухнула, а аудиторія соціальних мереж роздроблена. Алгоритми тепер оптимізовані для кліків, залучення та сенсаційності. Стимули змінилися від акуратності до уваги. Вірус над правдою, гнів над нюансами, швидкість над перевіркою.

Цифри розповідають свою історію. Майже 8 із 10 людей отримують доступ до новин переважно через алгоритмічні системи, такі як соціальні канали, пошукові системи та агрегатори, фактично передаючи свій інформаційний раціон системам, які вони не розуміють і яким не довіряють. У Сполучених Штатах довіра до федерального уряду впала з понад 70% наприкінці 1950-х років до менш ніж 20% сьогодні. Довіра до засобів масової інформації падає, і менше третини американців висловлюють «досить велику» довіру. Втрачається довіра до релігійних інституцій, фінансових систем, медичних закладів і навіть самої науки.

Постправда означає спотворення того, як люди оцінюють факти та емоції. Пост-трест зображує глибші тріщини. Це втрата спільної процедури визначення того, що є реальним.

Коли в 1830-х роках з’явилися перші фотографії, люди дивувалися їх вірності. Майже два століття бачити – означає вірити. Фотографії не були ідеальними, але вони були доказом.

На початку 2023 року створене за допомогою ШІ зображення Папи Франциска в стильному білому пуховику стало вірусним у соціальних мережах. Він був переконливим, тому що знаходився у вузькому спектрі між знайомим і несподіваним. Стиль, поза та освітлення фотографій запозичили автентичність десятиліть реальної фотографії. Багато хто приймав це як реальність, перш ніж ставити під сумнів.

Протягом двох років створені штучним інтелектом зображення, аудіо та відео стали настільки поширеними та переконливими, що питання більше не в тому: «Чи можете ви помітити підробку?» Але «чи можемо ми довіряти всьому, що бачимо?»

Так само, як наша інформаційна екосистема є найбільш фрагментованою, з’явилася здатність фабрикувати переконливі «докази» у великих масштабах. Дослідження Університетів Дьюка та Нью-Йоркського університету показує, що коли люди стикаються з протилежними політичними поглядами в соціальних мережах, поляризація може посилюватися, а не зменшуватися. Революційне дослідження, опубліковане в журналі Science, показало, що фейкові новини поширюються набагато швидше та ширше, ніж надійні онлайн-новини. Дослідження нейровізуалізації показують, що коли люди стикаються з інформацією, яка кидає виклик їхнім політичним переконанням, області мозку, пов’язані з негативними емоціями, світяться, а підтверджувальна інформація активує шляхи винагороди. Ми розходимося не лише з фактами. Ми налаштовані обробляти позитивну та негативну інформацію через абсолютно різні когнітивні канали.

Це основа, яку досягне ШІ. Це світ, де інформації надлишок, але довіри мало, узгоджені реалії розрізнені, а механізми встановлення спільних істин зруйновані.

різні види інтелекту

Усередині цієї тріснутої дошки з’являється щось справді нове. Це не просто інструмент, це перша технологія в історії, яка має пізнання як основну компетенцію.

Минулі технології розширили наші можливості, залишаючись підпорядкованими людському мисленню. Друкарський верстат розширив слова, які ми вибрали для друку. Електрика змінила енергію, яку ми вирішуємо використовувати. М’язову силу, яку ми використовуємо, замінює двигун внутрішнього згоряння, а комп’ютер виконує обчислення, на які ми його запрограмували. Повідомлення, які ми написали, поширювалися в Інтернеті.

ШІ руйнує цю схему. Це вже не просто виконання завдань. Він породжує дискусії, синтезує інформацію, дає рекомендації та створює творчі роботи, які сприймаються як чиїсь думки на людському рівні. Одна модель може писати есе, узагальнювати юридичні стенограми, перекладати медичні записи, складати кодекс, планувати маркетингові кампанії та складати музику.

В основі більшості цих систем лежить архітектура, яка навчається, передбачаючи, що буде далі в послідовності (слова, пікселі, токени). Ці моделі не знають «правди», як її розуміють люди. Вони виявляють закономірності, частоти та кореляції в будь-яких даних.

І тут моменти стають важливими. Дані, які їм надаються, генеруються в посттрестовому світі.

ШІ навчається на статтях новин, стрічках соціальних мереж, оцифрованих книгах, упереджених архівах, суперечливих дебатах, теоріях змови, наукових досягненнях і дезінформації. Він поглинає не тільки наші знання, але й наші спотворення. Ми дізнаємося не лише про наші факти, але й про нашу боротьбу з цими фактами.

В результаті виходить дивне дзеркало. ШІ відображає нас самих, переломлюючись через статистичні шаблони та масштабуючи за допомогою обчислень. Вони базуються на навчальних даних, які неможливо ретельно перевірити, дають відповіді, які нелегко перевірити, і оптимізовані для цілей, які не завжди можна контролювати.

У той самий момент, коли наша соціальна інфраструктура довіри відчуває напругу, виникає новий вид когнітивної інфраструктури.

Уривок з код довіри З дозволу Tiffany Xinyu Wang.