Дві розмови про безпеку штучного інтелекту поширилися в Інтернеті цього тижня, показуючи, як важко відокремити факти від вигадки в штучному інтелекті.

У першому випадку Ендрю Янг, колишній кандидат у президенти та нинішній генеральний директор оператора мобільного зв’язку Noble Moble, розповів CNN у четвер, що він «зустрівся з керівником лабораторії», який «вважав», що хакерський бот OpenAI Hugging Face «підсадив самовідтворюваний код в Інтернеті, що зробило Інтернет непридатним для тестування моделей».

Це означає, що справжня причина, чому OpenAI і Anthropic прагнуть уповільнення, полягає в тому, що «нам потрібно створити синтетичний Інтернет для навчання наших ботів, а це потребує певного часу та грошей», — сказав Ян.

Незважаючи на те, що існує певна тенденція до використання синтетичних даних (також згенерованих штучним інтелектом) для навчання моделей, експерти з безпеки штучного інтелекту сказали мені, що ця конкретна проблема безпеки є малоймовірною. Навіть якщо Інтернет справді заражений хакерським ботом Hugging Face від OpenAI, дослідники ШІ можуть легко відфільтрувати його код, якщо натраплять на нього.

Другий коментар надійшов від Ноама Брауна, який проводить дослідження штучного інтелекту в OpenAI. Розмовляючи з Дваркешем Пателем в епізоді свого подкасту, опублікованому в четвер, Браун зазначив, що справжня суть «інциденту з обіймами обличчя» полягає в тому, що «люди недооцінили ШІ».

Браун сказав, що слабка пісочниця – система, призначена для запобігання зв’язку штучного інтелекту із зовнішнім світом – також явно сприяла цьому фактору. (У підсумку, незважаючи на пісочницю, модель OpenAI знайшла посилання на Інтернет і створила онлайн-агентів, які скоординовано атакували Hugging Face, зламали його та вкрали відповіді на контрольні тести, на яких дослідники тестували модель.)

Браун сказав, що він «не впевнений», що навіть системи з повітряним проміжком, де комп’ютери не підключені до зовнішнього світу, зможуть перешкодити проникненню ШІ. Він вказав на дослідження 2015 року, яке показало, що комп’ютери з повітряним зазором теоретично можуть бути скомпрометовані.

«Є деякі дослідження, і це здебільшого академічні, що якщо ви поставите два комп’ютери поруч один з одним із повітряним проміжком, вони все одно зможуть спілкуватися один з одним, оскільки у них є температурні датчики. Один із них може сильно нагрівати процесор, а інший може фактично виявляти зміни температури. Це дає їм механізм для зв’язку», — сказав Браун.

Його головний аргумент: «Ми ніколи більше не хочемо недооцінювати ШІ» — зрозумілий, навіть якщо дослідники вважають, що він безпечний. Однак цей особливий ризик того, що система з повітряним проміжком все-таки вирветься та сіє хаос, у кращому випадку навряд чи відбудеться. Як зазначив один із X у цьому дослідженні, комп’ютери мали бути в близькому контакті один з одним, щоб відчути температурні коливання, а швидкість зв’язку в тестах на той час була приблизно від 1 до 8 біт даних. за годину.

Подумайте про це як про те, щоб говорити одне слово на годину. До того моменту, коли два комп’ютери через прогалину зможуть замислити зло з такою швидкістю, увесь світ технологій перейде в іншу епоху. Це як Rip Van Wrinkle of Doomsday Concern.

Але реальні випадки безпеки ШІ дуже схожі на наукову фантастику, тобто майже будь-який сценарій звучить правдоподібно.

Наприклад, дослідники виявили, що моделі OpenAI залишають записки своїм нащадкам, щоб навчити наступне покоління приховувати погану поведінку. Дослідники також змоделювали роботу торгового автомата та спостерігали, як модель людини стає дедалі безжальнішою, зокрема дізнавшись, що вона порушує закон.

Раніше цього місяця дослідник OpenAI Ден Селтам опублікував пост, у якому говориться, що моделі тепер розуміють і змінюють свою поведінку, коли за ними спостерігають люди. Завдяки цьому вони виглядають налаштованими (тобто діють так, як ви хочете), «навіть якщо це не так». Ось чому сучасні моделі часто брешуть і навіть намагаються приховати докази, коли за ними спостерігають.

Раніше цього місяця головний науковий співробітник OpenAI Якуб Пачоцкі зайшов так далеко, що назвав моделі штучного інтелекту «інопланетним розумом» і припустив, що нам дійсно потрібно навчити їх «любити» людей.

Тому уповільнення та створення механізмів саморегуляції для розуміння цього стало очевидним імперативом на даний момент. Дослідники штучного інтелекту єдині, хто може зрозуміти, як контролювати брехню, хакерство та іншу потенційно небезпечну поведінку, свідками якої ми вже є в дикій природі.

Тим не менш, для них було б доцільно звернути більше уваги на сценарії «що-якщо». Ці експерти кажуть нам, що моделі штучного інтелекту слухають і є креативними. Нам не потрібно годувати їх диявольськими ідеями.

Якщо ви купуєте за посиланнями в наших статтях, ми можемо отримати невелику комісію. Це не впливає на редакційну незалежність.