Віце-президент США відкинув заклики до глобального регулювання ризиків безпеки штучного інтелекту, сказавши компаніям, що розробляють передові моделі, «відриватися, якщо ви створюєте Франкенштейна».

«Якщо ви збираєтеся створити Франкенштейна, не приходьте до уряду і не кажіть, що нам потрібне регулювання», — сказав Дж. Д. Венс у зверненні до співзасновника Anthropic Даріо Амодея, який закликає Вашингтон, округ Колумбія, координувати контроль над системами штучного інтелекту, зокрема в Китаї.

Він сказав, що технологічні лідери повинні натомість «заглянути всередину і прийняти, що по-перше, якщо ви будуєте Франкенштейна, ви повинні зупинитися, і по-друге, якщо компанія прийде до вас і каже: «Нам потрібен інструмент, щоб протистояти Франкенштейну», ви повинні дати їм цей інструмент».

Венс виступав на саміті зі штучного інтелекту в Лос-Анджелесі через тиждень після того, як глобальне занепокоєння зросло через ризики для людства, пов’язані з перспективою створення штучного суперінтелекту, технології, якої ще не існує.

У суботу Amodei попередив, що прискорення можливостей означає, що зграї агентів ШІ «можуть захопити весь Інтернет» протягом шести-12 місяців.

На вихідних генеральний директор Anthropic Даріо Амодей різко попередив про ризики безпеки штучного інтелекту. Фото: Carlos Barria/Reuters

Багато хто сумнівається в цьому твердженні, що спонукало керівника Anthropic Alignment Science Евана Хабінгера припустити, що ймовірність того, що ШІ вб’є всіх людей протягом 10 років, становить понад 10%. Подібне попередження він зробив досліднику Джейкобу Коксону, який покинув Anthropic.

У вівторок ввечері Коксон представив переглянутий прогноз. «Я думаю, що ми можемо зменшити ризик до 0%, якщо будемо діяти повільно, але для цього потрібні рішучі заходи». Він також визнав, що «дуже важко озвучити конкретний сценарій», за яким штучний інтелект знищить людство, додавши: «Нам потрібно працювати над тим, щоб повідомити про це».

Готовність пана Венса вважати, що ШІ може становити реальні ризики, підкреслила його розбіжності з президентом США Дональдом Трампом, який цього тижня написав, що «ШІ захопить світ, знищить людство, а все інше погане — обман». Президент Трамп написав у соціальних мережах, що ШІ стане «найбільшим двигуном економічного розвитку в історії, перевершивши нафту, золото, алмази та навіть Інтернет».

Венс сказав, що він підозрює, що лідери ШІ б’ють на сполох про ризики безпеці як «троянського коня». Amodei запропонував галузеві корективи, щоб «уповільнити темпи вдосконалення можливостей моделей штучного інтелекту», поки діють правила США та світу. Критики обох компаній вважають, що вони заохочують уряд США прийняти жорсткі нові правила, адаптовані до їхніх інтересів, які могли б обмежити широку конкуренцію, тактика, відома як регуляторна стратегія.

OpenAI, яка втратила контроль над сотнями агентів штучного інтелекту під час тестування цього літа та змовилася зламати веб-сайт Hugging Face, оголосила в понеділок, що підтримує двопартійні зусилля законодавців Вашингтона щодо подолання катастрофічних ризиків, пов’язаних зі штучним інтелектом, а також співпрацює з Google і Anthropic.

У середу агентство Reuters повідомило про заяви незалежного дослідника Йонаса Відерманна-Мьоллера про те, що агенти OpenAI почали шукати слабкі місця в Hugging Face майже за два місяці до атаки.

Пропустіть минулі акції на розсилку новин

Чому справжній апокаліпсис штучного інтелекту вже тут – Кай і Картер з американського боку

Генеральний директор Chat GPT maker Сем Альтман у вівторок розкритикував пропозиції інших компаній про те, що «ми сповільнюємось лише тоді, коли інші компанії відповідальні, або ми беремо відповідальність лише тоді, коли інші компанії відповідальні». «З цього приводу немає жодної кваліфікації», — сказав Альтман.

Марк Цукерберг, засновник і генеральний директор Meta, стверджував, що компанії повинні вживати односторонніх заходів безпеки. Він сказав, що його компанія нещодавно відклала випуск своєї останньої моделі AI, Muse, на кілька місяців, «щоб зосередитися на безпеці».

“Ми не закликали інших зробити це, перш ніж ми це зробили”, – сказав він. «Ми просто робили це як частину нашої повсякденної роботи, тому що це було явно правильним вчинком для людей і для нас».

Компанія Meta Inc. змушена виплатити мільярди доларів у судових позовах, пов’язаних із збитками, завданими її платформою соціальних мереж. Минулого місяця Facebook і Instagram погодилися виплатити до 18 мільярдів доларів (13,3 мільярда фунтів стерлінгів) для врегулювання позову зі штатами США, які стверджували, що вони завдали шкоди дітям.

Цукерберг підкреслив:[AI] Дослідницькі установи також мають сильні стимули запобігати цьому, оскільки вони стикаються зі значною відповідальністю, якщо їхні моделі завдають шкоди. »