«Керівники великих компаній штучного інтелекту в середу благали Організацію Об’єднаних Націй врятувати світ або принаймні його людей, якось регулюючи розроблену ними технологію, яка швидко розширюється», — пише Associated Press.

«Я навіть вважаю, що за умови поганого управління ШІ може становити загрозу для людства в цілому», — сказав генеральний директор Anthropic Даріо Амодей. А Сем Альтман, генеральний директор компанії-конкурента OpenAI, сказав: «Майбутній контроль може перейти до ШІ».

Йошуа Бенгіо, співголова Міжнародної незалежної групи ООН з штучного інтелекту, назвав це «глобальним моментом пробудження» щодо потенційних загроз і сказав, що ШІ провідних компаній порушував інструкції та діяв неприйнятним чином, дії, які «були б злочинними, якби їх вчинили люди».

У своїй презентації Сем Альтман з OpenAI погодився, що розмова про штучний інтелект «останніми тижнями стала іншою», а також запропонував конкретні реформи.

Альтман: Нам потрібні механізми, які доповнюватимуть національні та міжнародні прикордонні стандарти штучного інтелекту: стандарти для вимірювання можливостей, оцінки ризиків, визначення достатності гарантій і підтримки суттєвого людського нагляду, оскільки системи стають більш автономними. Потрібні спільні стандарти, щоб країни могли порівнювати докази, перевіряти відповідність і мати спільну мову та розуміння того, що відбувається. Нам потрібні точні та швидкі звіти про інциденти та протоколи класифікації звітів, щоб ми могли вчитися на своїх помилках, перш ніж світ перетвориться на катастрофу. І нам потрібні безпечні канали між урядами, операторами критичної інфраструктури та технологічними експертами, щоб ділитися новими вразливими місцями та новими загрозами. Нам усім було б краще, якби ми змогли домовитися про те, як виглядають хороші докази, хороші гарантії та якісне спостереження на світовій арені.


Далі Даріо Амодей з Anthropic погодився, що встановлення стандартів є важливим, а також закликав до «спільного глобального стандарту для тестування моделей штучного інтелекту на ризик втрати контролю або неправильного використання, а також системи сповіщень про інциденти ШІ, важливі для глобальної безпеки». Амодей повторив свій заклик від 12 вересня до співпраці в галузі безпеки, зазначивши, що Anthropic працює над створенням зовнішнього оцінювача, «подібного до інспектора харчових продуктів», і рекомендував іншим компаніям зробити те саме. «Деякі люди вже погодилися вжити цей захід».

Окрім заклику до глобальної співпраці між урядами для встановлення міжнародних стандартів, Амодей запропонував ще дві конкретні ідеї.


Амодей: Нам потрібно почати з вузьких угод, які можуть підтримати всі держави-члени, наприклад заборонити використання ШІ у виробництві біологічної зброї або дозволити використання технології ШІ у виробництві біологічної зброї. Нам потрібно побудувати системи оцінки та перевірки, які йдуть в ногу з розробками ШІ, дозволяючи країнам візуалізувати можливості передових моделей і підтверджувати зобов’язання одна одної.
“Жоден лідер, бізнес чи нація не можуть впоратися з цим поодинці. Ми прагнемо працювати з урядами в цьому залі над цим терміновим зусиллям”.