OpenAI відкладає останню модель через проблеми безпеки, оскільки промисловість стикається з тиском

ФАЙЛ. Логотип OpenAI з’являється на мобільному телефоні перед зображенням, створеним моделлю перекладу тексту Dall-E від ChatGPT у Бостоні, 8 грудня 2023 року.

Майкл Дваєр/Associated Press


приховати підпис



перемикати підпис

Майкл Дваєр/Associated Press

У понеділок OpenAI оголосила, що відкладає випуск нових моделей штучного інтелекту через занепокоєння щодо безпеки, висловлені дослідниками, останніми зусиллями компанії уповільнити темпи технологічного прогресу.

Критики кажуть, що уповільнення розвитку штучного інтелекту серед великих компаній може посилити потужність Frontier Labs, так само як багато інших компаній намагаються наздогнати згаяне.

Рішення OpenAI призупинити модель під назвою GPT-6.1 Astra з’явилося на тлі широкого тиску в галузі щодо уповільнення розробки все більш автоматизованих систем, поки заходи безпеки не наздоженуть. Це оголошення зроблено за день до запланованої зустрічі керівників штучного інтелекту з президентом Дональдом Трампом у Вашингтоні, оскільки технологічні компанії стикаються з новим тиском, вимагаючи притягнення до відповідальності за можливість неправильного використання їхніх моделей.

The Wall Street Journal вперше повідомила про затримку випуску моделі OpenAI.

Саатчі Джайн, керівник відділу систем безпеки в OpenAI, заявив, що ця версія «не повністю відповідає стандартам». Він став більш живучим у виконанні завдань, але OpenAI довелося збалансувати свою функціональність зі зловмисною поведінкою.

Джайн стверджував, що компанія прагне забезпечити безпеку своїх моделей як під час власного тестування, так і в руках користувачів. “Ми встановлюємо дуже високу планку щодо безпеки та координації”, – сказала вона.

Минулого тижня OpenAI призупинила навчання своїх передових моделей і заявила, що відновить навчання лише тоді, коли ми будемо впевнені, що є додаткові гарантії.

Колаж із 6 персонажів зі штучним інтелектом. За годинниковою стрілкою зверху зліва: тодішній дослідник Google AI Тімніт Гебру, співзасновник і генеральний директор Anthropic Даріо Амодей, AI Білого дому та криптоцар Девід Сакс, Стів Беннон, комп’ютерний вчений і когнітивний психолог Джеффрі Хінтон і дослідник Фей-Фей Лі.

Це сталося після того, як дослідники виявили випадки, коли агенти штучного інтелекту виходили за рамки своїх інструкцій, включаючи доступ до урядових веб-сайтів без дозволу.

Генеральний директор OpenAI Сем Альтман приєднався до інших лідерів галузі у закликах до уповільнення, попереджаючи, що компанії все ще не мають достатніх гарантій для контролю своїх найпотужніших систем. Альтман мав виступити з основною промовою у вівторок на щорічній конференції OpenAI для розробників програмного забезпечення в Сан-Франциско. Президент OpenAI Грег Брокман планує відвідати захід у Білому домі у вівторок.