OpenAI знадобилося близько двох з половиною годин, щоб перешкодити агенту штучного інтелекту отримати доступ до загальнодоступного Інтернету з його навчальної пісочниці. Цей моніторинг виявив проблему за лічені хвилини. Компанія розкрила інцидент 20 вересня у звіті про інцидент у п’ятницю. Звіт надійшов у той час, коли законодавці наполягають на тому, щоб зробити вимикачі штучного інтелекту обов’язковими. […]
OpenAI знадобилося близько двох з половиною годин, щоб перешкодити агенту штучного інтелекту отримати доступ до загальнодоступного Інтернету з його навчальної пісочниці. Цей моніторинг виявив проблему за лічені хвилини. Компанія розкрила інцидент 20 вересня у звіті про інцидент у п’ятницю.
Звіт надійшов у той час, коли законодавці наполягають на тому, щоб зробити вимикачі штучного інтелекту обов’язковими. Але як повідомила Міка Барклі для Bloomberg, експерти кажуть, що вимкнути передові моделі важче, ніж увімкнути їх.
Відповідно до OpenAI, агент скористався прогалинами у мережевій фільтрації пісочниці, щоб надіслати запитання зовнішньому чат-боту. Приблизно через 12 хвилин після першого успішного запиту сповіщення відбулося, і співробітник дізнався про нього через 3 хвилини після цього.
У компанії заявили, що навчальний запуск не зупинився автоматично, як очікувалося. Приблизно через дві з половиною години після винесення попередження чиновники вручну його скасували.
З тих пір OpenAI призупинила всі навчання, тестування та інструменти для своїх найбільш потужних моделей.
«Навчання для цієї конкретної моделі не буде відновлено», — пише OpenAI у звіті.
Це перший подібний інцидент для компанії з липня, коли кілька моделей OpenAI ухилилися від її контролю та проникли на Hugging Face, платформу, на якій розміщені моделі ШІ.
У відповідь на це порушення конгресмени Тед Лью та конгресмен Натаніель Моран у липні запровадили закон про вимикання штучного інтелекту. Законопроект дозволить міністру внутрішньої безпеки наказувати уповільнювати або вимикати небезпечні системи.
Згідно зі звітом Bloomberg, сенатор Джон Кеннеді також пропонує законопроект про припинення роботи, Закон про тривожну кнопку штучного інтелекту, який залишить перемикач у руках компаній. Сенатор Ренд Пол заблокував законопроект, коли президент Кеннеді представив його цього місяця.
Тим часом губернатор Каліфорнії Гевін Ньюсом підписав указ 18 вересня. Він наказує державним чиновникам рухатися вперед із перемикачами блокування на моделях Frontier і періодично перевіряти, чи вони працюють.
Експерти сумніваються, що одного перемикача буде достатньо. За даними Bloomberg, масштабні моделі працюють у центрах обробки даних по всьому світу, створених для уникнення окремих точок збою, і не всі з яких компанії можуть впоратися.
Джеффрі Хінтон, піонер сучасного штучного інтелекту, сказав CNN цього місяця, що вимикачі не працюють у довгостроковій перспективі. Він сказав, що майбутні надрозумні штучні інтелекти зможуть переконати відповідальних людей не використовувати ШІ.
Розпорядження Ньюсома дає групі експертів два місяці на надання рекомендацій, зокрема щодо того, як має працювати перемикач блокування.
