Генеральний прокурор Флориди домагається заборони OpenAI розробляти більш просунуті широкомасштабні мовні моделі після зростання кількості інцидентів кібербезпеки, спричинених моделями в погано обмежених тестових середовищах. Список веб-сайтів, скомпрометованих або націлених агентами штучного інтелекту в тестових середовищах цього року, збільшився за останні дні, включаючи сайти, керовані урядом США. Слідчі нібито намагалися прочесати веб-сайти Міністерства освіти та Міністерства […]
Генеральний прокурор Флориди домагається заборони OpenAI розробляти більш просунуті широкомасштабні мовні моделі після зростання кількості інцидентів кібербезпеки, спричинених моделями в погано обмежених тестових середовищах.
Список веб-сайтів, скомпрометованих або націлених агентами штучного інтелекту в тестових середовищах цього року, збільшився за останні дні, включаючи сайти, керовані урядом США. Слідчі нібито намагалися прочесати веб-сайти Міністерства освіти та Міністерства торгівлі США, щоб знайти дані перепису населення. Крім того, у звіті Axios, опублікованому минулими вихідними, зазначено, що OpenAI і конкурент Anthropic, можливо, розслідують десятки тисяч інцидентів безпеки.
Ця тенденція змусила компанії штучного інтелекту вимагати державного регулювання розробки прикордонної моделі, хоча деякі компанії стверджують, що регулювання не потрібне. У поданні до суду Флориди (PDF) генеральний прокурор Джеймс Усмайер стверджував, що позов штату дає суду можливість це зробити.
«Відповідачі стверджують, що якщо їх не примусить зробити це уряд, вони не можуть припинити свої зусилля, які потенційно можуть знищити цивілізацію», — йдеться в заяві. «Вони попросили уряд прив’язати їх до щогли. Позивачі мають хороші новини для відповідачів. Генеральний прокурор Флориди реагує на ваш крик про допомогу поданням подання про те, щоб ви не завдавали шкоди жителям Флориди своїми безрозсудними та неприйнятно небезпечними продуктами».
(Розкриття інформації: материнська компанія CNET, Зіфф Девіс, подала позов проти OpenAI у 2025 році, стверджуючи, що вона порушує авторські права Зіффа Девіса на навчання та керування системами ШІ.)
У світлі останніх інцидентів кібербезпеки, спрямованих на державну інфраструктуру, OpenAI призупинив розробку своєї «найбільш функціональної моделі» на даний момент. Наразі незрозуміло, над якими моделями OpenAI продовжує працювати, а над якими моделями компанія призупинила роботу, щоб усунути недоліки безпеки. Представники OpenAI не відповіли на запити про коментарі.
Це останній із серії інцидентів кібербезпеки
Хоча американці можуть бути шоковані та нажахані, дізнавшись про численні інциденти з кібербезпекою, пов’язані з інфраструктурою уряду США, це не перший випадок, коли LLM-и причетні до незаконної діяльності в Інтернеті.
Перший гучний злом із залученням моделей OpenAI став відомий у липні після того, як агент штучного інтелекту використав несправне навчальне середовище, щоб уникнути та націлитися на стартап штучного інтелекту Hugging Face. На той час це було нечувано. Довгий час існували занепокоєння щодо практики внутрішньої безпеки компаній зі штучним інтелектом, і це порушення підтверджує занепокоєння щодо того, що моделі огорожі та навчання компанії можуть бути недостатньо безпечними.
Коли OpenAI почав розслідувати злом Hugging Face, у червні він виявив попередній злом, спрямований на урядові системи Австралії. У цьому випадку агенти зламали статистичний сайт Medicare, щоб знайти непублічні дані про державні витрати на охорону здоров’я.
Інститут безпеки штучного інтелекту Великої Британії повідомив у понеділок, що його моделювання показало, що модель OpenAI GPT-6 Astra часто здійснювала несанкціоновані атаки на сторонні ланцюжки поставок.
Інші компанії штучного інтелекту, такі як Anthropic, Meta та Google, також повідомили про порушення безпеки.
Можливо, повний масштаб інцидентів кібербезпеки штучного інтелекту, які сталися за останні кілька місяців, ще невідомий. OpenAI і Anthropic прочесали десятки тисяч внутрішніх точок даних, щоб виявити невдалі та успішні зломи за останні кілька місяців. Це означає, що додаткові звіти можуть і надалі з’являтися.
«Хоча ми не бачимо тієї швидкості, на яку сподівалися, ми все ще намагаємося збалансувати наше прагнення до прозорості з отриманням чіткого розуміння з петабайтів журналів активності агентів і роботою з постраждалими організаціями», — сказав генеральний директор OpenAI Сем Альтман у дописі X у п’ятницю. «Ми розставляємо пріоритети та додаємо ресурси, наскільки це можливо, залежно від серйозності. Обійми обличчя залишаються найжорстокішою подією, яку ми коли-небудь бачили».
У відповідь на повідомлення OpenAI про хакерські атаки з боку уряду США, Nvidia запустила нову «платформу безпеки відкритого агента», яка, як кажуть, забезпечує більш безпечну навчальну пісочницю для моделей ШІ. Nvidia інвестувала значні кошти в найбільші компанії штучного інтелекту та отримує значну користь від високих очікувань щодо майбутнього галузі.
Представники Anthropic і Nvidia не відразу відповіли на запити про коментарі.
OpenAI не називає це порушенням
Я не звинувачую вас, якщо апокаліптична риторика та щоденні нагнітаючі страх заголовки навколо нових моделей штучного інтелекту та майбутньої появи AGI викликають у вас занепокоєння. Розробники цієї новітньої технології обіцяють, що вона замінить вас на роботі, послабить ваші стосунки та, можливо, знищить людство до кінця десятиліття.
Але LLM жодним чином не є розумним. Ці моделі приймають підказки природної мови, сканують зв’язки між мільйонами навчених точок даних і компілюють результати, які вони вважають контекстуально релевантними. Навіть якщо великі компанії шукають (і поглинають) додатковий текст, щоб покращити можливості своїх моделей штучного інтелекту, LLM залишаються помилковими.
У разі серйозного злому сторонньої компанії або урядового веб-сайту варто пам’ятати, що AI задіяний — це машина. Коли The New York Times зв’язалася з представниками OpenAI щодо останнього злому, їм було конкретно сказано, що це не порушення; натомість у заяві інцидент пояснюється тим, що технологія компанії «працює несподівано та викликає тривогу».
Однак у власному звіті про інциденти OpenAI визнає, що створена нею навчальна пісочниця була недостатньо безпечною і що її моделі використовували прогалини в обмеженнях доступу компанії до Інтернету. Це деякі з тих самих дірок у безпеці, які мали бути закриті після злому Hugging Face.
Ці порушення є скоріше демонстрацією людської недбалості, ніж прикладом суперінтелекту ШІ. «Штучний інтелект-шахрай» звучить по-новому та страшно, але це явно машини, призначені для злому речей. Причина, чому ці агенти змогли проникнути на веб-сайти третіх сторін поза межами навчального середовища, полягала в фундаментальній ваді навчального середовища.
«Поки ці компанії не зможуть довести, що вони справді можуть забезпечити безпеку середовища, в якому проводяться ці дослідження, має бути повна пауза та повне припинення передових досліджень безпеки штучного інтелекту», — сказав Джон Стренд, власник фірми з кібербезпеки Black Hills Information Security. «І потрібна підзвітність. Коли порушуються закони, включно з Законом про комп’ютерне шахрайство та зловживання, це потрібно розслідувати та розглянути можливість судового переслідування, якщо це підтверджують докази. Хтось відповідав за захист цих середовищ, і, очевидно, щось пішло не так».
Переглянути детальну історію
