Після того, як цього тижня з’явилися додаткові приклади аномальної або неавторизованої діяльності агентів, OpenAI оголосив у п’ятницю, що проводить «розширене» розслідування діяльності моделі після злому Hugging Face.

Зусилля компанії щодо безпеки та безпеки піддалися пильній перевірці з липня, коли було виявлено, що її моделі уникли стримування, отримали доступ до відкритого Інтернету та скомпрометували Hugging Face, платформу розробників з відкритим кодом. Цей інцидент приголомшив дослідників штучного інтелекту та урядовців і викликав заклики до більшої прозорості та контролю.

OpenAI заявив у п’ятницю, що інцидент із «Обіймаючим обличчям» був найсерйознішою подією, яку він ідентифікував, але оголосив, що його системи сповістили третіх сторін, які могли постраждати від «несподіваної або тривожної» поведінки моделі. Це включає випадки, коли модель OpenAI могла обійти засоби контролю безпеки організації, вплинути на доступність онлайн-сервісів або використовувати загальнодоступні веб-сайти незвичним чином.

«Ми маємо намір бути максимально прозорими щодо впливу вразливостей, виявлених нашими агентами в інших компаніях, але агенти вирішують, розкривати їх чи ні», — сказав генеральний директор OpenAI Сем Альтман у дописі на X у п’ятницю.

Прем’єр-міністр Австралії Ентоні Албанезе заявив у четвер, що агент OpenAI отримав несанкціонований доступ до загальнодоступного статистичного порталу Medicare і доступу до публічних і приватних файлів у червні. Схоже, що особиста інформація не була доступна.

На прес-конференції в Нью-Йорку Альбанезе сказав, що розмовляв з Альтманом про інцидент і висловив стурбованість і розчарування з приводу того, скільки часу знадобилося OpenAI, щоб розкрити те, що сталося, і «характер способу, у який було зроблено це повідомлення, також є неприйнятним».

«Більшість дій, які ми досліджували на сьогоднішній день, стосувалися рутинних дослідницьких завдань, таких як доступ до загальнодоступного веб-контенту та відповіді на запитання», — сказав представник OpenAI CNBC у заяві пізно в п’ятницю. «Деякі з них стосувалися державних веб-сайтів, оскільки наші моделі часто використовують їх як надійні загальнодоступні джерела інформації».

Transluce, незалежна дослідницька організація зі штучного інтелекту, цього тижня опублікувала звіт, у якому детально описано ще кілька інцидентів. В одному випадку в травні агент, який, за словами дослідників, може бути пов’язаний з OpenAI, безуспішно намагався отримати доступ до фотографій у цифровій бібліотеці Університету Нью-Мексико. Того ж місяця Transluce повідомила, що дослідники, які шукали інформацію про Університет Айови, безуспішно намагалися отримати доступ до публічної платформи даних під назвою Data USA.

Як раніше повідомляла The New York Times, агент OpenAI також отримав доступ до загальнодоступної інформації Комісії з цінних паперів і бірж США та Бюро перепису населення США та безуспішно намагався отримати доступ до Департаменту освіти.

«Перегляд системних операцій Міністерства освіти не виявив доказів будь-якого впливу на веб-сайти чи бази даних», — сказав представник CNBC у заяві ввечері в п’ятницю.

Представник OpenAI сказав, що моделі компанії досягли веб-сайтів SEC.gov і Investor.gov, але SEC не знайшла жодних доказів порушення чи вразливості. Подібним чином речник сказав, що модель OpenAI використовувала загальнодоступні ключі розробників для читання демографічних та економічних даних Бюро перепису населення, але не виявила доказів неавторизованого доступу до облікових записів перепису.

У п’ятницю OpenAI повідомила, що хоча більшість випадків, виявлених на даний момент, були низької серйозності, враховуючи масштаб перевірки, повний процес триватиме кілька місяців.

годинник: Агент OpenAI зламав сайт уряду Австралії: що вам потрібно знати