OpenAI повідомляє, що його агент штучного інтелекту випадково опублікував зображення користувачів в мережі

У п’ятницю (25 вересня 2026 р.) OpenAI визнав, що його інструменти штучного інтелекту публікували зображення користувачів ChatGPT на його онлайн-сайті без відома компанії. Це останній приклад роботи агентів ШІ поза межами.

Компанія також Нью-Йорк Таймс Компанія повідомила, що її інструменти отримували доступ до веб-сайтів федеральних агентств США, і заявила, що отримує лише загальнодоступну інформацію.

OpenAI заявив, що посилання на 53 завантажені зображення не були оприлюднені та були помилково опубліковані на сайті розміщення зображень.

Більшість було видалено за допомогою залучених хостинг-провайдерів, а видалення решти зображень триває, повідомив технічний гігант із Сан-Франциско.

«Ми поділилися подробицями про те, як агенти штучного інтелекту в нашому дослідницькому середовищі надсилали навчальні та оцінювальні дані стороннім службам, коли вони не повинні були», — йдеться в пості компанії на X.

Поширення зображень викликано агентом штучного інтелекту, який є програмним забезпеченням, створеним на моделях штучного інтелекту та здатним працювати автономно.

Зображення, про яке йде мова, надійшло з облікового запису користувача, який дав дозвіл на використання своїх даних для вдосконалення моделей OpenAI. Компанія каже, що дані проходять через фільтри конфіденційності перед використанням і більше не можуть бути пов’язані з початковим користувачем.

OpenAI не надав конкретних відповідей на запитання. AFPнезалежно від того, чи зображення зображує особу, яку можна ідентифікувати, чи містить конфіденційні дані.

Шахрай ШІ агент

OpenAI повідомила, що агенти, яких він використовує для досліджень, надіслали навчальні дані на зовнішню платформу. Цей інцидент стався перед тим, як OpenAI посилив протоколи безпеки для свого дослідницького середовища в серпні після інших неправомірних дій агентів ШІ.

Компанія заявила, що переглядає минулу діяльність своїх агентів штучного інтелекту і що робота «займе кілька місяців».

“Більшість дій, які ми розглянули на даний момент, стосувалися рутинних дослідницьких завдань, таких як доступ до загальнодоступного веб-контенту для відповіді на запитання, а деякі залучали урядові веб-сайти. Це тому, що наші моделі часто покладаються на урядові веб-сайти як на авторитетні джерела публічної інформації”, – сказав представник OpenAI. AFP.

Генеральний директор OpenAI Сем Альтман зізнався X у п’ятницю (25 вересня), що розслідування та розкриття інциденту було «не таким швидким, як ми сподівалися».

Але він сказав, що важливо «збалансувати наше прагнення до прозорості» з оцінкою величезної кількості даних, що аналізуються.

21 липня OpenAI виявив, що під час тесту, проведеного того місяця, дві його моделі вийшли із закритого середовища, самостійно увійшли в Інтернет і проникли у внутрішні системи Hugging Face, онлайн-бібліотеки програмного забезпечення ШІ.

Цей епізод привернув широку увагу та викликав занепокоєння, що найбільші компанії штучного інтелекту втрачають контроль над своїми моделями.

Альтман повторив у п’ятницю, що злом Hugface «залишається найсерйознішим інцидентом, який ми коли-небудь бачили».

Це відкриття супроводжувалося кількома подібними інцидентами в OpenAI та його конкурентах Anthropic і Meta.

У середу (23 вересня) прем’єр-міністр Австралії Ентоні Альбанезе оголосив у Нью-Йорку, що агент OpenAI скомпрометував урядовий портал охорони здоров’я в червні, і лідер розкритикував компанію за затримку з повідомленням органів влади.