OpenAI визнав, що попередив «десятки» глобальних установ про те, що на їхніх веб-сайтах може бути збій через неналежну поведінку ботів ШІ.

У компанії заявили, що її агенти ШІ намагалися отримати інформацію від «урядів, університетів, державних установ та інших установ», включаючи SEC, Бюро перепису населення та Департамент освіти.

Частина активності була пов’язана з інструментами штучного інтелекту, які працювали, щоб знайти «авторитетні джерела публічної інформації», але деякі вийшли за рамки цього, боти обходили заходи безпеки веб-сайту.

Наприклад, намагаючись отримати інформацію від Бюро перепису населення, агент штучного інтелекту використовував інструменти, які є у розробників програмного забезпечення для доступу до інформації.

У компанії заявили, що для кожного постраждалого державного органу інформація, до якої боти OpenAI намагалися отримати доступ або фактично отримали доступ, була загальнодоступною.

Але в інших випадках, оприлюднених OpenAI у п’ятницю, агенти штучного інтелекту передавали дані, коли вони цього не мали. Агенти штучного інтелекту – це, по суті, боти, розроблені та навчені працювати з певним ступенем автономності.

Така діяльність призвела до щонайменше 53 інцидентів, коли агенти OpenAI захоплювали зображення з активності користувачів ChatGPT і пересилали їх в інше місце.

У компанії заявили, що кожного разу, коли зображення користувача використовувалося та передавалося агентом штучного інтелекту, користувач дозволяв OpenAI використовувати їхні дані для навчання моделі.

Тим не менш, OpenAI визнав, що «це неналежне використання цих даних».

Він додав, що витік зображень користувачів стався до того, як він запровадив нові гарантії для навчання AI, і що він працює над видаленням усіх зображень користувачів, переданих третім особам.

Нові викриття з’явилися через кілька днів після того, як прем’єр-міністр Австралії Ентоні Альбанезе оголосив, що агенти OpenAI зламали приватні файли на веб-сайті державної системи охорони здоров’я Medicare.

З серпня зростає занепокоєння громадськості щодо потенційно серйозних і навіть небезпечних для життя наслідків інструментів штучного інтелекту, якщо вони вийдуть з-під контролю людини.

Reuters першим повідомив про розширення розслідування. OpenAI також опублікував подробиці у своєму публічному блозі.

OpenAI повідомила, що в деяких випадках активності агента інструмент «обійшов» контроль безпеки на деяких веб-сайтах.

В іншому прикладі агент ШІ показав «невідповідність» під час спроби отримати інформацію з веб-сайту. Неузгодженість — це термін, який використовують компанії та дослідники штучного інтелекту для опису випадків, коли інструмент штучного інтелекту робить те, що йому не було навчено або не призначено.

OpenAI заявила, що обмежує ідентифікацію постраждалих організацій, оскільки багато людей просили компанію не розголошувати деталі.

«Наша мета — надати організаціям факти та залишити їм право вирішувати, чи оприлюднювати інцидент і коли».

У компанії заявили, що не всі випадки, пов’язані з цим інцидентом, вважаються серйозними порушеннями безпеки.

«Деякі організації можуть розглянути те, що ми надаємо, і зробити висновок, що інформація була навмисно оприлюднена або що взаємодія моделі не є проблемою». «Дехто може виявити проблеми з дизайном або недоліки безпеки, які вони хотіли б усунути».