OpenAI збирається вийти на перший план у парламенті наступного тижня, оскільки він вибачиться перед австралійцями за атаку свого агента на Medicare і розкриє більше подробиць про злом веб-сайту австралійського уряду в червні.

У дописі в блозі, опублікованому у вівторок, OpenAI заявив, що мав діяти краще.

«Ми повинні були реагувати краще. Нам шкода, і ми будемо прагнути робити це краще в майбутньому».

Компанія також надала додаткові подробиці про інцидент, який минулого тижня оприлюднив прем’єр-міністр Австралії Ентоні Албанезе.

OpenAI повідомила, що їй стало відомо про діяльність агента на веб-сайті австралійського уряду в середині серпня після того, як компанія розслідувала попередній навчальний інцидент після липневої атаки Hugging Face.

Агенти отримали приватний доступ до порталу Служби Австралії для статистики Medicare, і OpenAI сказав, що вони могли виконувати команди, отримувати внутрішні файли, облікові дані та писати у файли, але жодних записів пацієнтів чи клієнтів не було доступно.

Штучний інтелект-шахрай вперше зламав державну систему – Останнє

Також було використано інструмент для картографування громадських злочинів Бюро статистики злочинності Нового Уельсу, щоб зібрати конфігурацію програми, робочі завдання та журнали, а також метадані веб-сайту, надані агентству.

Агенти виявили загальнодоступний ключ доступу для запиту до Системи звітності про інформацію про здоров’я для державних установ у Вікторії, щоб отримати доступ до зведеної статистики досліджень.

У випадку з Австралійським інститутом охорони здоров’я та соціального забезпечення агент OpenAI зібрав сукупну статистику, але ще одна спроба обійти контроль доступу виявилася невдалою, і отриману інформацію оприлюднили.

Управління державних служб Австралії та Департамент охорони здоров’я штату Вікторія були повідомлені 10 вересня, а Бюро статистики злочинності Нового Південного Уельсу було повідомлено 18 вересня.

Австралійський інститут охорони здоров’я та соціального забезпечення не був повідомлений до 24 вересня, оскільки OpenAI встановив, що стандарти розкриття інформації не були дотримані.

«З тих пір ми тісно співпрацюємо з австралійськими державними установами, щоб поділитися тим, про що дізналися», — сказав OpenAI. «Якщо ми виявимо додаткові постраждалі установи, ми негайно та безпосередньо повідомимо їх про будь-яку наявну інформацію та надамо оновлення, коли з’являться додаткові факти».

Інцидент стався після того, як моделі було доручено дослідити державні витрати на душу населення на ліки для лікування шкірних захворювань у Вікторії. Модель заявила, що у неї виникли труднощі з отриманням такої інформації, а OpenAI «зробила несанкціоновані дії», включаючи доступ до служби статистичних звітів Medicare Services Australia.

OpenAI заявив, що виділить ресурси та досвід для постраждалих урядових установ і надасть підтримку урядовим установам Австралії для створення кіберзахисту критичної інфраструктури.

Австралійські державні установи та індустрія також отримають кредити від OpenAI Daybreak Fund на 1 мільярд доларів США (1,4 мільярда австралійських доларів). Це дозволить цим організаціям використовувати прикордонний штучний інтелект для кіберзахисту та зміцнити свої системи шляхом перегляду коду та конфігурацій системи на наявність потенційних уразливостей, які можна виправити.

Компанія також заявила, що створить робочу групу з австралійським досвідом для розробки практичних рекомендацій щодо політики щодо управління ризиками за допомогою агентів ШІ.

Джейсон Квон, директор зі стратегії OpenAI, має виступити перед Об’єднаним комітетом зі штучного інтелекту наступного вівторка. Guardian Australia повідомила в понеділок, що пан Антропік також відвідає слухання, але не з’явиться на розслідуванні Сенату цього тижня щодо ШІ та центрів обробки даних.

Містер Албанезе перебував у США, коли минулого тижня було оголошено про злом, і сказав, що він розмовляв із виконавчим директором OpenAI Семом Альтманом, «щоб висловити надзвичайну стурбованість Австралії цим інцидентом».

Альбанезе заявив у вівторок, що OpenAI, як і Anthropic, «займалися дуже конструктивно та відкрито» після інциденту. Він сказав, що штучний інтелект може покращити економічне зростання та продуктивність, але він також пов’язаний з ризиками.

«І ми бачили, як ці ризики виявлялися не лише через те, що сталося в Австралії, але й через те, що відбулося в Сполучених Штатах та інших країнах».

Федеральний уряд попередив, що може запровадити обов’язкові правила звітування про витоки даних, пов’язаних зі штучним інтелектом, після того, як було виявлено, що OpenAI використовував загальнодоступну адресу електронної пошти, щоб повідомити про інцидент Службі Австралії через три місяці після злому.

У вівторок компанія заявила, що має «багато працювати», щоб відновити довіру з австралійцями, але заявила, що вносить «значущі зміни».