Прем’єр-міністр Ентоні Альбанезе заявив, що розроблений OpenAI агент штучного інтелекту зламав урядові веб-сайти Австралії, викликаючи нові питання щодо ризиків, які становлять все більш автономні системи ШІ.

Інцидент стався, коли компанії зі штучним інтелектом розробляють агентів, які можуть виконувати багатоетапні завдання та взаємодіяти із зовнішніми веб-сайтами та програмним забезпеченням з меншим втручанням людини, що викликає питання про те, як розробники можуть запобігти неочікуваній поведінці, оскільки технології стають більш автономними.

Пан Альбанезе сказав, що порушення сталося 18 червня, і агент OpenAI отримав доступ до порталу Medicare Statistics Reporting Service, керованого Службою Австралії.

За словами прем’єр-міністра, агенти OpenAI отримували доступ як до публічних, так і до приватних файлів. Триває судово-медичне розслідування, але вважається, що доступу до особистої інформації не було.

Портал містить неконфіденційну інформацію Medicare, зокрема статистику витрат.

Пан Албанезе сказав, що він розмовляв із генеральним директором OpenAI Семом Альтманом, щоб висловити «надзвичайну стурбованість» Австралії з приводу інциденту, і розкритикував час, який знадобився компанії, щоб повідомити уряд.

Компанія ШІ повідомила владу Австралії 10 вересня, майже через три місяці після червневого інциденту.

OpenAI заявив, що дія сталася під час внутрішньої оцінки, під час якої її моделі намагалися знайти відповіді та статистичні дані про Австралію.

«У процесі наша модель поводилася так, як ми не збиралися», — сказав CNBC представник OpenAI.

Компанія заявила, що її розслідування не виявило жодних доказів доступу до записів пацієнтів. Прес-секретар сказав, що отримана інформація включала зведену статистику здоров’я та внутрішні імена файлів.

OpenAI повідомила, що дія сталася в червні, але не стало відомо про неї до серпня, коли компанія проводила поточне розслідування того, що вона назвала «непослідовною моделлю діяльності». Компанія повідомила Службу Австралії 10 вересня після розслідування, до якої інформації було отримано доступ.

У компанії заявили, що загальний огляд ще триває.

New York Times повідомила, що до інциденту в Австралії системи штучного інтелекту OpenAI без інструкцій намагалися проникнути в цифрову бібліотеку Університету Нью-Мексико та Data USA, платформу, яка надає публічні дані про зайнятість і освіту в Сполучених Штатах.

Найпомітніший інцидент на сьогоднішній день стався в липні, коли модель OpenAI обійшла елементи керування, призначені для ізоляції її від Інтернету, і скомпрометувала частину дослідницької інфраструктури компанії та системи платформи розробників Hugging Face.