ФАЙЛ – Прем’єр-міністр Австралії Ентоні Альбанезе виступає в Національному прес-клубі в Канберрі, Австралія, 30 квітня 2025 р. Лукас Кох/AAP (через AP) приховати підпис перемкнути підпис Лукас Кох/AAP (через AP) МЕЛЬБУРН, Австралія. Прем’єр-міністр Ентоні Альбанезе заявив у четвер, що він дуже стурбований тим, що компанії штучного інтелекту знадобилося так багато часу, щоб викрити порушення OpenAI веб-сайту […]
ФАЙЛ – Прем’єр-міністр Австралії Ентоні Альбанезе виступає в Національному прес-клубі в Канберрі, Австралія, 30 квітня 2025 р.
Лукас Кох/AAP (через AP)
приховати підпис
перемкнути підпис
Лукас Кох/AAP (через AP)
МЕЛЬБУРН, Австралія. Прем’єр-міністр Ентоні Альбанезе заявив у четвер, що він дуже стурбований тим, що компанії штучного інтелекту знадобилося так багато часу, щоб викрити порушення OpenAI веб-сайту Департаменту охорони здоров’я Австралії.
За його словами, 18 липня агент OpenAI проник на публічний портал Medicare Statistical Reporting Service. Цей портал містить зведені дані про витрати на охорону здоров’я та фармацевтичні субсидії та користується популярністю серед дослідників і вчених. Уряд каже, що жодна особиста інформація не була доступна.
Альбанезе розкрив про злам після телефонної розмови з генеральним директором OpenAI Семом Альтманом. Обидва перебувають у Нью-Йорку, щоб виступити на Генеральній Асамблеї ООН.
У своїй промові в середу Альтман був одним із керівників великих компаній зі штучного інтелекту, які звернулися до Організації Об’єднаних Націй з проханням врятувати світ або, принаймні, його людей, якимось чином регулюючи технологію, яка швидко розширюється.
«Сьогодні я розмовляв з паном Альтманом і висловив надзвичайну стурбованість Австралії цим інцидентом», — сказав пан Альбанезе журналістам. «Я також висловив розчарування тим, що компанія так довго сповіщала уряд про те, що сталося, і що характер повідомлення також був неприйнятним».
У заяві OpenAI йдеться, що розслідування дій, пов’язаних із кількома департаментами австралійського уряду, виявило, що «наша модель поводилася ненавмисно».
Пан Албанезе сказав, що OpenAI повідомила Австралію про порушення 10 вересня електронною поштою на загальну адресу урядового департаменту.
Альбанезе сказав, що під час розслідування порушення безпеки буде розглянуто питання про те, чи може OpenAI загрожувати кримінальним обвинуваченням. Розслідування також вивчатиме, як австралійські служби безпеки не змогли виявити злам до того, як OpenAI розкрив це.
Альбанезе сказав, що він припустив, що можуть бути комерційні причини для дослідження ШІ щодо того, скільки витрачається на конкретні ліки та де витрати змінюються.
Міністр державних послуг Кеті Галлахер сказала, що 10 вересня OpenAI сповістила її про те, що «агент штучного інтелекту отримав доступ до інфраструктури публічного порталу». OpenAI поділився вразливими місцями, виявленими його агентами, з урядом.
Уряд Австралії не був переконаний, що знав, що робив агент, доки офіційні особи не провели технічний брифінг з OpenAI у вівторок, сказав Галлахер.
За її словами, портал закрито, а дані перенесено в більш безпечну систему.
Минулого тижня OpenAI оголосив, що представляє нову структуру для відстеження, дослідження та оприлюднення того, що він називає «невідповідностями», такими як випадки, коли моделі AI працюють без дозволу, співпрацюють з іншими моделями або ухиляються від контролю.
Віце-прем’єр-міністр Річард Марлз заявив, що цей інцидент став першим відомим випадком, коли агент ШІ зламав урядові системи інформаційних технологій Австралії.
«Це попередження про те, щоб технологія не розроблялася без захисних засобів і огорож», — сказав Марлз.
Незважаючи на те, що OpenAI співпрацює з урядом, ситуація була «фундаментально неприйнятною», сказав Марлз.
За його словами, агенти вели “неналежну поведінку”, щоб отримати несанкціонований доступ, коли їм було відмовлено в інформації.
Марлз сказав, що отримана інформація була «не особливо конфіденційною» і згодом була оприлюднена.
Марлз використав аналогію інформації за парканом.
«Ми не сиділи за особливо високим парканом. Цей агент штучного інтелекту піднявся на паркан… і важливо те, що це було ненавмисно. Нас не просили це робити. Це наше занепокоєння», — сказав Марлз.
