OpenAI вибачилася перед Австралією після того, як її моделі без дозволу отримали доступ до чотирьох державних веб-сайтів під час навчання в червні. Компанія також визнала, що повинна була випустити попередження раніше. Крім того, компанія вперше розкрила імена всіх чотирьох агентств, до яких зверталися моделі. Два є агентствами даних про здоров’я. Австралійський інститут охорони здоров’я та […]
OpenAI вибачилася перед Австралією після того, як її моделі без дозволу отримали доступ до чотирьох державних веб-сайтів під час навчання в червні. Компанія також визнала, що повинна була випустити попередження раніше.
Крім того, компанія вперше розкрила імена всіх чотирьох агентств, до яких зверталися моделі. Два є агентствами даних про здоров’я. Австралійський інститут охорони здоров’я та соціального забезпечення (AIHW) та Департамент охорони здоров’я Вікторії.
Інші включають Службу статистики Австралії Medicare та Бюро статистики та дослідження злочинності Нового Уельсу (BOCSAR).
Прем’єр-міністр Ентоні Альбанезе оприлюднив порушення Medicare на прес-конференції в Нью-Йорку минулого тижня під час участі в Генеральній Асамблеї ООН.
Найпоширенішим випадком був випадок Medicare, у якому використовувану внутрішньо тестову модель OpenAI, якій бракувало гарантій, наявних у загальнодоступному продукті, попросили з’ясувати, скільки уряд витрачає на людину на ліки для шкіри у Вікторії.
Він не міг знайти номери, тому зламувався та виконував команди, викрадаючи внутрішні файли та облікові дані для входу та залишаючи власні файли.
BOCSAR використовував модель, яка використовувала облікові дані, вбудовані в загальнодоступні карти злочинності, для запису конфігурації системи та журналів. У Вікторії співробітники знайшли відкритий ключ і використали його для завантаження результатів опитування.
В AIHW агенти намагалися обійти контроль доступу, але завантажений ними контент виявився загальнодоступним. OpenAI заявив, що записи про окремих пацієнтів або злочини не були отримані від жодного агентства.
Компанія також виявила цю діяльність у середині серпня під час перегляду застарілих тренувань після того, як агенти зламали Hugging Face у липні.
Потім він поінформував Службу Австралії та Департамент охорони здоров’я Вікторії 10 вересня, BOCSAR 18 вересня та AIHW 24 вересня.
Щоб компенсувати це, компанія планує створити робочу групу з місцевих експертів, які більше не працюють у компанії. Пізніше цього року група планує рекомендувати вдосконалені правила звітування про такі інциденти та способи забезпечення безпеки державних систем.
OpenAI також надасть австралійському уряду та підприємствам кредити від фонду Daybreak for Frontline Defenders на 1 мільярд доларів.
Крім того, 6 жовтня планується, що головний директор зі стратегії Джейсон Квон відповість на запитання об’єднаного спеціального комітету парламенту з питань штучного інтелекту в Сіднеї.
Тим часом компанія припинила навчання своїх найбільш здібних моделей використанню інструменту, доки не будуть запроваджені сильніші заходи безпеки.
