Агент OpenAI зламав австралійську Medicare, це перше у світі несанкціоноване порушення ШІ урядової установи

Чому це порушення таке жахливе?

тіффані тернбулл
BBC News, Сідней

Отже, чому це велика проблема, навіть якщо інформація, до якої ви отримали доступ, не є конфіденційною?

По-перше, вважається, що це перший випадок, принаймні, наскільки відомо громадськості, коли агент ШІ отримав доступ до державних даних, що викликає жах, враховуючи конфіденційну та конфіденційну інформацію, якою зазвичай володіють країни.

Ситуацію ускладнює той факт, що уряди повинні мати кращі засоби захисту, оскільки вони зберігають такі конфіденційні дані, і в цьому випадку вони, схоже, не змогли перешкодити або навіть виявити агентів ШІ.

А ще є відповідь OpenAI, на яку Австралія ледве стримує свій гнів.

Компанії знадобилися місяці, щоб ідентифікувати інцидент, і замість того, щоб використовувати урядові канали, щоб повідомити про те, що Австралія вважає надзвичайно серйозним інцидентом, вона надіслала електронний лист на загальнодоступні скриньки державних установ.

Якщо агент штучного інтелекту може легко зламати вашу систему та отримати доступ до цих даних без відома вашої няні, що може чекати наша технологія, що постійно розвивається?