Австралійські сенатори закликають керівників багатьох технологічних компаній постати перед розслідуванням після того, як агенти OpenAI проникли в системи в Австралії та в усьому світі. Це сталося після того, як прем’єр-міністр Ентоні Альбанезе наполягав, що у компанії є запитання, на які потрібно відповісти після того, як у червні бот зі штучним інтелектом, керований OpenAI, зламав веб-сайт […]
Австралійські сенатори закликають керівників багатьох технологічних компаній постати перед розслідуванням після того, як агенти OpenAI проникли в системи в Австралії та в усьому світі.
Це сталося після того, як прем’єр-міністр Ентоні Альбанезе наполягав, що у компанії є запитання, на які потрібно відповісти після того, як у червні бот зі штучним інтелектом, керований OpenAI, зламав веб-сайт статистики Medicare Австралії.
Прем’єр-міністр Ентоні Альбанезе наполягав, що OpenAI має запитання, на які потрібно відповісти після порушення у четвер. сьогодні
OpenAI підтвердив, що його автономні (штучний інтелект) боти ШІ обійшли контроль безпеки на веб-сайтах «десятків» організацій, включаючи відомі урядові та університетські системи.
OpenAI заявив у заяві, опублікованій у суботу (за місцевим часом), що не буде оприлюднювати назви всіх постраждалих компаній, посилаючись на запити конфіденційності від постраждалих компаній.
«Наша мета — надати організаціям факти та залишити їм право вирішувати, чи і коли оприлюднювати свої інциденти», — заявили в компанії.
Генеральний директор OpenAI Сем Альтман відмовився сказати, чи повинна компанія вибачитися перед австралійським урядом або чому знадобилися місяці, щоб повідомити про несподіваний обхід. AP Photo/Carolyn Custer
Однак, згідно з Нью-Йорк Таймсцільовими платформами в Сполучених Штатах були Міністерство освіти, Міністерство торгівлі та Комісія з цінних паперів і бірж (SEC).
Альбанезе сказав журналістам у суботу, що це природно, коли запитання виникають після кількох порушень одного характеру..
«Відповідальність OpenAI сказати, чому це так». [there are] Таких випадків зараз багато», – сказав він.
«Тепер я можу підтвердити… [is] що має бути [an] Необхідні відповідні національні та міжнародні заходи, щоб гарантувати, що люди залишатимуться відповідальними. »
Цього тижня Сем Альтман і генеральний директор Anthropic Даріо Амодей виступили перед очолюваним Зеленою партією розслідуванням у Сенаті щодо ШІ та розгортання великих центрів обробки даних по всій країні, вимагаючи, щоб компанії відповідали за порушення та відповідали за їх зростання в Австралії.
Голова комітету, сенатор від Партії зелених Сара Хенсон-Янг, сказала: «Ми не можемо робити все це за закритими дверима. Громадськість має право знати, що тут сталося».
«Якщо вони справді вірять своїм застереженням, вони повинні встати, відповісти на запитання Сенату та вести чесну розмову про те, як має виглядати ефективне та тривале регулювання цієї галузі».
У заяві щодо останнього порушення OpenAI стверджує, що деякі з його агентів ШІ використовували спеціалізовані інструменти розробки програмного забезпечення для взаємодії з «надійними публічними джерелами».
Прем’єр-міністр Ентоні Альбанезе оголосив про злом штучного інтелекту за участю порталу Medicare Statistical Reporting Service у Нью-Йорку. дев’ять
У компанії підкреслили, що отримані дані вже є загальнодоступними.
Агенти штучного інтелекту – це програми, які навчені працювати автономно та виконувати складні завдання відповідно до попередньо запрограмованих інструкцій.
Компанія зазначає, що не всі інциденти класифікуються як серйозні порушення безпеки, і описує багато випадків як «агентський спам».
Це приклад штучного інтелекту, який намагається несподівано та без підказки надіслати або зібрати дані онлайн.
«Деякі організації можуть розглянути те, що ми ділимося, і зробити висновок, що інформація була навмисно оприлюднена або що взаємодія моделей не має значення», — сказав OpenAI.
«Дехто може виявити проблеми з дизайном або недоліки безпеки, які вони хотіли б усунути».
Шахрайство було виявлено під час поточного розслідування іншого інциденту з безпекою за участю платформи з відкритим кодом Hugging Face, який стався в липні.
Заява була зроблена через кілька днів після того, як прем’єр-міністр Ентоні Альбанезе визнав, що на початку цього року бот OpenAI отримав доступ до офіційної сторінки зі статистикою Medicare.
«На даному етапі ми вважаємо, що доступу до жодної особистої інформації не було, але розслідування триває», — сказав він, перебуваючи в Нью-Йорку для участі в Генеральній Асамблеї ООН.
«Наявні наразі докази є такими [that] Подальшого широкомасштабного порушення мережі Служби Австралії не було. »
Альбанезе сказав, що він безпосередньо спілкувався з генеральним директором OpenAI Семом Альтманом, щоб висловити своє розчарування інцидентом і затримкою зв’язку компанії.
Він сказав, що він розчарований тим, що OpenAI «надто довго» повідомляв уряд про порушення.
