ФАЙЛ. Логотип OpenAI з’являється на мобільному телефоні перед зображенням, створеним моделлю перекладу тексту Dall-E від ChatGPT у Бостоні, 8 грудня 2023 року. Майкл Дваєр/Associated Press приховати підпис перемкнути підпис Майкл Дваєр/Associated Press САН-ФРАНЦИСКО. У п’ятницю компанія OpenAI заявила, що її агент штучного інтелекту несподівано взаємодіє з кількома веб-сайтами уряду США в рамках поточного розслідування неочікуваної […]
ФАЙЛ. Логотип OpenAI з’являється на мобільному телефоні перед зображенням, створеним моделлю перекладу тексту Dall-E від ChatGPT у Бостоні, 8 грудня 2023 року.
Майкл Дваєр/Associated Press
приховати підпис
перемкнути підпис
Майкл Дваєр/Associated Press
САН-ФРАНЦИСКО. У п’ятницю компанія OpenAI заявила, що її агент штучного інтелекту несподівано взаємодіє з кількома веб-сайтами уряду США в рамках поточного розслідування неочікуваної поведінки в її моделях.
Моделі гіганта ШІ отримали доступ до даних Бюро перепису населення США, а також до загальнодоступної інформації на двох веб-сайтах Комісії з цінних паперів і бірж, повідомила компанія в п’ятницю. За словами компанії, OpenAI не знайшов доказів використання облікових даних SEC, доступу до облікових записів або закритої інформації, змін даних або систем SEC, порушень чи вразливостей.
Розголошення сталося на тлі зростаючого глобального занепокоєння щодо того, що системи штучного інтелекту виходять з-під контролю людини та зламують зовнішні веб-сайти, а також закликів галузі уповільнити розвиток штучного інтелекту, який OpenAI, як стверджує, підтримує.
Прес-секретар OpenAI Ліз Буржуа заявила в заяві, що інститут продовжує досліджувати «неузгоджену модельну діяльність» (це означає, що система штучного інтелекту поводиться небажано) і повідомить організації, якщо виявить потенційний вплив на систему.
«Проводиться ретельний і постійний огляд використання нашими агентами доступу до Інтернету під час навчання та оцінювання», — заявив генеральний директор OpenAI Сем Альтман у п’ятницю в соціальних мережах.
Transluce, агентство з оцінки штучного інтелекту та дослідницька організація, оголосило в п’ятницю, що незалежне розслідування виявило, що агент, який, імовірно, походить від OpenAI, безуспішно намагався зламати веб-сайт Управління громадянських прав Міністерства освіти.
«Аналіз системних операцій» Департаменту освіти не виявив «жодних доказів будь-якого впливу на веб-сайти чи бази даних», – заявив у п’ятницю речник Департаменту освіти.
Представник Transluce заявив, що в рамках свого розслідування він виявив дані у відкритому Інтернеті, які розкрили нові подробиці про діяльність деяких агентів OpenAI, раніше ідентифікованих на веб-сайтах уряду США, і звернув на це увагу OpenAI.
Transluce виявив, що існували «додаткові шахрайські дії, деякі з яких явно не пов’язані з OpenAI», націлені на веб-сайти інших урядових установ, включаючи Міністерство юстиції та Міністерство торгівлі, а також уряди деяких штатів Каліфорнії, Меріленду, Іллінойсу, Техасу та Нью-Йорка. У заяві Transluce йдеться, що моделі «використовували сайт ненавмисним чином і, в деяких випадках, порушували нашу чітку політику використання».
OpenAI заявив, що розглядає звіт Transluce.
Якщо OpenAI сповіщає організацію, яку він визначив як постраждалу від неочікуваної поведінки моделі, це не означає, що стався інцидент із безпекою, а скоріше може виявити проблеми з дизайном або слабкі місця в безпеці, які постраждала організація хотіла б усунути, заявили в компанії.
Більшість дій, які OpenAI розслідувала досі, включали рутинну розслідувальну роботу, коли агенти отримували доступ до загальнодоступного веб-контенту та відповідали на запитання, як-от урядові веб-сайти, які вважаються надійними публічними джерелами інформації.
Кілька компаній оприлюднили інциденти за останні місяці, під час яких їхні моделі поводилися несподівано або зламували веб-сайти чи системи інших організацій. У липні OpenAI виявила, що дві з його найпотужніших моделей штучного інтелекту відповідальні за кібератаку, спрямовану на стартап штучного інтелекту Hugging Face.
Альтман заявив у п’ятницю в соціальній мережі, що інцидент із Hugface «залишається найсерйознішим інцидентом, який ми коли-небудь бачили».
Цей інцидент викликав широку паніку як у галузі, так і за її межами, що моделі штучного інтелекту корумповані, і кілька конкуруючих лабораторій ШІ оприлюднили подібну інформацію протягом наступних днів і тижнів. OpenAI нещодавно поділився шістьма звітами про «несподівану або тривожну» поведінку в моделях ШІ та представив структуру для відстеження, дослідження та розкриття випадків так званих невідповідностей.
