OpenAI оголосила, що призупинила навчання своїх останніх моделей штучного інтелекту після повідомлень про те, що його агенти ШІ поводяться неправильно.

Рішення припинити розробку було прийнято через кілька годин після того, як компанія оголосила в п’ятницю, що з літа вона розслідує кілька інцидентів, коли агенти OpenAI, які шукали на веб-сайтах федерального уряду, несподівано діяли поза межами вимог під час збору та розповсюдження інформації.

Окремо компанія Transluce з оцінки штучного інтелекту заявила, що агент, який, ймовірно, належить до OpenAI, намагався зламати веб-сайт Міністерства освіти США, але OpenAI не підтвердила подробиці.

У заяві OpenAI сказано, що він відновить навчання, «тільки коли ми будемо впевнені, що існують додаткові гарантії», додавши, що очікується, що йому доведеться знову «призупинити» у міру розвитку ШІ та виникнення інших проблем.

На Інститут штучного інтелекту тиснуть законодавці та технологічні експерти, щоб сповільнити розвиток, щоб побудувати огорожі, щоб запобігти агентам діяти самостійно та зламувати веб-сайти чи публікувати особисту інформацію. Топ-менеджери як OpenAI, так і конкурента Anthropic також закликали до уповільнення.

Це вже другий випадок за останні три місяці, коли OpenAI зупиняє розробку моделі. Перший інцидент стався в липні після розкриття кібератаки на стартап зі штучним інтелектом Hugging Face. Зараз цей інцидент став сумно відомим і викликав побоювання, що галузь втрачає контроль.

Цього тижня президент Дональд Трамп зустрівся з президентом Китаю Сі Цзіньпіном і домовився поділитися інформацією про небезпеку штучного інтелекту та координувати зусилля для його безпеки. Але президент Трамп вважає, що занепокоєння щодо штучного інтелекту перебільшені, і пізніше припустив, що він не планував власних репресій.

Президент Трамп заявив журналістам біля Білого дому, що Сполучені Штати не мають наміру «спускати на гальмах». «Вони хочуть зупинити наш прогрес, тому що ми маємо таке велике перевагу над Китаєм. Ми маємо намір зберегти його».

Незважаючи на те, що останній інцидент з OpenAI не пов’язаний з розголошенням закритої інформації, він був досить тривожним, щоб компанія сповістила відповідні федеральні агентства.

У справі Департаменту освіти агент OpenAI виявив «ключ розробника» API для доступу до державних даних, але зрештою була зібрана лише загальнодоступна інформація.

В іншому випадку, пов’язаному з Комісією з цінних паперів і бірж, співробітники вийшли за рамки своїх інструкцій, знайшовши вільно доступну інформацію та опублікувавши її деінде в Інтернеті.

Речник Комісії з цінних паперів і бірж Курт Хоффеншпілгер заявив у суботу, що «не було доступу до непублічної інформації».

Міністерство освіти раніше заявило, що не виявило «жодних доказів будь-якого впливу на наші веб-сайти чи бази даних».

Кілька інших компаній зі штучного інтелекту оприлюднили випадки шахрайства їхніх моделей або злому веб-сайтів.

Генеральний директор OpenAI Сем Альтман заявив у п’ятницю в соціальних мережах, що інцидент із Hugging Face «залишається найсерйознішим інцидентом, який ми коли-небудь бачили».

OpenAI раніше поділився шістьма іншими звітами про «несподівану або тривожну» поведінку в моделях штучного інтелекту та представив структуру для відстеження, дослідження та розкриття випадків.