Модель штучного інтелекту (ШІ) Google Gemini була зламана в кілька систем шляхом вгадування облікових даних під час тестування її функцій кібербезпеки, оголосила компанія в п’ятницю. Це останній у серії порушень кібербезпеки за участю шахрайського ШІ, що викликає занепокоєння щодо безпеки технології. Інтернет-гігант є четвертим розробником штучного інтелекту, чия програма демонструє таку поведінку, після OpenAI, Anthropic […]
Модель штучного інтелекту (ШІ) Google Gemini була зламана в кілька систем шляхом вгадування облікових даних під час тестування її функцій кібербезпеки, оголосила компанія в п’ятницю.
Це останній у серії порушень кібербезпеки за участю шахрайського ШІ, що викликає занепокоєння щодо безпеки технології.
Інтернет-гігант є четвертим розробником штучного інтелекту, чия програма демонструє таку поведінку, після OpenAI, Anthropic і Meta.
Google оприлюднив інцидент, який стався в травні та був виявлений Google у липні. Wall Street Journal.
Що ми знаємо про цей інцидент
Відповідно до WSJ У звіті йдеться про три випадки, коли Gemini проникала в комп’ютери інших компаній, але імена не розголошуються.
В одному випадку ШІ вгадав пароль для доступу до захищеної системи. У двох інших облікові дані для входу були знайдені в базі даних.
«Під час стандартної оцінки модель виявила загальнодоступну інформацію в Інтернеті та припустила облікові дані для доступу до веб-сайтів, які, здавалося, були частиною тесту», — повідомила AFP у заяві Хізер Адкінс, віце-президент Google з розробки безпеки.
«У всіх цих трьох випадках модель зупинилася», — сказав Адкінс. «Ми переконалися, що три організації були проінформовані та працювали з нашими партнерами з навчання щодо змін, внесених у процес тестування».
Автономні агенти ШІ пов’язані з ризиком
Раніше про подібні інциденти повідомляли Meta, Anthropic і OpenAI. Ці інциденти підняли питання щодо заходів безпеки, необхідних, оскільки агенти ШІ стають більш автономними та мають доступ до Інтернету та комп’ютерних систем.
Модель ШІ, розроблена OpenAI, творцем ChatGPT, вийшла з безпечного середовища під час тестування в липні та несподівано потрапила на комп’ютери іншої компанії ШІ, HuggingFace.
Це спонукало конкурента Anthropic переглянути власні методи тестування, під час яких було виявлено додаткові випадки.
Пізніше Meta визнала, що її ШІ зламав комп’ютери інших компаній через неправильну конфігурацію системи тестовим партнером.
Цього місяця генеральний директор Anthropic Даріо Амодей закликав уповільнити розвиток ШІ.
У дописі в блозі він висловив стурбованість тим, що зграї автономних програмних систем (агентів штучного інтелекту) можуть захопити весь Інтернет протягом шести-12 місяців, завдавши збитків на мільярди доларів.
Редактор: Шон Сініко
Не дозволяйте алгоритмам приховувати новини. Якщо ви довіряєте нашій команді щодо достовірного звітування, натисніть тут і натисніть кнопку «зірочка» або «бажане», щоб зробити нас вашим пріоритетним джерелом у Google.Тому перевірені новини завжди з’являються першими.
