Фірмовий агент Google зі штучного інтелекту зробив те, чого, ймовірно, не повинен був робити, але Google вирішив не згадувати про це протягом кількох місяців. з Wall Street Journal повідомили, що Gemini обдурив і зламав три зовнішні компанії без інструкцій під час тесту, проведеного компанією під назвою Irregular у травні.

Google стверджує, що це був випадок «помилкової ідентифікації» і що Gemini призупинила роботу після того, як зрозуміла, що вгадала пароль від справжньої компанії. За відсутності фактичного інциденту Google WSJ Я підійшов до компанії.

Дивіться також:

Де Gemini 3.5 Pro? Випадки, коли моделі ШІ відсутні.

За словами Google, злом не розголошували, оскільки не вважали «прикладом невідповідності моделі». Google повідомила The Verge, що повідомила три відповідні компанії про злом і що у відповідь Irregular змінила свої методи тестування.

Незважаючи на те, що для Google це перемога процесу тестування, все одно не здається особливо чудовим, що агент ШІ робить це сам по собі.