Засновник і генеральний директор Meta Марк Цукерберг доклав чимало зусиль, щоб рекламувати безпеку свого нового помічника зі штучним інтелектом Muse, стверджуючи, що він «з нуля створений для конфіденційності та безпеки». Уразливості нульового дня, які надають агенту повний контроль над програмами, що виконуються локально, або командами терміналів, викликають серйозні запитання. Крім того, Amazon почав блокувати Muse […]
Засновник і генеральний директор Meta Марк Цукерберг доклав чимало зусиль, щоб рекламувати безпеку свого нового помічника зі штучним інтелектом Muse, стверджуючи, що він «з нуля створений для конфіденційності та безпеки». Уразливості нульового дня, які надають агенту повний контроль над програмами, що виконуються локально, або командами терміналів, викликають серйозні запитання. Крім того, Amazon почав блокувати Muse на своєму сайті в неділю.
Мета представила Muse кілька тижнів тому. Помічник може «робити бронювання, заповнювати форми та обслуговувати клієнтів», «завчасно виконувати повсякденні завдання» та «здійснювати покупки, створювати зображення, створювати документи та підключатися до ваших улюблених програм і служб». Додаток для macOS (як не дивно, версії для Windows немає) також працює з обліковими записами користувачів WhatsApp, електронною поштою, календарем і соціальними мережами. Якщо для завдання потрібен інструмент, якого не існує, Muse створює його на льоту.
Мета перевищує безпеку Muse
Звичайно, щоб Muse могла виконувати ці дії, ви повинні спочатку надати Muse доступ до свого облікового запису. Це включає автентифікацію вашого помічника для кожної служби. Крім того, оскільки програма працює на macOS, вона надає дозволи на широкий спектр ресурсів пристрою, обмежених операційною системою, наприклад запис файлів на диск, доступ до мікрофона та камери, а також моніторинг вашого місцезнаходження та календаря. Apple витратила роки на розробку цих засобів захисту, щоб запобігти доступу до цих ресурсів встановленим програмам і командам, введеним на вашому пристрої. Очевидно, це тому, що Apple вважає їх загрозою безпеці. Muse повністю скасовує ці дії за замовчуванням.
Нульовий день дозволяє будь-якій програмі або команді пристрою отримувати доступ до маркера, який автентифікує користувачів у вашому обліковому записі Muse. Розробники Meta розробили помічника, щоб дозволити локально встановленим програмам і виконаному коду змінювати довгий список недокументованих налаштувань, незалежно від дозволів macOS. Більшість із них є досить нешкідливими, як-от керування темним режимом. Однак деякі параметри менш ніж безпечні. Це дозволяє процесу змінити кінцеву точку, де відбувається транскрипція. Зазвичай це адреса сервера, керована Meta. Зловмисник може скористатися цією вадою, змінивши місце розташування на власну кінцеву точку. Щойно це станеться, зловмисник отримає маркер, який надасть йому повний контроль над вашим обліковим записом Muse.
