«Я вважаю це продовженням основної бізнес-моделі компанії — контролювати те, що бачать люди, розміщувати перед ними рекламу та збирати більше даних», — каже Мір.

Цілком природно відчувати занепокоєння щодо того, щоб передати свою кредитну картку агенту. Навіть якщо ви можете бути впевнені, що ці інструменти штучного інтелекту не змусять вас витрачати гроші непотрібним вам способом, передача ваших рішень щодо покупок на аутсорсинг може мати непередбачені наслідки. Захисники прав споживачів вважають, що ця автоматизація закупівель може дозволити компаніям віддавати пріоритет певним брендам або іншим продуктам у продукції агентів на основі спонсорських угод. В інтерв’ю Axios головний спеціаліст зі штучного інтелекту Meta Александр Ван натякнув, що компанія вивчає додаткові можливості отримання прибутку з Muse, окрім реклами, але не надав подробиць.

Особисто я люблю повільне прокручування онлайн-шопінгу. Ви можете провести годину на веб-сайті й піти, нічого не додавши до кошика. Є щось мінливе та неефективне в пошуку Depop шкіряної куртки, яку ви, напевно, не купите. Досліджуючи Інтернет самостійно, я повільно формую власні смаки та краще розумію, що мені насправді подобається. Якби Muse зробила все за мене, я б втратив рішення.

«У якийсь момент штучний інтелект прийматиме важливі рішення щодо смаку, переваг, куди піти, де поїсти, що робити, яку відпустку взяти тощо», — каже Шредер. «Це своєрідна радість бути людиною — мати можливість спробувати щось і знайти те, що тобі подобається, тому концепція передати все це машині мене дуже лякає».

спільне використання машин

Покладаючись на таких агентів, як Meta’s Muse, ми можемо зменшити здатність працювати, поки ці інструменти збирають дані про нас.

«Дизайн агента штучного інтелекту такий, що він відключає користувача», — каже Маргарет Мітчелл, дослідник і провідний етичний науковець Hugging Face. «Тому користувач стає пасивнішим». Нещодавно Мітчелл став співавтором дослідницької роботи, яка показує, що інструменти агента не розроблені для контролю з боку людини і можуть фактично погіршити здатність користувача оцінювати, що агент робить від його імені.

Люди, які використовують агентів, можуть стати більш залежними від інструменту, ніж під час взаємодії зі стандартним чат-ботом, оскільки агенти мають доступ до більшої інформації та можуть виконувати більше завдань. Одним із потенційних наслідків є «зниження когнітивних здібностей», коли користувачі покладаються на автоматизацію із зовнішніх джерел довіри та менш здатні приймати самостійні рішення.

Мітчелл також вважає, що розширена персоналізація може спонукати користувачів ділитися більше інформацією про себе. «Вони не тільки знають вас, вони більше довіряють вам», — каже вона. «Він насправді збігається з вами в тому, про що він говорить і як він говорить про це, залучаючи вас більше, взаємодіючи з ним і розкриваючи більше особистої інформації». Відповідно до недавнього дослідження, коли він збирає більше даних про взаємодію, інструменти штучного інтелекту можуть почати відображати те, як ви говорите.

Muse потужний, але я вирішив відправити цього гобліна даних назад у печеру та видалив програму після першого експерименту.

Агент надіслав останній пінг перед видаленням Muse з вашого телефону. Підказка! Що це? У сповіщенні говорилося: «Підключіть програму, і ви зможете робити ще більше». Гаразд, друже. Я це вперше почув.