«На мою думку, ймовірність вимирання людства — це підкидання монети», — сказав у новому інтерв’ю Джеффрі Ірвінг, колишній співробітник OpenAI і Google DeepMind. Це одне з понад дюжини інтерв’ю з дослідниками штучного інтелекту, включаючи нинішніх і колишніх співробітників OpenAI, Google і Anthropic. Palisade Research, некомерційна організація, яка вивчає можливості та мотивацію ШІ, зібрала інтерв’ю та опублікувала їх на frominside.ai.

Декілька дослідників приєдналися до Ірвінга, попереджаючи про можливість того, що ШІ може призвести людство до вимирання. Ніл Нанда, науковий співробітник Google DeepMind, сказав: «Ймовірність вимирання людства становить щонайменше 10%, і це неймовірно високо». Ми звернули увагу на коментарі Нанди та Ірвінга в нещодавньому звіті про спільноту «Безпека ШІ». Ми також помітили, наскільки важко пояснити, що означає цей термін або хто має робити з ним, і що навіть ці відео не мають єдиного послідовного рішення.

Колишній дослідник OpenAI Даніель Кокотаділло зайшов так далеко, що стверджував, що надрозумний штучний інтелект «загалом буде потужним, як бог», додавши: «На жаль, ми не маємо уявлення, як ним керувати. І, ймовірно, ніхто ним не керуватиме. Це настільки небезпечно, як це звучить, і ніколи не можна допускати».

Хоча кожне відео є повністю загальнодоступним, сайт також збирає частини розмов кількох людей на подібні теми, наприклад, чи це просто реклама чи маркетинг, і чому люди беруться за те, що, на їхню думку, є таким небезпечним. Відповіді включали пояснення Мері Хюонг із Google: «Мені платить лабораторія, тому я думаю, що ви повинні поставити під сумнів те, що я говорю», і пояснення Нанди: «Якщо я не вірю, що моя робота безпосередньо зменшує ці екзистенційні ризики, я збираюся звільнитися… Ці компанії не припинять створювати системи, тому що я звільнився».