Лія Фігер: зрозуміло. Розбивка речей на ці три категорії дуже корисна для мене.

Зої Шиффер: Я люблю відра.

Лія Фігер: Я люблю відра. Я хотів би подивитися на них по черзі. Я думаю, моє перше запитання: де відбувається ядерна криптографія і в яке відро вона потрапляє?

Браян Баррет: Це не те, про що варто хвилюватися, чи не так?

Зої Шиффер: Так.

Лія Фігер: Будь ласка, розкажіть мені більше.

Зої Шиффер: Якщо ви поговорите з дослідниками штучного інтелекту і серйозно підійдете до цього, ви отримаєте три відра, про які я згадував раніше. Але якщо ви продовжите з ними розмовляти, вони скажуть: «Існують інші сценарії, коли штучний інтелект вставляється в роботів, і роботи ходять, і ці роботи взаємодіють із фізичним світом дуже, дуже страшними способами». Але це трохи далі, і вони визнають, що це трохи сюрреалістичніше.

Браян Баррет: Отже, Зоя, щодо вашого відра, я, мабуть, хотів би вирізати допоміжне відро або менше відро всередині відра.

Зої Шиффер: Ого, це ж відро.

Браян Баррет: Ні, ви сказали, що штучний інтелект створює біологічну зброю, штучний інтелект зламує речі, штучний інтелект що завгодно, тож усе це правда. Але я думаю, що є різниця між тим, що там відбувається, коли люди ведуть шлях, і штучним інтелектом, який робить це самостійно. Я думаю, що багато людей думають: «Як штучний інтелект може випустити біологічну зброю? Це божевілля». Це добре, звичайно. Але в світі також є погані люди, які використовують штучний інтелект для створення біологічної зброї та її випуску, чи не так?

Зої Шиффер: О, я маю на увазі, я думаю, що цей сценарій цілком справедливий. Як на мене, якщо ви скажете, що збираєтеся надати людям доступ до інформації про те, як виготовляти біологічну зброю, хтось буде досить дурним і необачним, щоб зробити це. Я ніби, я цілком згоден. Люди постійно роблять усілякі жахливі, небезпечні, шкідливі речі.

Лія Фігер: Натхненний Інтернетом.

Зої Шиффер: правильно. Я думаю, що це дійсно, дуже небезпечно. Ми знову поговоримо про сценарій, коли AI працює повністю сам по собі, але це здається мені трохи надуманим.

Браян Баррет: Можливо, мене за це покарають, але я хотів би повернутися до фільму 1983 року. військові ігри.

Лія Фігер: Ні, я думаю, що це саме те, про що ми повинні говорити. Це моє…так. військові ігри Це… так.

Браян Баррет: Важливо зазначити, що ШІ не натискає жодних кнопок і не обертає жодних клавіш. військові ігриВ основному йдеться про штучний інтелект, у якому комп’ютер збирається розпочати ядерну війну, але радше він змушує Америку подумати, що на неї атакує радянська ядерна зброя. Отже, чи є ризик, я не фахівець у цьому, але я думаю, що ми сподіваємось, що тут є достатньо запобіжних заходів, щоб справді запобігти подібному, і що ми маємо достатньо супутникових технологій, щоб бачити різні речі. все гаразд Але я думаю, що, можливо, вектор занепокоєння полягає в тому, що штучний інтелект запускає якесь попередження, яке запускає низку катастрофічних подій.