Ось цікавий урок історії. не хвилюйся Найближчим часом це буде вирішено. Приблизно 51 000 людей загинули на автомагістралях США в 1966 році. Переконливі докази свідчать про те, що сучасні ремені безпеки, які на той час були доступні протягом кількох років, могли врятувати багато життів. Автомобільна промисловість згуртувалася у відповідь і, здобувши перемогу над саморегулюванням, добровільно встановила засоби безпеки в кожен новий автомобіль.

просто жартую! Звичайно, вони цього не зробили. Восени 1966 року Конгрес заснував Департамент транспорту, а згодом прийняв Закон про безпеку дорожнього руху та Закон про безпеку автомобільних транспортних засобів, надавши федеральному уряду нові повноваження щодо встановлення стандартів безпеки. До 1968 року ремені безпеки стали обов’язковими для всіх нових автомобілів. Незважаючи на те, що за останні 60 років інтенсивність руху на автошляхах значно зросла, сьогодні на наших дорогах набагато менше аварій зі смертельними наслідками.

Я думав про це у вівторок, спостерігаючи, як різні генеральні директори зі штучного інтелекту збираються навколо президента США Дональда Трампа, вітаючи себе та один одного з підписанням Угоди про безпеку штучного інтелекту. Моя колега Медді Варнер написала тут про конкретні положення, але коротка відповідь полягає в тому, що лабораторії штучного інтелекту значною мірою відповідають за те, чи вони стримуються.

Або, як ще більш стисло висловився президент Трамп в Овальному кабінеті в середу: «Вони збираються в поліцію, вони збираються в поліцію один одного, і вони збираються в поліцію самі, і вони збираються в поліцію самі. Це буде працювати дуже добре».

Це поточний стан регулювання безпеки ШІ. З одного боку, керівники ШІ, співробітники та технічні світила стверджують, що для уникнення потенційної катастрофи необхідно встановити чіткі, продумані тактичні правила. (Білл Гейтс, наприклад, грає Кассандру в апокаліпсисі зі штучним інтелектом і отримує багато висвітлення в ЗМІ.) З іншого боку, є чарівна ідея Трампа, що якщо ви говорите щось достатньо разів, це має бути правдою.

Це не означає, що все це просто або легко. Питання про те, як «пройти кордон», як люблять говорити деякі з тих самих керівників, залишається відкритим. Навіть якби всі основні лабораторії штучного інтелекту погодилися сповільнити темпи, не було б хорошого способу виконати цю обіцянку, і Китай, ймовірно, продовжив би власний шлях, незважаючи на це. Економіка США все більше живиться за рахунок індустрії штучного інтелекту, яка сама стимулює кредитні операції та циклічні інвестиції. Будь-які серйозні репресії ризикують дестабілізувати ситуацію далеко за межами Кремнієвої долини.

Автомобільна промисловість, судячи з усього, явно недосконала аналогія. Немає ременів безпеки, еквівалентних штучному інтелекту, і немає простих рішень, які могли б чітко зменшити ризик за ніч. (Більшості штатів також знадобилися десятиліття, щоб прийняти закони, які вимагають від людей дійсно їх носити.) Потенційна шкода менш певна, і її важче підрахувати. Пророки ШІ кажуть, що ця технологія може знищити людство протягом десятиліття. Скептики кажуть, що це поганий приклад науково-фантастичного маркетингу.