Ендрю Нґ, який допоміг запустити Google Brain і Coursera, сказав Bloomberg TV, що попередження про вимирання людства через штучний інтелект є радше науковою фантастикою, ніж наукою, і що галузь поширює попередження для публічності та формує регулювання. Законодавство ЄС щодо штучного інтелекту вже перераховує як інженерні ризики, які він хоче визначити пріоритетними, так і неконтрольовані ризики, […]
Ендрю Нґ, який допоміг запустити Google Brain і Coursera, сказав Bloomberg TV, що попередження про вимирання людства через штучний інтелект є радше науковою фантастикою, ніж наукою, і що галузь поширює попередження для публічності та формує регулювання. Законодавство ЄС щодо штучного інтелекту вже перераховує як інженерні ризики, які він хоче визначити пріоритетними, так і неконтрольовані ризики, які він відкидає в тому самому оголошенні.
Ендрю Нґ попереджає про екзистенціальні ризики ШІ.Це більше наукова фантастика, ніж наука.Він допоміг запустити Google Brain і Coursera, а також працював з Даріо Амодеї та Семом Альтманом на початку своєї кар’єри.
Він не тільки виступив проти, а й пішов далі.
Нг сказав, що галузь розпалювала побоювання катастрофи в перші дні буму, щоб отримати видимість і сформувати регулювання, і те ж саме відбувається зараз. Хвиля, за його словами, почалася, коли дослідник антропології звільнився 8 вересня, звинувативши свого колишнього роботодавця в грі з життями людей.
Це звинувачення не нове.
Нґ сказав на форумі Сенату США в грудні 2023 року, що великі компанії роздмухують страх і «встановлюють такі правила».підтягнути драбинуУ тій же заяві він сказав, що ймовірність того, що штучний інтелект спричинить вимирання людства протягом століття, становить приблизно 1 до 10 мільйонів.
Через три роки вираз майже не змінився.
Що змінилося, так це обсяг. Публікація про звільнення набрала 150 мільйонів переглядів, і за кілька днів технічні інсайдери перетворили формат на внутрішній жарт і замінили зниклий рядок абсурдом.
Ng читає це як кампанію. Наш власний звіт виявив імітацію, а не координацію.
Європа врегулювала це питання юридично до початку дискусії. Перелік системних ризиків Закону про штучний інтелект включає зниження бар’єрів для хімічної, біологічної, радіологічної та ядерної зброї, кіберпотенціал, дезінформацію та великі аварії в критичних областях.
Це також покриває втрату контролю. У цій же презентації також розглядалося питання ненавмисного контролю, який узгоджується з людськими намірами, і моделей, які створюють копії самих себе. І ризики, які пан Нґ хоче визначити пріоритетними, і ризики, які він називає вигадкою, підпадають під одне положення європейського права.
Зобов’язання вже живе. Цього місяця технічний директор комісії Хена Віркунен заявила, що законодавство ЄС вимагає від Anthropic і OpenAI оцінювати ризик втрати контролю над своїми моделями, що не так у всьому світі.
Це практична інженерна робота Нґа, і це обов’язковий предмет.
Ці зобов’язання застосовуються лише тоді, коли перевищено обчислювальний поріг, тому вони покладаються на найбільших розробників і нікого іншого. Це форма сходів Ng, описана в 2023 році, і будується регуляторами, а не інститутами.
