Ілон Маск розповідає про безпеку штучного інтелекту, борючись із правилами під час бурхливого тижня дивних альянсів

Ілон Маск провів карколомний тиждень щодо ШІ.

Маск зіткнувся з опозицією президента Дональда Трампа після того, як погодився на прохання суперників Даріо Амодея та Сема Альтмана створити базову модель лабораторії, щоб уповільнити темпи розвитку. Nvidia Генеральний директор Дженсен Хуанг сказав, що компанії, що займаються штучним інтелектом, дійсно повинні стати швидшими.

Портфель акцій пана Трампа включає акції Nvidia та SpaceX, згідно з його останньою інформацією, і він сказав, що занепокоєння з приводу того, що штучний інтелект стає шаленим, є «обманом».

Маск дотримувався більш центристського підходу під час панельної дискусії All In Summit у вівторок, у якій також брав участь його давній друг і колишній цар ШІ Білого дому Девід Сакс. Він закликає компанії перевіряти нові моделі одна на одну, щоб виявити та виправити проблеми з безпекою перед їх запуском. Цей варіант, на його думку, є кращим, ніж уряди, які займають жорстку регулятивну позицію щодо ШІ.

«Ви завжди можете збільшити кількість регуляторного нагляду, але дуже важко його зменшити», — сказав Маск у віртуальній появі на заході. “Це має тенденцію бути дуже одностороннім храповиком”.

Цього тижня The Wall Street Journal повідомила, що Маск спілкувався з Хуаном за лаштунками. Мета Генеральний директор Марк Цукерберг порадив президенту Трампу відмовитися від регуляторів, які фінансуються галуззю.

Маск не відповів на прохання прокоментувати це питання.

Обмін минулого тижня — це мікросвіт історії Маска в області штучного інтелекту, починаючи з перших чеків, які він написав для фінансування DeepMind. Google Через рік після цієї угоди Маск разом із Альтманом та іншими заснував OpenAI як некомерційну дослідницьку організацію.

Маск давно висловлював суперечливі та часто суперечливі погляди на штучний інтелект, і на цьому шляху він завів дружбу з: Google Для співзасновників Ларрі Пейджа та Альтмана ставки зараз вищі, ніж будь-коли. Поки розробники моделей впроваджують технологію, а гравці галузі б’ють на сполох щодо потенційної загрози існування ШІ, інтернет-гіганти витрачають сотні мільярдів доларів на рік на інфраструктуру для живлення ШІ.

Маска пробіл x Ми інвестуємо значні кошти в розвиток технологій. У лютому компанія об’єдналася зі стартапом Маска зі штучним інтелектом xAI і завершила придбання постачальника інструментів кодування штучного інтелекту Cursor за 60 мільярдів доларів у серпні. Між цими двома подіями SpaceX провела найбільше IPO в історії, що на короткий час зробило Маска трильйонером.

Тим часом інша компанія пана Маска, зареєстрована на біржі теслапродовжує досліджувати так званий фізичний штучний інтелект, такий як безпілотні автомобілі та людиноподібні роботи.

«Tesla, ймовірно, є найбільшою робототехнічною компанією у світі, — сказав Маск на Дні штучного інтелекту Tesla 2021, — тому що наші автомобілі — це напіврозумні роботи на колесах».

З перших днів роботи у сфері штучного інтелекту Маск будує власний бізнес у галузі штучного інтелекту та бореться з регулюванням, одночасно розпалюючи громадські страхи щодо загрози руйнування світу штучного інтелекту «суперінтелектом». «Я просто хочу побачити, що відбувається зі штучним інтелектом», — сказав він у ефірі «Closing Bell» на CNBC у 2014 році, додавши: «Про це навіть знімають фільми.[The] Термінатор. «Є деякі жахливі наслідки».

Його кампанія страху й оптимізму є частиною стратегії, задокументованої в березні 2024 року дослідниками етики ШІ та інформатики Тімнітом Гебру та Емілем Торресом.

У документі Маск згадується понад 30 разів і робиться висновок, що він і невелика група лідерів штучного інтелекту «захищають майбутнє людства, створюючи небезпечні продукти, концентруючи владу та уникаючи відповідальності», і завдають непропорційної шкоди маргіналізованим групам.

Наприкінці 2014 року Маск сказав студентам Массачусетського технологічного інституту, що розробка штучного інтелекту — це «схоже на виклик диявола». Приблизно в той час він пожертвував 10 мільйонів доларів через свій фонд на заснування Інституту майбутнього життя (FLI), некомерційної організації, очолюваної дослідником MIT Максом Тегмарком. Група мала на меті підвищити обізнаність про жахливий потенціал штучного інтелекту та направити технологію таким чином, щоб не призвести людство до вимирання.

У своїй програмній промові на конференції «Ефективний альтруїзм» у 2015 році Маск сказав, що загроза прогресу в штучному інтелекті випередить людський контроль є найбільшим екзистенційним ризиком, який він може уявити. Він негайно підписав відкритий лист від FLI із закликом «призупинити ШІ».

Того ж року Маск став співзасновником OpenAI з місією «розвивати цифровий інтелект у спосіб, який, швидше за все, принесе користь всьому людству, не обмежений необхідністю отримання фінансового прибутку».

Розбіжності з Альтманом почалися в 2018 році. Маск приватно тиснув на співзасновників OpenAI, щоб вони передали йому контроль над лабораторією та зробили OpenAI комерційною філією Tesla. Маск відібрав ключових талантів з OpenAI для Tesla і пішов у відставку з правління організації в тому ж році.

Минуло ще чотири роки, перш ніж масштаб цього розколу став очевидним. У листопаді 2022 року OpenAI випустив ChatGPT, викликавши генеративний бум штучного інтелекту, а Маск здебільшого осторонь.

Через кілька місяців, у березні 2023 року, Маск підписав ще один «лист про відсторонення AI» від FLI.

«Системи ШІ з інтелектом, який конкурує з людським, можуть становити серйозні ризики для суспільства та людства, як показали численні дослідження та визнано провідними інститутами ШІ», — починається лист.

Приблизно в той же час Маск засновував у Неваді нове підприємство зі штучним інтелектом під назвою xAI, але він мовчав від інвесторів Tesla та громадськості до липня.

Потім почалася судова тяганина з Альтманом.

У серпні 2024 року Маск подав позов проти OpenAI та його співзасновників за порушення обіцянки залишити інститут некомерційним. У травні Маск програв резонансний суд у Каліфорнії, коли присяжні та федеральний суддя постановили, що його позови були подані поза межами строку давності. Маск заявив, що подасть апеляцію, але ще не зробив цього.

Повідомлення, виявлені в судовому позові, показали, що одержимість Маска розробкою OpenAI була заснована на побоюваннях, що Google контролюватиме технологію після придбання DeepMind, хоча публічно він і Альтман рекламували більш альтруїстичні аспекти своєї місії.

Тепер Маск повернувся до діяльності з пошуку безпеки. «Даліо правий», — написав Маск на X після есе у вихідні, в якому Амодей благав індустрію «йти вперед».

Це різко контрастує з лютим, коли Маск назвав людство «мізантропом і злом» і сказав, що «ненавидить західну цивілізацію». Ситуація кардинально змінилася в травні, коли Anthropic погодився платити SpaceX до 1,25 мільярда доларів на місяць за оренду обчислювальної інфраструктури в Мемфісі, даючи компанії Маска частину вкрай необхідного доходу від ШІ перед IPO SpaceX.

«Я явно помилявся щодо антропології», — написав Маск X у липні. «Очевидно, що зараз вони є лідерами в галузі ШІ».

Останні результати роботи Маска щодо безпеки штучного інтелекту були перевірені.

Він побудував центри обробки даних у Мемфісі, штат Теннессі, і його околицях, а також боровся з позовами мешканців прилеглих районів, які страждають від забруднення повітря та шуму, спричинених операціями.

У SpaceX Маск продав армії США версію моделі Grok від xAI, яка «дозволила армії США розгорнути понад 2000 боєприпасів до 2000 різних цілей протягом 96 годин», згідно з юридичною документацією Міністерства юстиції.

А в xAI (тепер відомий як SpaceXAI) Маск подав позов у ​​Міннесоті, щоб заборонити функцію «роздягання» Грока, а в Каліфорнії — припинити державні правила, які вимагають від компаній бути прозорими щодо даних, які використовуються для навчання їхніх моделей.

У той час як Маск і його колеги та суперники обговорюють правильний підхід до безпеки штучного інтелекту та те, чи повинен уряд відігравати значну роль чи не відігравати жодної ролі, законодавці та незалежні дослідники все більше скептично ставляться до здатності галузі контролювати себе.

Тайлер Уітмер, генеральний директор некомерційної організації Legal Advocates for Safe Science and Technology (LASST), сказав CNBC, що одного лише саморегулювання недостатньо, щоб захистити громадськість від існуючої та майбутньої шкоди, спричиненої системами ШІ.

«Нам потрібне справжнє регулювання, яке не тільки створює рівні умови для бізнесу, але й захищає громадськість, а підприємства не можуть зробити це поодинці», – сказав Вітмер. «Залучення сторонніх оцінювачів, а не лише самих компаній, має бути обов’язковою вимогою для урядів».

годинник: На землі Мемфіської імперії Ілона Маска