Карім Аюб з Google DeepMind сказав, що хоча компанії не можуть повністю контролювати свої системи штучного інтелекту, вони можуть будувати навколо них фіксовані паркани. Він вказав на банки кінця 1980-х і початку 1990-х років. Вони включають свої торгові алгоритми у фіксовані правила, які можна перевірити. Аюб, віце-президент DeepMind із технологічної стратегії ШІ, поспілкувався з Томом […]
Карім Аюб з Google DeepMind сказав, що хоча компанії не можуть повністю контролювати свої системи штучного інтелекту, вони можуть будувати навколо них фіксовані паркани. Він вказав на банки кінця 1980-х і початку 1990-х років. Вони включають свої торгові алгоритми у фіксовані правила, які можна перевірити.
Аюб, віце-президент DeepMind із технологічної стратегії ШІ, поспілкувався з Томом Маккензі з Bloomberg на HumanX в Амстердамі в середу. Він сказав, що дебати щодо безпеки зводяться до напруги між експоненціальними можливостями та лінійним управлінням.
«Ви можете не мати повного контролю над самою системою, але ви можете побудувати навколо неї детерміновані межі управління», — сказав Аюб про підхід банку.
Він розділив проблему на три частини. Одна з них – це роль, яку ШІ повинен відігравати в дослідженнях і розробках. Інша справа, наскільки прозорою має бути система. Третє – хто ними керує. Він сказав, що частиною відповіді є Frontier Safety Framework Google, яка встановлює порогові значення та пом’якшення для функцій.
Маккензі зазначив, що Даріо Амодей з Anthropic хоче збільшити темп Frontier. Деміс Хассабіс закликає створити галузевий регулятор за зразком американського регулятора цінних паперів FINRA, сказав Маккензі. Аюб сказав, що огорожі вимагатимуть партнерства за межами технологічних компаній.
Frontier AI використовується для електронної пошти
Аюб пояснив, що існує розрив між можливостями технологій і тим, як компанії їх використовують. Frontiers прискорює відкриття ліків, перекладає стародавні тексти та допомагає виявляти гравітаційні хвилі. За його словами, у компаніях увага часто зосереджена на чернетках і резюме електронною поштою.
За його словами, перехід від моделі продукту як продукту до моделі агента почався приблизно в кінці 2025 року. Агенти об’єднують моделі в пам’ять, інструменти та доступ до Інтернету, щоб вони могли виконувати довгі багатоетапні завдання. За його словами, найбільший прибуток наразі був у розробці програмного забезпечення.
Аюб сказав, що найкращі компанії, з якими він працює, мають чотири спільні звички: вони швидко створюють безпечні пісочниці, не чекаючи ІТ-проектів, які можуть тривати роками. На прогрес моделі не роблять ставку. Вони вимірюють те, що їх хвилює. І самі їхні лідери використовують інструменти.
«Великі компанії запитують: якби базова модель була в 10 разів кращою, те, що я будую, було б у 10 разів кращим?» сказав він.
Він сказав, що компанії терплять крах, коли винагороджують співробітників, які приховують використання ШІ. Це також не вдається, коли лідери використовують інструменти лише поверхнево. Оскільки вартість інтелекту падає, він сподівається, що більше витрат буде спрямовано на перевірку результатів, а не на їх виробництво.
Атмосфера DeepMind
Нарешті Маккензі спитав про мораль. Він згадав дослідника, який цього року пішов на пенсію, і призначення Хассабіса головою. У серпні Google передала управління штучним інтелектом Кораю Кавукчуоглу з Каліфорнії.
Аюб сказав, що йому мало що додати до того, що повідомлялося. Він сказав, що AGI – це життєва місія Hassabis. Я пам’ятаю, як Хассабіс сказав на Google I/O, що якщо ми озирнемося назад, то, мабуть, зрозуміємо, що були біля «підніжжя сингулярності». Він також вказав на енергію проекту Gemini, очолюваного Кавукукуоглу.
DeepMind запустив DeepMind Institute цього місяця для обговорення AGI. Колишні дослідники DeepMind також заснували власні компанії, включно з глобальним модельним стартапом Emulate.
«Майбутнє — це вже не питання передбачення; воно стає питанням дизайну», — каже Аюб.
