Міністр штучного інтелекту Великої Британії Канішка Нараян заявив, що країни повинні «посилити» свій захист від ризиків ШІ. За його словами, тестування моделей уже недостатньо. Він відповідав на запитання Fortune на щорічній конференції Лейбористської партії. Журналіст Fortune Камал Ахмед запитав про попередження дослідника Джейкоба Коксона, який покинув Anthropic цього місяця. Нараян сказав, що коли люди в […]
Міністр штучного інтелекту Великої Британії Канішка Нараян заявив, що країни повинні «посилити» свій захист від ризиків ШІ. За його словами, тестування моделей уже недостатньо. Він відповідав на запитання Fortune на щорічній конференції Лейбористської партії.
Журналіст Fortune Камал Ахмед запитав про попередження дослідника Джейкоба Коксона, який покинув Anthropic цього місяця. Нараян сказав, що коли люди в лабораторії кажуть, що вони дуже стурбовані, їх потрібно сприймати серйозно.
«Нам потрібно зміцнити та розбудувати нашу оборону. Ризики будуть тільки зростати, тому тестування добре, але явно недостатньо», — сказав Нараян.
Коксон виніс попередження за пост про X, який переглянули 175 мільйонів разів, повідомляє Fortune.
«Ті, хто розробляє штучний інтелект, серйозно вірять, що штучний інтелект може вбити нас усіх до кінця цього десятиліття», — написав Коксон.
Вчений-людина Еван Хабінгер погодився з Коксоном. Він оцінив ризик понад 10%.
Де Нараян ризикує
Нараян сказав, що він зосереджений насамперед на сьогоднішніх ризиках. Він зазначив зростання ризиків кібербезпеки та інструментів ШІ, які можуть збільшити біохімічні ризики. Він каже, що його також турбують моделі, які перевищують людські вимоги.
«Логічні петлі, через які вам потрібно проскочити, щоб зробити це екзистенційним питанням, дуже важливі та глибокі», — каже він.
Нараян сказав, що Великобританія тестує моделі ШІ протягом трьох років. Він додав, що жодна інша країна не в кращому становищі.
План G20
Пан Нараян сказав, що Велика Британія хоче об’єднати країни у G20 під час свого головування наступного року. Ми хочемо допомогти сформулювати принципи, які випливають із цього. Прем’єр-міністр Енді Бернхем заявив, що він використає своє президентство для укладення угоди щодо ШІ.
Згідно зі звітом, на який посилається журнал Fortune, Білий дім попередив членів G20 про те, щоб вони не підходили до нових глобальних правил. Президент Дональд Трамп заявив, що уповільнення роботи американських лабораторій дасть Китаю перевагу. Тих, хто закликає до уповільнення, він назвав «негативною силою».
Співзасновник Microsoft Білл Гейтс сказав минулого тижня в ефірі NBC Meet the Press, що саморегулювання недостатньо. Він хоче участі уряду.
Нараян також говорив про роботу на засіданні аналітичного центру Resolution Foundation. Він сказав, що уряди, підприємства та громадськість мають право вирішувати, чи штучний інтелект покращує чи замінює людську роботу.
