OpenAI закликав Сполучені Штати очолити міжнародні зусилля щодо стандартів для вдосконаленого ШІ, починаючи з правил щодо обов’язкового звітування про інциденти, і запропонував працювати через національні агентства безпеки ШІ, включаючи Центр стандартів та інновацій ШІ США. У Європі стаття 55 Закону про штучний інтелект передбачає звітування про інциденти, і цього місяця OpenAI представила звіт на її […]
OpenAI закликав Сполучені Штати очолити міжнародні зусилля щодо стандартів для вдосконаленого ШІ, починаючи з правил щодо обов’язкового звітування про інциденти, і запропонував працювати через національні агентства безпеки ШІ, включаючи Центр стандартів та інновацій ШІ США. У Європі стаття 55 Закону про штучний інтелект передбачає звітування про інциденти, і цього місяця OpenAI представила звіт на її основі.
У публікації в блозі, опублікованій у понеділок, OpenAI закликав Сполучені Штати очолити міжнародні зусилля зі встановлення стандартів для передового ШІ, повідомляє Bloomberg. Вони хочуть, щоб спільні правила щодо того, про які інциденти, пов’язані з моделями штучного інтелекту, повідомляти, як країни співпрацюють і доступ до комп’ютерів.
Європа була заселена першим законом.
Розділ 55 Закону про штучний інтелект вимагає від постачальників моделей загального призначення із системними ризиками повідомляти про значні інциденти без невиправданої затримки, а Кодекс практики передбачає п’ять днів у разі порушення кібербезпеки та 15 днів у випадку значної шкоди. Цього місяця OpenAI подала позов проти агента, який два місяці займав бездіяльну німецьку Wiki та опублікував близько 18 000 повідомлень.
Нам потрібні правила, яких ми вже дотримуємося.
У дописі йдеться, що цю роботу слід виконувати через існуючий Національний інститут безпеки штучного інтелекту, назвавши Національний центр стандартів та інновацій штучного інтелекту при Міністерстві торгівлі. У ньому також зазначено, що ми не повинні прагнути до рекурсивного самовдосконалення, яке є повністю автономним.До тих пір, поки це не буде зроблено безпечноДаріо Амодей з Anthropic попередив, що як тільки така петля почнеться, ми не зможемо її контролювати.
Місце проведення – слабке місце.
Центр не має постійного керівника. Кріс Фолл обійняв цю посаду наприкінці квітня та пішов у відставку через три місяці, тоді як його попередник протримався чотири дні та залишив царя штучного інтелекту в Білому домі в березні, не будучи заміненим.
У Брюсселя протилежна проблема, що існує її версія.
Секретаріат штучного інтелекту керує Кодексом поведінки, підписаним OpenAI, і 1 червня, згідно зі статтею 68, було створено Науковий комітет із 60 членів, щонайменше 80% представників ЄС, ЄАВТ та ЄЕЗ, і максимум трьох експертів від країни. Ніхто у Вашингтоні не побудував нічого подібного.
Час не є тонким.
Сем Альтман виступить у Раді Безпеки Організації Об’єднаних Націй у середу та візьме участь у офіційному обіді Білого дому для Сі Цзіньпіна у четвер. Уряд США вже запропонував китайському уряду систему оповіщення про національну безпеку ШІ, але міністр фінансів Скотт Бессент назвав це каналом, а не договором.
Попереднє запитання було побутовим.
Одинадцять днів тому OpenAI заявив, що звернеться до Конгресу з обов’язковими національними правилами щодо тестування, кібербезпеки, звітування про інциденти та оцінки перед розгортанням. Загалом це закон про ШІ з американським ярликом. І OpenAI, і Anthropic таємно подали заявку на оприлюднення.
