Anthropic вибирає Accenture як перший вбудований оцінювач, який допоможе реалізувати пропозицію Amodei щодо уповільнення

Антропна — п’ятниця. Accenture Робота компанії як вбудованого оцінювача є першим конкретним кроком компанії на шляху реалізації пропозиції генерального директора Даріо Амодея щодо уповільнення темпів розвитку штучного інтелекту.

Відповідно до релізу, Anthropic і Accenture погодилися інвестувати щонайменше 1 мільярд доларів протягом наступних п’яти років для «нарощування потенціалу в цій сфері». Але Anthropic заявив, що забезпечить пряме фінансування роботи Accenture, враховуючи її «суттєвість і терміновість».

«У довгостроковій перспективі ми вважаємо, що фінансування має надходити з об’єднаних або державних джерел, як ми закликали в Advanced AI Framework у червні», — сказав Anthropic. «Ми будемо працювати з різними оцінювачами в рамках різних угод про фінансування, оскільки жодної з них наразі не існує».

У суботу Amodei сколихнув світ технологій. Як компанії штучного інтелекту швидко вдосконалюють найсучасніші моделі. Anthropic та його основні конкуренти, OpenAIОстанніми тижнями штучний інтелект став предметом пильної уваги, оскільки дослідники дедалі частіше попереджають про його здатність завдавати катастрофічної шкоди.

Пропозицію Amodei оголосив цього тижня генеральний директор OpenAI Сем Альтман, тесла і пробіл x Не лише генеральний директор Ілон Маск, але й інші. Nvidia Генеральний директор Дженсен Хуан відкинув занепокоєння, наполягаючи на тому, що нові правила не потрібні. Багато хто сумнівався, що насправді означає пропозиція Амодея, особливо в той час, як Anthropic готується до того, що, як очікується, стане великим IPO.

Першим кроком у плані Amodei є надання стороннім оцінювачам доступу на рівні співробітників до компанії для перевірки практики безпеки та звітування про інциденти. У суботу він сказав, що Anthropic «в односторонньому порядку» взяла на себе зобов’язання виконати цю частину пропозиції, і закликав інші компанії зі штучним інтелектом зробити те ж саме.

Anthropic оголосив у п’ятницю, що спочатку погодився залучити співробітників із спеціалістів зі штучного інтелекту Accenture, факультету, щоб перевірити моделі захисту та червоної команди та оцінити, чи відповідають моделі людським цінностям. Партнерство не є ексклюзивним, і Anthropic повідомила, що воно обговорюється з дослідницькою некомерційною організацією METR та іншими третіми сторонами.

Компанія підкреслила, що все ще відповідає за безпеку своїх моделей і заявила, що робота з вбудованими оцінювачами не знімає цієї відповідальності.

«Зараз ми ділимося цими ранніми зусиллями, щоб люди та інші розробники штучного інтелекту могли бачити наш процес», — сказав Антропік. «Ми очікуємо, що наш підхід розвиватиметься в міру розвитку галузі, і ми поділимося новими, коли наша робота почнеться, і ми вітаємо додаткових оцінювачів».

годинник: Створення посібника з безпеки AI