Федеральна торгова комісія розпочала розслідування за такими справами: відкритий ШІ, людини та інших компаній штучного інтелекту щодо потенційної небезпеки, яку становлять їхні продукти, підтвердив CNBC представник агентства. Під час розслідування OpenAI та Anthropic посилено перевіряють методи безпеки, особливо після того, як галузеві дослідники попередили, що моделі ШІ компаній можуть завдати катастрофічної шкоди. У липні OpenAI […]
Федеральна торгова комісія розпочала розслідування за такими справами: відкритий ШІ, людини та інших компаній штучного інтелекту щодо потенційної небезпеки, яку становлять їхні продукти, підтвердив CNBC представник агентства.
Під час розслідування OpenAI та Anthropic посилено перевіряють методи безпеки, особливо після того, як галузеві дослідники попередили, що моделі ШІ компаній можуть завдати катастрофічної шкоди. У липні OpenAI здивував галузь, виявивши, що його агент зламав платформу з відкритим кодом Hugging Face, проникнувши в неї через тестове середовище.
Представник Федеральної торгової комісії відмовився назвати імена інших компаній, які розслідуються. New York Post першою повідомила про розслідування.
Представники OpenAI і Anthropic не відразу відповіли на запити CNBC про коментарі.
Раніше в цьому місяці генеральний директор Anthropic Даріо Амодей сколихнув індустрію технологій, закликавши компанії зі штучним інтелектом уповільнити темпи вдосконалення своїх передових моделей і закликавши до посилення державного контролю. Він оголосив про триетапну пропозицію, спрямовану на уповільнення темпів розвитку без «жертви комерційною перевагою чи лідерством Америки в області ШІ».
Кілька конкурентів Амодея підтримали його пропозицію, включаючи генерального директора OpenAI Сема Альтмана та генерального директора SpaceX Ілона Маска. мета Генеральний директор Марк Цукерберг і Nvidia Генеральний директор Дженсен Хуанг стверджував, що окремі компанії повинні відповідати за забезпечення безпеки своєї продукції.
Президент Дональд Трамп використовує алфавіт мета, пробіл xNvidia, ПалантирAnthropic, OpenAI та інші компанії планують обговорити це питання у вівторок. Група підписала коротку, добровільну, необов’язкову угоду, в якій зазначено, що «всі компанії несуть відповідальність за розробку своїх технологій безпечно та таким чином, щоб створити довіру клієнтів і громадськості».
«Ми всі повинні працювати разом, щоб переконатися, що ми перемагаємо і перемагаємо безпечно», – сказав Амодей біля Білого дому у вівторок. «Якщо ми зробимо це правильно і будемо працювати з президентом і всіма тут, ми зможемо безпечно перемогти».
годинник: OpenAI робить більші кроки, ніж Meta, Алекс Кантровіц з Big Technology розповідає про ШІ
