Останніми тижнями дзвонили на сполох, коли нинішні та колишні дослідники стверджували, що ця технологія загрожує людству. Деякі припускають, що існує 10% або більше шансів «вбити всю людську расу».

Великі компанії штучного інтелекту змагаються за розробку кращих систем, включаючи те, що вони називають суперінтелектом, або розробку теоретичних технологій, які розумніші за людей.

Гіганти штучного інтелекту Anthropic, OpenAI і Google (технологічні компанії, що стоять за Claude, ChatGPT і Gemini відповідно) також розкрили випадки порушень безпеки та інциденти, коли їхні чат-боти використовувалися для «зловмисної діяльності».

Даріо Амодей, ректор Humanity, нещодавно закликав уповільнити розвиток штучного інтелекту, запропонувавши уповільнення та регулювання в усій галузі, а також незалежний нагляд за розробкою моделей штучного інтелекту.

Сем Альтман з OpenAI та Ілон Маск з xAI заявили, що погоджуються з його рекомендаціями.

Співзасновник Anthropic Джек Кларк сказав BBC, що індустрії, можливо, знадобиться вимагати «перемикач відключення», який може перевірити третя сторона.

Це попередження спонукало законодавців США запропонувати закон про цю технологію, але цього тижня Альтман припустив, що уряду США важко йти в ногу з новою технологією та як її регулювати. Він сказав, що люди повинні більше довіряти компаніям зі штучним інтелектом, щоб захистити їх.

«Світ повинен вірити, що ми зробимо правильні речі, тому що це правильно, і ми усвідомлюємо масштаби цього», — сказав Альтман на прес-конференції в Сан-Франциско.

У Великій Британії депутати від різних партійних ліній визначили ризики для прав людини, пов’язані зі штучним інтелектом, і стверджували, що існуючі закони погано підходять для боротьби зі швидким розвитком цієї технології.

Об’єднаний комітет з прав людини (JCHR) опублікував звіт із закликом до нового законодавства щодо штучного інтелекту, щоб «вирішити масштаб і серйозність» цих загроз.