Чи справді ШІ знищить людство? Братимуть участь піонери, які розробили цю технологію.

Оскільки дослідники попереджають, що штучний інтелект може становити катастрофічні ризики, деякі піонери, які допомогли розробити цю технологію, попереджають про небезпеку необмеженого розвитку можливостей.

Антропний, OpenAI, Google DeepMind має на меті бити тривогу про потенційно руйнівні ризики розвитку технологій.

Керівники штучного інтелекту, включаючи Сема Альтмана, Даріо Амодея, Деміса Хассабіса та Ілона Маска, рідко погоджуються закликати до сповільнення та регуляторного нагляду.

Тим часом у Вашингтоні розпалюються дебати, посилаючись на занепокоєння. Президент Дональд Трамп у понеділок щедрився на зростаючі заклики регулювати штучний інтелект, хоча деякі законодавці від Демократичної та Республіканської партії наполягали на законодавчому контролі прогресу ШІ.

Ті, хто брав участь у розробці ШІ, думають про екзистенціальний ризик:

Йошуа Бенгіо — канадський вчений-інформатик, якого вважають головним піонером сучасного глибинного навчання.

«Вчені з Frontier AI Institute мають унікальне уявлення про передові моделі», — сказав Бенгіо 9 вересня у відповідь на заяву антрополога Джейкоба Коксона про відставку. Коксон попередив, що ШІ «може вбити нас усіх до кінця десятиліття».

Він додав, що вчені часто усвідомлюють «ризики, пов’язані з цим за кілька місяців до того, як модель буде опублікована». «Їхня точка зору має важливе значення для інформування суспільства, і її слід сприймати дуже серйозно».

За кілька днів до початку шторму в соціальних мережах головні вчені OpenAI попередили, що «ніхто не готовий до наслідків» ШІ.

У блозі, опублікованому в п’ятницю, Бенгіо сказав, що сучасні системи штучного інтелекту «вже володіють хакерськими навичками та здібностями переконувати, необхідними, щоб завдати значної шкоди інтересам людей».

Він додав, що нещодавні події показали, що штучний інтелект здатний планувати протягом кількох днів або навіть тижнів, і що «якщо наша здатність виробляти довгострокову стратегію продовжує розвиватися, ризики лише погіршаться».

«Я занепокоєний поточними спробами компаній зі штучним інтелектом пом’якшити невідповідності полягає в тому, що ці зусилля можуть лише замаскувати їх, винагороджуючи та вибираючи ШІ, які обманюють, не будучи спійманими», — сказав Бенгіо. «Нам потрібно переконатися, що дослідження продовжують краще контролювати поведінку ШІ, ланцюг думок і діяльність у мережах».

Джеффрі Хінтон, почесний професор Університету Торонто, вважається піонером нейронних мереж і глибокого навчання.

Відповідаючи на запитання BBC 10 вересня, чи вірить він у те, що штучний інтелект знищить усе людство протягом 10 років, становить більше ніж 10%, Хінтон сказав: «Це дуже важко оцінити, тому що нічого подібного ніколи не траплялося раніше. Ми ніколи не створювали сутність, яка незабаром може стати розумнішою за нас».

Він сказав, що ймовірність у 10% не є «нерозумною», додавши: «Ніхто не знає, як дати розумну оцінку».

Він сказав, що системи штучного інтелекту можуть створювати біологічні віруси, які є «дуже неприємними» поряд з комп’ютерними вірусами, і «здійснювати руйнівні кібератаки. Існує незліченна кількість інших способів, якими штучний інтелект може знищити нас, якщо захоче. Нам потрібно з’ясувати, як розробити системи штучного інтелекту, щоб вони не хотіли цього робити».

«У нас є два можливих майбутніх», — додав Хінтон. «Один — це знайти спосіб впоратися з цими небезпеками, перш ніж вони вийдуть з-під контролю, а інший — ні».

Ейдан Гомес, співзасновник і генеральний директор компанії AI Cohere, є одним із авторів дослідницької роботи 2017 року «Відвідування — це все, що вам потрібно», яка допомогла закласти основу для провідних сучасних моделей AI.

«Я вважаю, що ці моделі є найпотужнішою кіберзброєю, яку коли-небудь створювали і яку ми бачили, — сказав Гомес у подкасті CNBC «The Tech Download» 1 вересня. «Вони феноменально знаходять і використовують уразливості у великих масштабах».

«Нещодавні інциденти ясно показали, що безпека вашого середовища розгортання визначає вашу безпеку», — сказав він, маючи на увазі атаку на кібербезпеку, здійснену фальшивою моделлю ШІ влітку.

«Слабка безпека контейнера — це те, що сприяє подіям прориву, а не невід’ємний поштовх до автономних систем», — сказав Гомес CNBC. «Коли політики розглядають, як керувати штучним інтелектом, вони повинні визнати, що різні системи несуть різні ризики, і правила не повинні формуватися виключно великими технологічними компаніями, які переслідують AGI».