Ця історія спочатку була опублікована в The Algorithm, щотижневому інформаційному бюлетені ШІ. Щоб отримувати такі статті на свою поштову скриньку, Зареєструйтеся тут.

Минулої середи компанія Antropic оголосила про запуск лабораторії молекулярної біології на початку цього року. Там агенти Клода читають і роблять висновки про складні біологічні проблеми, а вчені-людини проводять експерименти на основі звітів. Компанія заявила, що її лабораторія з штучним інтелектом зробила перше відкриття.

Щоб зрозуміти, що, за словами Anthropic, робила її система, уявіть собі вчених, які гортають бібліотеку мільйонів послідовностей ДНК, які накопичувалися, коли вони секвенували все більше живого світу. Можливо, кроком до прориву може стати відкриття унікальної послідовності, що кодує цікавий фермент. Далі нам потрібно зрозуміти, що робить цей фермент і, зрештою, як ним керувати, щоб робити щось корисне.

Anthropic каже, що системи 950 агентів, виявлені через 21 годину, не були абсолютно новими. Натомість агенти помітили повторювану схему навколо відомого ферменту, який, за словами Anthropic, раніше не був занесений у каталог. Але читаючи оголошення Anthropic про те, що шаблон «нагадує» CRISPR, технологію редагування генів, яка «вже змінила науку та медицину», звучить так, ніби ця армія агентів справді відкрила щось надзвичайне.

Ці заяви викликали гнів деяких біологів. «Пошук дивних кластерів генів і повторів часто є легкою частиною. Важкою частиною, і звідки приходить справжнє відкриття, є розуміння того, що насправді робить система», — йдеться в одній публікації, яку також підтримав голова правління та генеральний директор фармацевтичної компанії Eli Lilly. Іншими словами, агент допоміг із виснажливими завданнями в лабораторії. Але це не відкриття.

Це нагадування про те, що навіть якщо ШІ зробить щось велике, наприклад виявить закономірності у великих обсягах біологічних даних, які важко розпізнати лише людським оком, результат сам по собі може не бути науковим проривом. Те, що є новим для штучного інтелекту, може бути рутинним, нічим не примітним або просто неважливим для біологів.

Біолог Маріо Родрігес Местре з Копенгагенського університету заявив минулими вихідними, що його команда вже виявила цю конкретну закономірність, що ще більше приховує проблему. Нью-Йорк Таймс Повідомлено. Местре, який регулярно спілкувався з Клодом на роботі, цікавився, чи команда Anthropic вчилася з його розмов. Антропік заперечує це, але Местре каже, що все одно припинить будь-яке використання Клода.

Частина проблеми полягає в тому, що компанії зі штучним інтелектом не просто представляють свої системи як інструменти, якими можуть користуватися вчені, як-от мікроскопи чи суперкомп’ютери. Вони стверджують, що системи ШІ самі роблять відкриття. Для деяких такий підхід суперечить тому, як насправді працює наука, і нові знання зазвичай з’являються в результаті співпраці та постійно зростаючої кількості інструментів.

І коли це відбувається, люди стають ще більш скептичними щодо реального прогресу. Звуження 200 000 кандидатів до невеликої кількості кандидатів, які варто розглядати, не є маленькою справою. Це законне наукове дослідження. Той факт, що чат-бот загального призначення може виконувати завдання, заслуговує на увагу, навіть якщо людина допомагає чат-боту керувати ним і, зрештою, проводить експеримент. Але як тільки критерієм стає те, чи сам Клод зробив відкриття, усе це стає доказом для однієї чи іншої сторони в дебатах, де є лише дві відповіді: прорив чи крах.

Судячи з того, чи зробив штучний інтелект відкриття чи ні, є спокуса змінити стійки воріт навіть після того, як здається, що ви справді виграли. Раніше цього місяця OpenAI оголосила, що команда її агентів розв’язала математичну задачу вартістю багато мільйонів доларів. Але через кілька тижнів майже кожен скептик штучного інтелекту в моїй стрічці ділився статтею, в якій запитував, чи справді проблема була математичною. це було важливо.

Щоб було зрозуміло, ця стаття не стверджувала, що рішення OpenAI було неправильним. Натомість він стверджував, що математики можуть найбільше хвилюватися не про конкретні результати. Додайте звинувачення математика в тому, що модель, можливо, використала деякі з його досліджень без кредиту, і люди залишаться думати, що або OpenAI обдурив, або рішення все одно не мало значення. Або обидва.

Це частина занепокоєння біолога Лукаса Харрінгтона, який написав пост, критикуючи оголошення Anthropic. Він закінчив пропозицією. «Планку слід поставити високо зараз, щоб усі розуміли, наскільки це велика справа, коли штучний інтелект насправді відкриває принципово новий біологічний механізм», — сказав він. Але оскільки Сем Альтман з OpenAI і Даріо Амодей з Anthropic конкурують один з одним; виховувати Вони можуть навіть не думати про перешкоди для наукового прогресу з ШІ.