Объявление компании Anthropic от 24 сентября о том, что с помощью модели Claude найдена новая ферментная система, вызвало возражения биолога Копенгагенского университета Марио Родригеса Местре, чья команда много лет изучает ту же систему. Местре указал на роль человеческого труда и заранее заданных рамок исследования в результате, который американская компания назвала «автономным открытием ИИ».
Система, обнаруженная Claude
Anthropic поручила около 950 агентам Claude искать в большой базе последовательностей ДНК новые примеры обратных транскриптаз — ферментов, синтезирующих ДНК на основе РНК.
Примерно через 21 час работы один из агентов выявил ферментную систему с особой матрицей ДНК и дополнительным вспомогательным белком неизвестной функции. Anthropic заявила, что ключевые особенности системы первым заметил Claude.
Местре усомнился в независимости результата
По словам Местре, вывод Claude очень близко совпадает с работой его команды. Он рассказал, что активно пользовался Claude в ходе исследований, обсуждал с моделью научные анализы и ещё не опубликованные работы, а модель имела доступ к части исследовательской среды.
Как пояснил Местре, система, которую Anthropic назвала ARTs, совпадает с особой генетической системой гигантских вирусов, известной как jumbotrons. По его словам, сходство не ограничивается семействами белков: речь идёт об одних и тех же генах в одних и тех же вирусах.
Биолог подчеркнул, что не может с уверенностью сказать, пришёл ли Claude к выводу на основе данных из его неопубликованных исследований. Тем не менее он серьёзно сомневается в том, что находку можно называть «автономным открытием ИИ».
Роль рамок, заданных экспертами
Местре отметил, что Claude получил очень узкую биологическую задачу по обратным транскриптазам, синтезирующим ДНК на основе РНК, а набор данных, который анализировала модель, был заранее рассчитан специалистами.
По словам Местре, Claude не определял собственную область исследований, а работал в рамках, заданных экспертами, поэтому он с опасением относится к тому, чтобы считать результат независимым открытием. Даже если модель пришла к выводу полностью независимо от его работы, это следует называть научной работой с помощью ИИ, а не «полностью автономным научным открытием», считает он.
Призыв к строгому контролю за неопубликованными данными
Местре заявил, что компании в сфере ИИ должны принимать более жёсткие меры, чтобы неопубликованные статьи и исследовательские данные не использовались для обучения моделей. Он призвал предоставить исследователям понятный и подробный контроль над их данными, ввести прозрачную политику хранения данных и запрашивать явное согласие вместо неясных настроек по умолчанию.
По мнению Местре, данные, получаемые моделью в процессе работы, следует отделять от обучающих данных, а доступ ИИ-агентов к подключённым сервисам должен поддаваться проверке.
Он считает, что для чувствительных научных исследований будут всё важнее закрытые системы ИИ, не передающие данные вовне, и модели с открытым кодом, работающие под контролем самих учреждений.
По словам биолога, ИИ стал постоянной частью научных исследований, и главная задача — создать инфраструктуру, позволяющую учёным пользоваться этими инструментами, не теряя контроля над неопубликованными работами, конфиденциальными данными и происхождением своих идей.
Недвижимость
Транспорт
Запасные части, аксессуары, оборудование и тюнинг
Секонд-хенд и новые покупки
Строительное оборудование и промышленность
Поставщики частных уроков
Объявления о вакансиях
Ищущие работу
Царство животных
Искатели помощников
Долевое владение
Автомобиль
Автомобильное оборудование
Мать и ребенок
Строительная техника
Средняя школа и университет
