После того как Anthropic 24 сентября объявила об обнаружении новой ферментной системы с помощью модели Claude, биолог Копенгагенского университета Марио Родригес Местре, который вместе со своей командой уже много лет изучает ту же систему, выступил с возражениями. Местре обратил внимание на роль человеческого труда и заранее заданной исследовательской рамки в работе, которую американская компания в сфере искусственного интеллекта назвала «автономным открытием искусственного интеллекта».
Система, обнаруженная Claude
Anthropic поручила примерно 950 агентам Claude искать новые примеры обратных транскриптаз в обширной базе данных, состоящей из последовательностей ДНК. Эти ферменты синтезируют ДНК на основе РНК.
Один из агентов после примерно 21 часа работы обнаружил ферментную систему с уникальной записью ДНК и дополнительным вспомогательным белком, функция которого неизвестна. Anthropic заявила, что отличительные характеристики системы впервые были выявлены Claude.

Местре поставил под сомнение независимость результата
Местре отметил, что результат, полученный Claude, очень близок к работам его самого и его команды. Биолог заявил, что активно использовал Claude в ходе своих исследований, обсуждая с моделью научный анализ и ещё не опубликованные работы. Он также сообщил, что модель могла получить доступ к некоторым частям исследовательской среды.
По словам Местре, система, которую Anthropic назвала ARTs, совпадает с особой генетической системой, обнаруженной у гигантских вирусов и описываемой как «jumbotrons». Местре отметил, что сходство касается не только семейств белков: речь идёт об одних и тех же генах, обнаруженных в тех же вирусах.
Биолог подчеркнул, что не может с уверенностью сказать, пришёл ли Claude к результату на основе информации из его собственных неопубликованных исследований. Тем не менее он заявил, что серьёзно ставит под сомнение характеристику этого открытия как «автономного открытия искусственного интеллекта».
Роль рамки, заданной экспертами

Местре сообщил, что Claude получил весьма ограниченную биологическую задачу, связанную с обратными транскриптазами, синтезирующими ДНК на основе РНК. Он отметил, что набор данных, проанализированный моделью, также был предварительно рассчитан экспертами.
Поэтому Местре заявил, что Claude не формировал собственную область исследования, а работал в рамках, заранее заданной экспертами, и выразил обеспокоенность оценкой результата как независимого открытия. Биолог отметил, что даже если предположить, что модель пришла к результату совершенно независимо от его работ, это следует называть не «полностью автономным научным открытием», а научной работой с использованием искусственного интеллекта.
Призыв усилить контроль над неопубликованными данными
Местре заявил, что компании в сфере искусственного интеллекта должны принимать более эффективные меры, чтобы неопубликованные статьи и исследовательские данные не использовались для обучения моделей. Он призвал предоставить исследователям чёткие и подробные возможности контроля над своими данными, внедрить прозрачную политику хранения данных и получать явное согласие вместо неоднозначных настроек по умолчанию.
Местре отметил, что данные, полученные в процессе вывода модели, необходимо отделять от обучающих данных, и выступил за возможность контролировать доступ агентов искусственного интеллекта к связанным сервисам.
Местре заявил, что в чувствительных научных исследованиях возрастёт значение специализированных систем искусственного интеллекта, не передающих данные за пределы организации, а также моделей с открытым исходным кодом, работающих под контролем самих учреждений.
Биолог заявил, что искусственный интеллект стал постоянной частью научных исследований, а основной задачей является создание инфраструктуры, которая позволит учёным пользоваться этими инструментами, не теряя контроля над неопубликованными работами, конфиденциальными данными и источниками своих идей.