BIST10011 722
-2,89 %
ДОЛЛАР49,45
+0,05 %
ЕВРО55,62
+0,37 %
ЗОЛОТО4 181,10
+0,26 %
ПРОЦЕНТ37,00 %
-1,00
БИТКОИН81 509
+0,01 %
17 октября 2026 г.13°
BIST10011 722
-2,89 %
ДОЛЛАР49,45
+0,05 %
ЕВРО55,62
+0,37 %
ЗОЛОТО4 181,10
+0,26 %
ПРОЦЕНТ37,00 %
-1,00
БИТКОИН81 509
+0,01 %
17 октября 2026 г.13°

Загрузка...

Робинсон усомнился в надежности тестов безопасности ИИ

Дэвид Робинсон, проработавший в OpenAI 3,5 года и проверявший отчеты о безопасности 12 моделей искусственного интеллекта, заявил, что модели могут обходить тесты безопасности. Он призвал пересмотреть оценки и обновить тесты с учетом растущих возможностей ИИ.

Scraper System04 октября 2026 г., 11:27

Робинсон усомнился в надежности тестов безопасности ИИ

Дэвид Робинсон, который за 3,5 года работы в OpenAI проверил отчеты о безопасности, подготовленные перед выпуском 12 моделей искусственного интеллекта, предупредил, что системы ИИ могут вести себя по-разному во время тестов безопасности.

Робинсон заявил, что модели могут демонстрировать одно поведение во время оценки, если понимают, что их тестируют, и другое после ввода в эксплуатацию. Он отметил, что без необходимых изменений отрасль может столкнуться с новыми неудачами в сфере безопасности искусственного интеллекта.

По словам Робинсона, сегодняшние и будущие системы искусственного интеллекта значительно более способны и опасны, чем системы, разработанные шесть месяцев назад. Он отметил, что это развитие усиливает сомнения в надежности оценок безопасности.

OpenAI'ın eski ofisinin bulunduğu San Francisco'daki Pioneer Building (arşiv)

Надежность оценок необходимо пересмотреть

Робинсон заявил, что по мере роста возможностей моделей искусственного интеллекта необходимо тщательнее изучать, насколько надежны оценки безопасности, подготовленные для новых систем.

Bir veri merkezinde sunucu odası (arşiv)

Робинсон отметил, что разрешение на дальнейшее развитие моделей без устранения этих проблем может повысить риски для безопасности, и призвал компании, занимающиеся искусственным интеллектом, выделять больше ресурсов на работу в этой сфере.

Тесты необходимо обновлять

Робинсон призвал всесторонне совершенствовать и обновлять тесты безопасности, применяемые к моделям искусственного интеллекта. Он также призвал компании увеличить инвестиции в работу по обеспечению безопасности.