OpenAI: Роль ИИ в научных исследованиях и предостережения о рисках

Введение

OpenAI опубликовала внутренние данные о том, как ИИ-агенты начинают активно участвовать в разработке моделей, и заявила о достижении своей цели - создания автоматизированного исследовательского интерна. Однако главный ученый компании Якуб Пачоцкий предостерегает: ни одна лаборатория не справилась с контролем этих систем.

Достижения OpenAI

OpenAI выпустила два сопоставленных текста. Один из них является блогом с внутренними метриками, а другой - эссе Пачоцкого под названием «Иностранный разум». Основная идея заключается в том, что OpenAI движется к рекурсивному саморазвитию (RSI), что может быть опасно.

Автоматизированный исследовательский интерн

Компания утверждает, что достигла своей цели - создания «автоматизированного исследовательского интерна», который может выполнять четко определенные задачи под руководством человека. Однако OpenAI не предоставляет подробной валидации этого утверждения.

Рост производительности

Согласно отчету, медианный исследователь в OpenAI тратит более 600 долларов в день на использование API, а 90-й процентиль превышает 7000 долларов. Выход токенов медианного исследователя увеличился в 124 раза с декабря 2025 года.

Успехи и ограничения агентов

Работа, которая передается агентам, меняется. Наибольший рост наблюдается в написании исследовательских и инфраструктурных кодов, технической помощи и мониторинге тренировочных запусков. Однако более высокоуровневые решения остаются небольшой частью выходных данных агентов.

Контроль и предостережения

Пачоцкий поднимает важные вопросы контроля. Он утверждает, что инструменты мониторинга теряют свою надежность, и выражает опасения, что никто не готов к последствиям быстрого роста машинного интеллекта.