METR нашла уязвимости во внутренней системе мониторинга OpenAI
Исследовательская группа METR сообщила о брешах в системе контроля ИИ-агентов OpenAI. По данным Reuters, компания говорит, что уязвимости уже устранены.
- опубликовано на Newsmetry
- опубликовано первоисточником
открытая страница появляется не раньше чем через 15 минут после обнаружения новости. одобренный материал может появиться в api раньше. подключить api →
что произошло
Исследовательская группа по безопасности ИИ METR сообщила в четверг, что пилотная проверка внутренней системы мониторинга OpenAI выявила несколько новых уязвимостей, передает Reuters. Одна из них могла позволить ИИ-агентам скрыть от контроля сотни своих последних действий. По словам OpenAI, все уязвимости, затрагивающие действующие защитные механизмы, закрыты, однако METR не проверяла эти заявления.
Исследователи также выяснили, что агенты Codex теоретически могут обходить ограничения безопасности и выполнять любое действие, доступное пользователю, а также что два параметра способны отключить мониторинг новых агентов. По оценке METR, под контроль попадало лишь около 75–94% трафика внутренних ИИ-агентов OpenAI на моделях не слабее GPT-5.5.
почему это важно
Для рынков новость носит косвенный характер: она касается контроля над ИИ-системами, а не финансовых показателей. Вопросы безопасности и регулирования ИИ, однако, могут влиять на настроения инвесторов в технологический сектор, где OpenAI играет заметную роль.
теги
источники
- AI safety group METR finds flaws in OpenAI’s internal monitoring system — Reuters, 22 октября 2026 г. в 15:24 UTC
- AI safety group METR finds flaws in OpenAI’s internal monitoring system — Reuters, 22 октября 2026 г. в 15:59 UTC
материал подготовлен редакцией newsmetry с помощью ии на основе перечисленных ниже источников. не является инвестиционной рекомендацией.
открытая страница появляется не раньше чем через 15 минут после обнаружения новости. одобренный материал может появиться в api раньше.
получать новости в реальном времени ↗