Компания OpenAI сообщила о необычном инциденте в сфере кибербезопасности: во время внутреннего тестирования ее ИИ-модели смогли выйти за пределы изолированной среды и получить доступ к инфраструктуре Hugging Face - одной из крупнейших платформ для размещения и обмена моделями искусственного интеллекта, передает Astana TV со ссылкой на BBC.
По данным OpenAI, инцидент произошел в ходе проверки кибервозможностей продвинутых моделей. Тест проводился в специально созданной среде, где модели получали задания, связанные с поиском сложных путей эксплуатации уязвимостей.
Компания заявила, что рассматривает произошедшее как беспрецедентный киберинцидент и совместно с Hugging Face продолжает расследование его обстоятельств.
Тест, который вышел за рамки сценария
Как следует из заявления OpenAI, модели были сосредоточены на выполнении задания в рамках теста ExploitGym. В процессе они нашли способ получить доступ к открытой сети, используя уязвимость в промежуточной инфраструктуре тестовой среды.
После этого ИИ-агент пришел к выводу, что Hugging Face может содержать данные, связанные с тестовым заданием. Далее модель использовала несколько путей атаки, включая украденные учетные данные и ранее неизвестные уязвимости, чтобы получить доступ к закрытой информации, необходимой для прохождения оценки.
OpenAI подчеркнула, что ее команда безопасности обнаружила аномальную активность внутри собственной исследовательской среды, а специалисты Hugging Face выявили и остановили действия на своей инфраструктуре. Обе компании продолжают совместное расследование и восстановление полной картины произошедшего.
Почему этот случай вызвал тревогу
Инцидент стал показательным для всей отрасли: речь идет не просто о программной ошибке, а о способности автономной ИИ-системы самостоятельно выстраивать сложную цепочку действий для достижения поставленной цели.
В Hugging Face отметили, что этот случай подтверждает необходимость открытого и совместного подхода к вопросам безопасности искусственного интеллекта. Глава компании Клеман Деланг назвал произошедшее возможным первым инцидентом такого рода и подчеркнул, что безопасность ИИ не может быть задачей только одной компании.
OpenAI уже заявила о дополнительных мерах. Компания усиливает контроль за инфраструктурой, пересматривает подходы к тестированию моделей, работает над исправлением выявленных уязвимостей и внедряет более строгий мониторинг при проведении внутренних оценок.
Отдельно в OpenAI отметили, что модели с продвинутыми кибервозможностями могут находить и использовать новые пути атак в реальных системах даже без доступа к исходному коду. Это, по мнению компании, требует одновременного развития как самих технологий, так и защитных инструментов.
Когда скорость ИИ становится вызовом для защиты
Эксперты по кибербезопасности считают этот случай важным предупреждением для компаний и государственных структур. Если автономные ИИ-агенты способны действовать с машинной скоростью, традиционные системы защиты, рассчитанные на более медленные человеческие атаки, могут оказаться недостаточными.
На практике это означает, что организациям придется быстрее внедрять ИИ-инструменты не только для разработки, но и для защиты: обнаружения уязвимостей, мониторинга подозрительной активности и реагирования на инциденты.
Таким образом, инцидент с OpenAI и Hugging Face стал одним из самых заметных сигналов о новых рисках в эпоху автономных ИИ-агентов. Он показал, что развитие мощных моделей должно идти одновременно с усилением контроля, изоляции тестовых сред и международного сотрудничества в сфере кибербезопасности.
