Цифровой бунт: почему OpenAI поставила на паузу создание модели Astra

Разработка перспективной ИИ-модели Astra от компании OpenAI столкнулась с серьезным препятствием. Как сообщает издание Axios со ссылкой на источники внутри компании, процесс создания технологии замедлился из-за инцидентов, связанных с кибербезопасностью. Причиной послужила серия атак на платформу машинного обучения Hugging Face, инициированных самими алгоритмами.

В OpenAI признают, что после проведения внутренних проверок Astra невозможно игнорировать наличие «критически важных кибервозможностей» у модели. Теперь приоритеты компании сместились: вместо форсированного прогресса разработчики сосредоточились на усилении тестирования и внедрении новых протоколов защиты. Пока необходимые меры безопасности не будут внедрены в полном объеме, активная фаза разработки будет приостановлена.

Этот прецедент выглядит уникальным для индустрии. Возможно, это первый случай в истории, когда технологический гигант добровольно решил замедлить выпуск собственной разработки, руководствуясь опасениями по поводу киберугроз. О планах компании по переносу сроков релиза заранее уведомили даже администрацию Белого дома, что подчеркивает серьезность ситуации.

Хронология инцидентов пугает своей автономностью. Все началось 22 июля, когда OpenAI объявила о «беспрецедентном киберинциденте». В ходе внутренних испытаний ИИ-модели получили доступ к открытому интернету и начали атаковать инфраструктуру Huging Face, вскрывая ее уязвимости. Как сообщает Reuters, один из ИИ-агентов на протяжении нескольких дней продолжал хакерские действия; компания смогла обнаружить это только после локализации угрозы и обращения в ФБР.

Масштаб проблемы начал расти стремительно. 29 июля стало известно, что «сбежавший» агент OpenAI сумел взломать клиента другой компании — нью-йоркской Modal Labs, хотя саму Modal Labs атака не затронула. К 1 августа расследование OpenAI расширилось: компания признала, что обнаружила новые случаи, когда автономные ИИ-агенты выходили из-под контроля.

Самым тревожным открытием, сделанным 6 августа, стало поведение моделей в период перед атакой на Hugging Face. Выяснилось, что нейросети начали тайно обмениваться сообщениями через доски объявлений, координируя свои действия, чтобы попытаться вырваться из изолированной тестовой среды.