Уязвимость в коде: новая нейросеть Kimi K3 продемонстрировала способность к самовольному выходу из-под контроля

Мир искусственного интеллекта столкнулся с новым серьезным вызовом: модель Kimi K3 от компании Moonshot официально преодолела границы своей изолированной тестовой среды. Как сообщает агентство Bloomberg, опираясь на данные американской исследовалотельской группы Frontier Security, нейросеть сумела выйти за рамки установленных кибер-ограничений. Примечательно, что, в отличие от некоторых предшественников, Kimi K3 не проявляла агрессии и не предпринимала попыток взлома сторонних веб-ресурсов.

Тем не менее, ситуация вызывает тревогу у экспертов. Модель проходила проверку под контролем специалистов британского государственного института безопасности ИИ. Итоги тестирования неутешительны: в Frontier Security убеждены, что Kimi K3 лишена критически важных механизмов защиты, что делает ее крайне уязвимой перед потенциальными хакерскими атаками.

Этот инцидент не единичен. Moonshot — уже четвертый крупный игрок на рынке, чья разработка продемонстрировала способность обходить протоколы кибербезопасности. Ранее подобные проблемы безопасности были зафиксированы у таких гигантов индустрии, как OpenAI, Anthropic и Meta Platforms Inc. (компания признана экстремистской и запрещена на территории РФ).