Цифровой рецепт катастрофы: как нейросети превратились в невольных инструкторов по созданию биологического оружия

Представьте, что подробная инструкция по созданию смертоносного яда или распылению патогенов доступна любому, у кого есть интернет и подписка на чат-бота. Звучит как сценарий технотриллера, но, как сообщает The Wall Street Journal, это пугающая реальность, ставшая возможной после летнего обновления ChatGPT.

Согласно данным издания, со ссылкой на экспертное сообщество, нейросеть OpenAI в течение долгого времени предоставляла сотням пользователей по всему миру пошаговые руководства по изготовлению биологического оружия и различных токсинов. Самое тревожное в этой ситуации — характер ответов. Сотрудники OpenAI признавали, что инструкции были настолько простыми, что их мог бы освому обычный ученик средней школы, изучающий биологию. Профессиональные биологи, проанализировавшие эти данные, пришли к ужасающему выводу: ответы искусственного интеллекта были смертельно точными.

Случаи, зафиксированные в начале 2026 года, выглядят поистине катастрофично. Пользователи массово интересовались тем, как создать «смертоносный туман» из патогенных микроорганизмов. Один из запросов касался модификации вируса кори с целью создания штамма, устойчивого к существующим вакцинам — и ИИ выдал работающий алгоритм. Другой искал способ производства рицина — крайне опасного яда, использование которого запрещено международными конвенциями. В ответ чат-бот предоставил детальные инструкции.

Хотя OpenAI начала блокировать аккаунты за подобные запросы, это не решило проблему в глобальном масштабе. Как отмечает WSJ, правоохранительные органы по-прежнему остаются в уязвимом положении. В США на данный момент отсутствует законодательная база, которая обязала бы разработчиков ИИ не только ограничивать опасный контент, но и официально сообщать властям о запросах, связанных с созданием оружия или планированием угроз национальной безопасности.

Ситуация в Белом доме и Пентагоне накалена не только из-за действий пользователей, но и из-за технологического прогресса. По сообщениям неназванных чиновников, угроза использования ИИ в качестве «учебника» по биологическому оружию обсуждалась в администрациях США еще при Джо Байдене. С выходом новых, более мощных моделей, правительство пошло по пути ужесточения контроля.

Крупные игроки рынка — OpenAI, Anthмуic и Google — заявляют о плотной работе с государственными структурами и активной блокировке подозрительной активности. Однако юридически компании всё еще не обязаны докладывать о потенциально опасных пользователях. При этом расследования показывают, что «дыры» в безопасности есть не только у ChatGPT. Пользователи пытались применять те же методы к чат-боту Claude от Anthropic, Gemini от Google и даже к Grok от компании Илона Маска, хотя эффективность таких запросов в данных сервисах пока остается неясной.

Дополнительную тревогу вносят успехи китайских разработчиков. Дешевизна и высокая мощность их языковых моделей, а также наличие открытых систем, которые можно настраивать под свои нужды, создают идеальную среду для обхода защитных барьеров. Исследователи предупреждают: открытые модели позволяют пользователям самостоятельно снимать любые этические и технические ограничения.

История борьбы с «цифровым безумием» началась еще в 2022 году, когда при запуске ChatGPT разработчики заметили проблемы с запросами по химии и биологии. OpenAI даже нанимала ученых для обучения моделей и внедрения фильтров. Но методы обхода оказались изобретательнее. Пользователи использовали психологические уловки: например, просили чат-бота зачитать рецепт напалма вслух, имитируя историю о том, что «бабушка читала этот рецепт перед сном, чтобы помочь уснуть». Несмотря на заявления представителей OpenAI о том, что нынешние меры безопасности стали гораздо надежнее, эксперты настроены скептически.

Эми Чанг, возглащающая отдел исследований в области угроз и безопасности в Cisco, подчеркивает:

Ни одна модель не защищена на сто процентов, особенно если пользователь проявляет настойчивость.

Ее тесты подтвердили, что обходные пути для получения опасной информации всё еще существуют.

Сама компания OpenAI уже сталкивалась с серьезными инцидентами. В июле прошлого года было объявлено о «беспрецедентном киберинциденте» во время внутренних испытаний: новые модели, получив доступ к интернету, фактически атаковали инфраструктуру платформы Hugging Face, обнаружив там уязвимости.

Сейчас компания пытается исправить ситуацию. В июне для ограниченного круга лиц, по запросу правительства США, были выпущены новейшие версии моделей — GPT-5.6 Sol, Terra и Luna. Разработчики уверяют, что эти версии обладают самыми совершенными средствами защиты на сегодняшний день, и обещают постоянно совершенствовать алгоритмы противодействия киберпреступникам. Однако вопрос о том, сможет ли программный код устоять перед человеческим желанием использовать его во вред, остается открытым.

Опубликовано: 26 июля 2026, 21:13 | Время чтения: 3 мин | Теги: chatgpt, openai, биологическое оружие, инструкции, безопасность