Российские нефтегазовые компании активно внедряют искусственный интеллект. По данным исследования Kept, около 91% специалистов отрасли готовы применять ИИ в работе, но не могут полностью ему доверять. Причина в том, что технологии несут риски, которые бьют по безопасности инфраструктуры.
В статье разберём, какие новые риски может создать ИИ в нефтегазовом секторе и какие появились новые векторы атак, связанные с нейросетями.
Атаки становятся умнее
Киберпреступники тоже освоили ИИ. В первом полугодии 2025 года число хакерских атак на предприятия топливно-энергетического комплекса России выросло на 40% по сравнению с тем же периодом прошлого года. Почти треть действующих на территории страны преступных группировок ориентированы именно на нефтегазовые предприятия.
Изменилась и их мотивация. Если в 2024 году 60% атак были нацелены на кражу денег, то в 2025 году таких стало лишь четверть. Зато выросла доля атак с шпионскими целями — до 41%. Злоумышленники подолгу сидят внутри сети, собирают переписку, деловые документы, схемы взаимодействия и стратегические планы. Такие материалы открывают путь к промышленному шантажу, манипуляциям на рынке и продаже сведений конкурентам.
Отдельная история — DDoS-атаки. В первые месяцы 2025 года их количество выросло в восемь раз по сравнению с началом 2024-го, достигнув 9,4 тысячи. Почти 90% пришлись на январь, сразу после введения новых санкций. Для компаний с непрерывным производственным циклом даже короткий сбой в работе цифровых сервисов оборачивается остановкой процессов, срывом поставок и репутационными потерями.
Специалисты Positive Technologies отмечают ещё один сдвиг: злоумышленники всё чаще нацелены на нарушение технологического процесса. Такие атаки менее заметны, но при этом более разрушительны. Например, целенаправленные операции против промышленных систем управления включают компрометацию инженерных станций и контроллеров, переход из офисной сети в технологический сегмент и подмену логики работы программируемых контроллеров (те же датчики температуры, давления или оборотов приводов). Отдельную опасность представляют атаки на системы противоаварийной защиты, когда злоумышленник пытается отключить защитные барьеры, отделяющие критическое оборудование от аварийных режимов.
Где ИИ создает новые проблемы
Когда компания использует ИИ для разработки программного обеспечения, она получает по факту уязвимый код. По отчёту «Информзащиты», за 2025 год количество уязвимостей, связанных с использованием ИИ в разработке, выросло почти на 30%. Программы, созданные с помощью ИИ, содержат в 15 раз больше уязвимостей, чем традиционное ПО. Наиболее частые проблемы — отсутствие фильтрации пользовательского ввода (76% случаев) и некорректная авторизация (52%).
Но это касается не только внутренней разработки. Многие компании используют готовые ИИ-ассистенты для написания кода, и те воспроизводят устаревшие и уязвимые практики. В итоге уязвимые системы вводятся в эксплуатацию с большой скоростью, а надлежащий аудит кода не успевает за новыми темпами.
Теперь посмотрим на проблему с другой стороны. Когда ИИ уже работает в производственном контуре, появляются новые угрозы. Дело в том, что ИИ-модели уязвимы для атак и подмены информации, а слабым местом становятся узлы соединения с протоколами передачи первичных данных, поступающих от систем и датчиков на промышленных объектах. Если злоумышленник незаметно внедрит искаженные показания датчиков в обучающие данные, система предиктивного обслуживания может не распознать реальный износ оборудования. Это приведет к незапланированным остановкам и дорогостоящему ремонту.
Угрозы возникают на трёх уровнях:
-
данные,
-
инфраструктура
-
и поведение самой модели.
Эксперты указывают (в качестве угроз) на подмену телеметрии и искажение данных, некорректные решения и деградацию качества работы модели. ИИ-модели часто обладают технологической незрелостью, а энергетика очень чувствительна к настоящим данным — там, где речь идет о реальном управлении сетями, одна ошибка может привести к серьёзной аварии для целого региона. Понимание этой трёхуровневой природы рисков помогает выстраивать защиту системно.
Еще один слой рисков связан с поведением самих моделей. ИИ-системы иногда ошибаются в фактах и их интерпретациях (галлюцинируют), а результаты их работы критически зависят от качества данных и формы постановки задач. Многие модели не раскрывают логику своих решений (хотя бы потому, что в них не заложена такая возможность), что затрудняет верификацию результатов. В нефтегазовой отрасли, где цена ошибки измеряется миллиардами рублей и человеческими жизнями, такая неточность явно недопустима.
Существует также проблема избыточной зависимости от ИИ. Когда специалисты по безопасности начинают воспринимать ИИ-инструменты как безошибочные(!), они перестают перепроверять результаты. Операторы условно, привыкают к ложным срабатываниям и начинают игнорировать предупреждения, а при инцидентах не могут восстановить логику принятия решений из-за отсутствия записей вывода модели. Механизмы подавления ошибочных сигналов могут даже не логировать свои решения, что мешает посмотрем-анализу.
Новые векторы атак на ИИ-системы
ФСТЭК России в декабре 2025 года впервые официально признала искусственный интеллект источником киберугроз для критической ИТ-инфраструктуры. В банк данных угроз внесены риски, связанные с кражей модели машинного обучения и обучающих данных, отравлением обучающих выборок и модификацией весов модели, атаками через запросы к API и агентам, а также с отказами в обслуживании систем ИИ.
Угрозы разделены на две категории: возникающие в инфраструктуре разработчика на этапах создания и обучения модели, и реализуемые в инфраструктуре оператора на этапе эксплуатации. Для систем с ИИ, модель, обучающие данные, механизмы генерации на основе внешней информации и системные промпты следует рассматривать как самостоятельные объекты воздействия. Это означает, что защита ИИ-систем требует отдельной модели угроз для каждого такого объекта.
Промпт-инъекции возглавляют рейтинг угроз для больших языковых моделей (по версии OWASP). Работают они так: злоумышленник вводит специально сконструированный текст, и модель принимает его за инструкцию — выполняет команды, которые пользователь не давал. В корпоративной среде это может быть чревато утечкой контрактов, финансовых отчётов или технологических данных. Особенно опасно, когда ИИ-агент имеет доступ к инструментам и может совершать действия с физическим оборудованием.
Отдельного внимания заслуживает новый вектор атаки: отравление обучающих данных. Злоумышленник может постепенно и незаметно внедрять искажённые данные в обучающую выборку на протяжении длительного времени. Модель обучается на них и начинает принимать ошибочные решения (потому что данные неверны), при этом внешне система работает штатно. Обнаружить такое вмешательство крайне сложно, потому что для ИИ данные поступают как бы из легитимных источников и не вызывают подозрений у стандартных средств защиты.
Ещё одна категория угроз связана с адаптивными компонентами (механизмы тонкой настройки, позволяющие дообучать модель под конкретные задачи отрасли) — они сами становятся объектом атаки. Злоумышленник может модифицировать веса адаптивных слоёв, и модель начнёт выдавать нужные ему результаты, оставаясь внешне работоспособной. Это создаёт риск скрытого влияния на решения, которые компания принимает на основе выводов ИИ.
Что делать с нейросетями в нефтегазовом секторе
Полностью отказаться от ИИ в нефтегазовой отрасли уже не получится, потому что слишком велика выгода от автоматизации. Но выстраивать защиту нужно с учётом новых реалий. Вот несколько направлений, которые мы рекомендуем точно проработать:
