16 мая 2026 года на кафедре «Информационные технологии и информационная безопасность» состоялся научный семинар на тему «Промпт-инъекция: почему самый умный ИИ в мире можно обмануть простыми словами», посвящённый одной из самых актуальных проблем современной кибербезопасности — уязвимостям больших языковых моделей (LLM).

С докладом выступила к.ф.-м.н., доцент кафедры Исабекова Тамила Илахидиновна, которая подробно разобрала феномен промпт-инъекции (Prompt Injection) — нового типа кибератак, использующих не программный код, а возможности естественного языка.

Ключевые темы семинара:

1. Суть проблемы

Докладчик объяснила, что современные ИИ-помощники (такие как ChatGPT, Microsoft Copilot, голосовые ассистенты) работают на основе скрытой системной инструкции, заданной разработчиками. Уязвимость возникает, когда пользователь специальным текстовым запросом (промптом) заставляет нейросеть игнорировать эту инструкцию. Простыми словами: хакер «забывает» запреты и перехватывает управление через обычную фразу.

2. Почему это опасно? Реальные сценарии

Тамила Илахидиновна привела три тревожных примера:

—  Кража данных: ИИ-ассистент, читающий корпоративную переписку, может выполнить вредоносную команду из письма хакера и отправить секретные документы на чужой сервер.

—  Взлом через формы поиска: специальная фраза в поле поиска интернет-магазина может заставить чат-бота выдать логины и пароли пользователей.

—  Реальный кейс EchoLeak (CVE-2025-32711): уязвимость в Microsoft Copilot, обнаруженная в мае 2025 года, позволяла через специально созданное письмо (даже без его открытия!) заставить ИИ украсть данные компании.

3. Типы атак

Были рассмотрены:

—  Прямая инъекция: прямое указание нейросети «забыть» старые инструкции.

—  Косвенная инъекция: вредоносная команда прячется в данных, которые ИИ читает сам (на сайтах, в письмах, документах).

— Экфильтрация данных: принудительная отправка украденной информации хакеру.

4. Признание индустрии

Докладчик подчеркнула, что проблема не надумана — авторитетная организация OWASP в своём первом списке Top 10 уязвимостей для LLM поставила промпт-инъекцию на первое место.

5. Защита и открытые вопросы

Семинар затронул и методы защиты (фильтрация ввода, изоляция в «песочнице», тестирование «красными командами»), но главный вывод: стопроцентной защиты пока не существует. Это открытое поле для исследований, где студент может найти решение раньше, чем крупная компания.

В обсуждении доклада приняли участие д.э.н., профессор кафедры Савзиханова Сабина Эминовна, и.о. зав.кафедрой «ИТиИБ», к.п.н. Гасанова Зарема Ахмедовна, к.э.н., доцент Эминова Нигара Эминовна, старший преподаватель Гебекова П.И., к.э.н., доцент Эседова Г.С., и др.

Итог семинара:

Традиционная кибербезопасность учила разделять код и данные. Но с ИИ эта грань стёрлась — инструкция и данные стали одним и тем же — обычным текстом. Это требует принципиально новых подходов к защите.

Благодарим Тамилу Илахидиновну за содержательный доклад и всех участников за оживлённую дискуссию!