Угроза, прочь!

Студенты 3 курса кафедры бизнес-информатика УрГЭУ, проходящие обучение по совместной международной образовательной программе УрГЭУ-ТГЭУ, разработали AI-Инспектор сообщений, который за секунды определит, пытаются ли вас обмануть в письме или сообщении.

ИИ-приложение AI-Инспектор сообщений — это сервис, который анализирует тексты писем, СМС и постов и определяет уровень риска: низкий, средний и высокий.

Над проектом работали Муроджон Абдазов, Азизбек Абдуллаев и Марат Нуритдинов под руководством заведующего кафедрой бизнес-информатики УрГЭУ, доктора экономических наук, профессора Дмитрия Назарова в рамках курса «Основы информационной безопасности». Как отмечают студенты, приложение уже умеет обнаруживать фишинговые фразы («срочно», «аккаунт будет заблокирован», «подтвердите данные»), находить все ссылки в сообщении, использовать нейросеть для оценки эмоционального давления текста на потенциального получателя сообщения, а также формировать понятный отчет с рекомендациями.

Приложение создано на платформе Hugging Face Space и доступно онлайн в Gradio- интерфейсе.

«Сегодня использование любой цифровой платформы — почты, мессенджера, соцсетей — связана с рисками информационной безопасности. Злоумышленники стали умней, а их сообщения — правдоподобнее. Мы учим студентов не только распознавать угрозы «на глаз», но и создавать инструменты, которые помогают обычным пользователям защищать себя от фишинговых сообщений. Разрабатывая это приложение, студенты увидели, что информационная безопасность — это интереснейшая отрасль науки, которая требует знания информационных технологий и основ искусственного интеллекта», - отметил Дмитрий Назаров.

Это пример того, как совместные образовательные программы могут сочетать основы обучения в сфере информационной безопасности, анализа данных и современных LLM-технологий.

Команда планирует провести разбор кейсов и показать, как работает приложение «в боевых условиях».

Студенты УрГЭУ разработали ИИ-приложение для защиты от фишинга