Специалисты из РТУ МИРЭА и ЦЭМИ РАН совместно с Российским научным фондом разработали нейросетевую систему, способную определять эмоциональные состояния. Технология фиксирует признаки стресса, возникающие при общении с мошенниками. Результаты анализируются на основе информации, собираемой с умных часов и фитнес-браслетов, включая частоту сердцебиения, вариабельность сердечного ритма и повышение артериального давления.
— Расскажите, пожалуйста, о вашей разработке. На каких принципах она основана?
— В проекте, финансируемом грантом Российского научного фонда, участвуют эксперты из РТУ МИРЭА и математики из ЦЭМИ РАН. Нами была создана гибридная нейросетевая модель обработки биометрической информации, направленная на борьбу с телефонными мошенниками. Кроме того, проект имеет значительное научное значение, поскольку исследуется возможность разработки нейросетей, основанных на теореме Колмогорова — Арнольда. Это новая архитектура нейросетей, открытая недавно и уже привлекшая внимание учёных worldwide.
Наша система оценивает изменение эмоционального состояния человека, основываясь на данных электроэнцефалографии (ЭЭГ). Существенные отклонения от нормы могут свидетельствовать о том, что данный человек находится в процессе общения с преступниками.
Чтобы смоделировать типичные реакции, которые стараются вызвать у потенциальной жертвы мошенники, мы используем базы данных биологических показателей стресса, полученные с помощью Трирского социального стрессового теста (TSST). Он позволяет изучать различные реакции на стресс и применяется во многих психологических исследованиях.
— Какие эмоции могут сигнализировать, что человека пытаются обмануть мошенники?
— Показателей несколько, в частности вариабельность сердечного ритма, частота сердечных сокращений и артериальное давление. Во время общения с мошенниками человек, как правило, проходит через несколько стадий: нейтральное состояние, переход к пику страха, затем — рост грусти и частичное восстановление спокойствия. Это соответствует трём этапам развития ситуации: восприятие угрозы, сужение внимания и импульсивное действие.
Применяя обученную ИИ-модель к записям активности мозга, мы строим временные графики вероятности этих эмоций.
Эффективность социальной инженерии, включая нейрофишинг или телефонное мошенничество, во многом определяется эмоциональным состоянием жертвы. Преступники, угрожая ей или сообщая о возможных потерях, намеренно вызывают у нее страх, грусть или отвращение.
Преступники обычно торопят жертву, и спешка ещё больше ослабляет когнитивный контроль. В этот момент очень важно сделать осознанную паузу, проверить информацию через независимые каналы, чтобы избежать импульсивных действий.
— Как выглядит противодействие социальной инженерии с точки зрения вычислений?
— Наше исследование сфокусировано на нескольких направлениях: разработка и проектирование эффективных нейросетевых архитектур, алгоритмы предобработки данных и методы оптимизации вычислений.
Как я говорила, важная задача — изучение возможностей нейросетей на основе теоремы Колмогорова — Арнольда. Такой тип архитектуры интересен тем, что позволяет разложить сложные зависимости на более простые, то есть снизить вычислительную сложность без потери точности.
Другое важное свойство нейросетей с подобной архитектурой — интерпретируемость: работу модели можно описать понятным для человека математическим языком. Это принципиально важно для систем кибербезопасности. С точки зрения математических проблем информатики противодействие социальной инженерии — это работа с неструктурированными данными, графами и временными рядами в условиях высокой неопределённости.
— Существуют ли аналоги вашей модели и в чём она их превосходит?
— Уже есть массив работ по распознаванию эмоций на основе ЭЭГ, растёт интерес к изучению механизмов социальной инженерии, но сохраняется и ряд критических пробелов.
Мы впервые предложили гибридную архитектуру, где в рамках единого комбинированного подхода обучаемые функции интегрируются одновременно в обе ветви обработки сигналов мозга — временную и спектральную. Этот подход позволяет использовать преимущества более гибкого математического представления, чем классические нейросети.
Кроме того, мы впервые применили обученные классификаторы эмоций к записям социального стрессового теста, что позволило рассчитать профили уязвимости при столкновении с мошенничеством.
— Как планируется реализовать технологию на аппаратном уровне?
— Пока мы работаем над моделями, алгоритмами и методами эффективной обработки данных. Позже при поддержке технологического партнёра проекта АО «Российская корпорация ракетно-космического приборостроения и информационных систем» планируем перейти от прототипирования к промышленному выпуску.
Мы предполагаем интегрировать технологию в носимые устройства, например в умные часы или фитнес-браслеты. Это позволит создать рекомендательную систему, которая сможет обрабатывать биомедицинские сигналы в режиме реального времени.
— Когда данные собраны и алгоритм распознаёт мошенника на другом конце провода, что будет предпринято для защиты потенциальной жертвы?
— Систему можно настроить по-разному. При превышении порога, например, страха она может прерывать телефонный звонок, сообщать об уровне угрозы или передавать информацию третьей стороне, в частности правоохранительным органам.
— Какова точность работы модели?
— Точность модели сегодня достигает примерно 90%, этого достаточно для тестирования технологии. Но мы планируем улучшить алгоритм в нынешнем году и уже работаем над этим.
— Вы говорили, что хотите использовать искусственный интеллект для анализа биомедицинских показателей и обработки естественного языка. Не кажется ли вам, что это проще, чем анализировать уровень стресса?
— У нас есть идеи по интеграции семантического анализа, например объединение ЭЭГ-классификатора эмоций с NLP-моделями, которые обучены генерации и пониманию речи.
— Где ещё можно применять вашу разработку?
— Мы создали модель и алгоритмы для мультидисциплинарных приложений. Это значит, что, помимо выявления мошенников, технология может применяться в широком спектре нейроинтерфейсов — от систем поддержки водителей до телемедицины или продвинутых средств аутентификации.
— Как решится вопрос с охраной персональных данных клиентов?
— Это достаточно чувствительный вопрос. Пока такие технологии не распространены, они вызывают недоверие. Но есть и немало технооптимистов. Государство и бизнес адаптируют нормативно-законодательную базу. Поэтому предположу: через некоторое время нейроинтерфейсы станут массовой историей.
