Студентка Astana IT University Айганым Тулебаева представила на выставке AI-Sana собственную разработку ExoAI, которая призвана снизить риск утечки конфиденциальной информации при использовании компаниями больших языковых моделей. Система не позволяет чувствительным корпоративным данным передаваться во внешние ИИ-сервисы в открытом виде, передает inbusiness.kz со ссылкой на министерство науки и высшего образования РК.
Искусственный интеллект уже активно используется в работе малого и среднего бизнеса, крупных компаний и организаций финансового сектора. Сотрудники применяют большие языковые модели для автоматизации рутинных операций, подготовки текстов, анализа информации и решения других повседневных задач.
"Однако вместе с удобством появляются и новые риски для информационной безопасности. При работе с публичными ИИ-сервисами сотрудник может по ошибке передать персональные данные, банковские реквизиты или другую конфиденциальную информацию. Если такие сведения попадут во внешнюю систему в открытом виде, компания может столкнуться с серьезными последствиями", - отметили в миннауки Казахстана.
Проект ExoAI предлагает использовать дополнительный защитный слой между корпоративной инфраструктурой и внешними большими языковыми моделями.
"Решение представляет собой прокси-сервер, построенный по принципу Zero Trust — "нулевого доверия". Он выступает посредником между внутренними системами компании и внешними ИИ-сервисами, анализируя информацию перед ее передачей",- пояснили в ведомстве.
Если система обнаруживает конфиденциальные сведения, они заменяются защищенными токенами или зашифрованными значениями. Благодаря этому исходная информация не отправляется публичной языковой модели в открытом виде.
"ExoAI также предусматривает систему оповещений. Она позволяет выявлять подозрительные действия и попытки обойти установленные механизмы защиты, в том числе с помощью jailbreak-атак. Получая такие сигналы, компания может оперативнее реагировать на потенциальные угрозы и контролировать использование сотрудниками ИИ-инструментов", - уточнили в министерстве.
Одной из особенностей проекта является ориентация на корпоративные данные и форматы, которые используются в Казахстане. По словам разработчицы, задача заключается, в том числе в адаптации механизмов защиты к таким сведениям, как бизнес-идентификационные и банковские реквизиты.
"Уже сегодня искусственный интеллект становится частью повседневных рабочих процессов, поэтому важно обеспечить его безопасное использование. ExoAI помогает компаниям применять возможности больших языковых моделей, сохраняя конфиденциальность данных. Участие в выставке AI-Sana дало мне возможность представить свою разработку, познакомиться с другими технологическими проектами, получить обратную связь и найти потенциальных инвесторов и партнеров для дальнейшего развития решения", – отметила разработчица Айганым Тулебаева.
По сути, проект направлен на решение одной из ключевых проблем корпоративного использования ИИ: как дать сотрудникам доступ к возможностям современных нейросетей, не создавая при этом дополнительный канал для утечки чувствительной информации.
Выставка AI-Sana стала для молодых разработчиков площадкой, где они могут представить собственные технологические решения, получить обратную связь от специалистов и установить контакты с представителями бизнеса и инвестиционного сообщества.
Проект ExoAI показывает, что развитие искусственного интеллекта сопровождается не только созданием новых цифровых сервисов, но и поиском способов их безопасного применения. Для бизнеса это особенно актуально по мере того, как ИИ становится частью ежедневных рабочих процессов, а защита корпоративной информации — одним из ключевых условий цифровой трансформации.
Читайте по теме:
Токаев об ИИ: Требования должны быть строгими, но не чрезмерно
