Более половины российских компаний подозревают утечки данных через ИИ-инструменты
Свыше половины российских компаний (50,5%) либо подозревают утечки конфиденциальной информации через инструменты искусственного интеллекта, либо уже столкнулись с подобными инцидентами. Об этом свидетельствуют результаты совместного исследования УЦСБ и ГК «Солар», проведенного среди 102 организаций из сфер телекоммуникаций, промышленности, финансов, государственного сектора, энергетики, транспорта, логистики, торговли, медицины и строительства.
Согласно исследованию, 42,4% респондентов сообщили о подозрениях на утечки данных без подтвержденных случаев, тогда как 8,1% организаций уже зафиксировали реальные инциденты. При этом почти половина опрошенных компаний (49,5%) заявили, что не сталкивались с подобными проблемами и не подозревают о наличии подобных рисков.
Особое внимание исследование уделяет причинам сложившейся ситуации. Наиболее востребованным направлением в сфере обеспечения безопасности искусственного интеллекта оказалось развитие компетенций сотрудников и формирование внутренних регламентов. О нехватке обучения персонала и политик AI Security сообщили 63,6% участников исследования. Этот показатель значительно превышает спрос на технологические решения, такие как специализированные LLM для AppSec (45,5%), построение MLSecOps (39,4%), внедрение AI-файрволов (35,4%) или аудит безопасности, red teaming и тестирование ИИ-систем (37,4%).
«Искусственный интеллект уже стал повседневным рабочим инструментом для бизнеса, однако скорость его внедрения заметно опережает формирование культуры безопасного использования. Во многих случаях сотрудники передают в публичные ИИ-сервисы документы, коммерческие данные или внутреннюю переписку, не осознавая, что такая информация может покинуть защищенный корпоративный контур. Риски утечек сегодня становятся не теоретическими, а вполне практическими», — отметил член комитета Государственной Думы по информационной политике, информационным технологиям и связи Антон Немкин.
По словам депутата, результаты исследования подтверждают, что главным вызовом сегодня становится не дефицит технологий, а недостаточная зрелость процессов управления их использованием.
«Показательно, что компании в первую очередь говорят о необходимости обучения сотрудников и создания внутренних правил работы с искусственным интеллектом, а не только о внедрении новых средств защиты. Даже самые современные решения не смогут компенсировать отсутствие понятных регламентов и цифровой грамотности персонала. AI Security сегодня — это прежде всего вопрос корпоративной культуры и управленческой дисциплины», — подчеркнул Немкин.
Парламентарий также отметил, что по мере распространения генеративных моделей вопросы защиты данных будут приобретать все большую актуальность.
«В ближайшие годы организациям предстоит выстроить комплексную систему управления рисками при использовании ИИ. Она должна включать классификацию данных, определение допустимых сценариев применения нейросетей, регулярное обучение сотрудников и постоянный контроль соблюдения установленных правил. Такой комплексный подход позволит использовать преимущества искусственного интеллекта без ущерба для информационной безопасности бизнеса и государственных структур», — заключил Антон Немкин.
Подписывайтесь на Новости Санкт-Петербруга в Дзене.
