Об этом сообщила председатель правления Ассоциации разработчиков программных продуктов «Отечественный софт» Наталья Касперская на круглом столе «ИИ как угроза корпоративной безопасности» в ТАСС.
По ее словам, сейчас практически все компании так или иначе пытаются использовать ИИ-инструменты. Очень много говорится о том, какие плюсы у искусственного интеллекта, но довольно мало говорится о рисках. В проведенном опросе в основном приняли участие специалисты по информационной безопасности, так что его результаты можно считать вполне репрезентативными, сообщила Наталья Касперская.
Отвечая на вопрос, какие векторы угроз использования ИИ можно назвать самыми критичными, 89% респондентов указали на риск передачи сотрудниками конфиденциальных данных в публичные ИИ-сервисы. 59% – на возможность раскрытия информации, переданной в публичные ИИ-сервисы третьими лицами. 59% опасаются неконтролируемой передачи данных встроенными ИИ-агентами. 30% указали на риски генерации недостоверной информации и ее последующего использования без верификации; 28% – на фишинг с подменой интерфейсов ИИ поддельными сайтами общедоступных ИИ-сервисов. 24% опасаются нарушения прав доступа к разным категориям корпоративных данных. 46% участников опроса заявили о том, что уже сталкивались со случаями утечек через ИИ или знают о таких случаях. При этом респонденты упомянули следующие наиболее распространенные случаи утечек: модель при обучении находила пароли от привилегированного доступа и передавала их в облако; сотрудники передавали конфиденциальные корпоративные данные в публичные ИИ-сервисы.
Большинство респондентов (59%) частично согласны с необходимостью мер по регулированию ИИ, однако важно, чтобы они не сказывались на эффективности бизнеса. При этом большинство участников опроса считают, что существующих мер регулирования уже достаточно (11% ответили, что достаточно, а 59% – что скорее достаточно). 14% считают, что недостаточно, а 16% – что скорее недостаточно.
Меры регулирования, предложенные для оценки респондентами, были следующими: во-первых, регулирование на уровне государства – запрет на использование ИИ-моделей для целей бизнеса в ключевых отраслях и введение обязательных пометок сгенерированного контента. Во-вторых, регулирование на уровне бизнеса: ограничения использования ИИ внутри компаний для решения рабочих задач и запрет на использование открытых общедоступных ИИ-моделей, а также необходимость дополнительной верификации при решении рабочих задач с помощью ИИ.
При этом большинство респондентов отметили, что в их организациях уже применяются меры для снижения рисков от применения ИИ-инструментов: 46% сообщили, что в их организациях разрешено пользоваться ИИ-инструментами, но с ограничениями. 48% сообщили, что для снижения рисков проводится обучение сотрудников, 30% отметили, что в их организациях усиливаются методы контроля.
Отвечая на вопрос, видите ли вы пользу от применения ИИ в бизнес-процессах, 59% ответили, что пользы видят больше, чем рисков, 34% – что рисков больше, чем пользы. 7% полагают, что эта область пока еще недостаточно изучена и слишком динамично развивается для однозначной оценки.
Директор по информационной безопасности MWS Cloud Виктор Бобыльков рассказал на круглом столе об основных проблемах пользователей при работе с ИИ. Согласно приведенным им данным, 73% пользователей считают, что ИИ выдает неточную и устаревшую информацию, 21,8% сетуют на то, что сложно правильно сформулировать запрос, 49% указали на риски утечки кода и данных, и лишь 13,6% заявили о том, что проблем нет, все отлично.
Сергей Ишков.
Иллюстрация создана нейросетью
