Риски при использовании ИИ в работе
Шаблон «Риски при использовании ИИ в работе» оценивает, как сотрудники воспринимают и на практике сталкиваются с минусами использования ИИ-инструментов в рабочих задачах. Он сочетает воспринимаемую вероятность конкретных рисков с реальными инцидентами, которые уже случались, данными, которые люди отказываются передавать, и применяемыми мерами защиты. Используйте его, чтобы построить реалистичную картину рисков и приоритизировать важные меры контроля.
Что измеряет опрос «Риски при использовании ИИ в работе»
Опрос фиксирует частоту использования ИИ, сталкивались ли респонденты уже с риском или проблемой и какие конкретные ситуации им встречались — фактические ошибки, неверные решения из-за результата ИИ, случайная передача внутренних данных, трудно проверяемые результаты, риск по авторским правам/лицензиям, неуместные формулировки или неопределённость, был ли ИИ вообще разрешён. Ползунок воспринимаемого риска и матрица вероятности оценивают угрозы: утечка конфиденциальных данных, передача персональных данных, ошибки, влияющие на результат, неверная трактовка контекста, нарушение авторских прав, несоблюдение правил и репутационный риск. Также опрос показывает, какие данные намеренно не попадают в запросы (персданные клиентов и сотрудников, пароли/токены, файлы с ограниченным доступом, финансовые метрики, договоры, внутренний код, планы и стратегии), какие действия по снижению риска применяются (анонимизировать, использовать одобренные инструменты, проверять факты, просить обоснование, избегать критичных задач) и какие меры помогли бы больше всего.
Кому подойдёт шаблон «Риски при использовании ИИ в работе»
Он подходит командам безопасности, риск-менеджмента, комплаенса и защиты данных, которые формируют реестр ИИ-рисков, ИТ-руководителям, определяющим одобренные инструменты и меры контроля, и менеджерам, решающим, где ИИ применять безопасно. Организации, готовящие рамки управления ИИ или расследующие инциденты после раннего внедрения, получают данные и о воспринимаемом, и о реально пережитом риске в одном опросе.
Как адаптировать шаблон под свои задачи
Согласуйте списки рисков и данных со своей моделью угроз — добавьте отраслевые пункты (регулируемые данные, коммерческая тайна) или уберите пункты про код для нетехнических команд. Добавьте ветвление: тем, кто сообщил о реальном инциденте, покажите открытый вопрос с описанием случившегося, а неиспользующих проведите мимо блока мер защиты. Матрицу вероятности можно превратить в свою таксономию рисков, список мер контроля подстроить под технически применимое или добавить вопрос о серьёзности рядом с вероятностью.
Вопросы и варианты ответов
Варианты ответа:
— Ежедневно
— Несколько раз в неделю
— Примерно раз в неделю
— Реже
— Не использую
Варианты ответа:
— В ответе были фактические ошибки или выдуманные данные
— Результат ИИ привёл к неправильному решению/действию
— В запросе случайно оказались внутренние данные, которые не следовало передавать
— Было сложно проверить корректность результата
— ИИ использовал материалы с риском нарушения авторских прав/лицензий
— Ответ содержал неприемлемые формулировки для рабочего контекста
— Непонятно, допустимо ли было использовать ИИ в этой задаче
Варианты ответа:
— Утечка конфиденциальной информации
— Передача персональных данных в ИИ
— Ошибки/неточности, влияющие на результат работы
— Неправильная интерпретация контекста или требований
— Нарушение авторских прав/лицензий при использовании результатов
— Несоблюдение внутренних правил/регуляторных требований
— Репутационные риски из-за некорректных формулировок
Варианты ответа:
— Персональные данные клиентов
— Персональные данные сотрудников
— Пароли, токены, ключи доступа
— Внутренние документы и файлы с ограниченным доступом
— Финансовые данные и показатели, не предназначенные для распространения
— Информация о клиентах/контрактах/условиях
— Код или фрагменты кода из внутренних репозиториев
— Планы, стратегии, непубличные решения
Варианты ответа:
— Убираю/обезличиваю чувствительные данные перед запросом
— Использую только одобренные компанией инструменты/аккаунты
— Проверяю ключевые факты, цифры и ссылки перед использованием
— Прошу ИИ показать шаги/обоснование результата
— Сравниваю результат с внутренними источниками/документами
— Не использую ИИ для задач с высокой критичностью
— Сохраняю результат только в разрешённых местах
— Согласовываю использование ИИ с руководителем/командой безопасности при сомнениях
Варианты ответа:
— Короткие правила “что можно/нельзя” с примерами
— Встроенные подсказки и предупреждения при вводе запроса
— Список одобренных инструментов и сценариев использования
— Шаблоны запросов для безопасных типовых задач
— Быстрый канал консультации (чат/форма) по спорным случаям
— Короткое регулярное обучение (10–15 минут)
— Технические ограничения (маскирование данных, блокировка чувствительных вставок)
Похожие шаблоны опросов
Частые вопросы
