ИИ уже работает в компании
Компания может еще не утвердить стратегию в области искусственного интеллекта, не создать профильный комитет и не запустить корпоративную платформу. Но это не означает, что ИИ в ней отсутствует. Сотрудники уже используют доступные инструменты для подготовки писем и презентаций, анализа документов, поиска информации, написания программного кода, обработки обращений клиентов, подготовки справок и проектов управленческих решений.
Чаще всего в этом нет намерения нарушить правила. Логика сотрудника проста: задача должна быть выполнена быстрее, а доступный инструмент помогает сократить рутинную работу. Руководитель функции может не знать, какой сервис использует его команда. ИТ-подразделение — не видеть часть личных аккаунтов и внешних приложений. Служба информационной безопасности — узнать о практике лишь после инцидента. А совет директоров — вообще не получать эту тему в своей повестке.
Так возникает теневой ИИ (shadow AI): использование сотрудниками публичных, личных или несанкционированных ИИ-инструментов вне утвержденных правил, корпоративного контура и контроля.
Проблема не в том, что люди применяют искусственный интеллект. Риск возникает тогда, когда компания не понимает, какие именно сценарии уже используются, какие данные передаются во внешние сервисы, кто отвечает за качество результатов и как управленческая система реагирует на ошибки, утечки или иные инциденты.
Теневой ИИ — не просто вопрос дисциплины пользователя. Это индикатор того, что формальная модель управления отстает от фактической практики работы.
Когда локальная практика становится риском
Использование внешнего ИИ-сервиса для черновика внутреннего письма и применение генеративной модели при подготовке кредитного заключения, юридического документа или расчета для инвестиционного решения — ситуации разного масштаба. Но в компании без реестра сценариев, классификации данных и понятных правил они могут выглядеть одинаково: как обычная работа сотрудника с удобным цифровым инструментом.
Первый риск связан с данными. В запрос к внешнему сервису могут попасть сведения о клиентах, коммерческих условиях, проектной документации, финансовых показателях, кадрах, переговорах, неопубликованных результатах исследований или внутренних решениях. Не вся такая информация обязательно окажется критичной, но компания должна заранее определить, какие категории данных нельзя передавать в публичные сервисы, а какие допускаются только при соблюдении специальных условий.
Второй риск — надежность результата. Генеративный ИИ способен формулировать убедительные, но ошибочные выводы, создавать несуществующие ссылки, упрощать важные оговорки или воспроизводить предвзятость, содержащуюся в данных и запросах. Если результат становится частью справки, презентации, коммуникации с клиентом, договора или управленческого решения без проверки компетентным сотрудником, технологический риск быстро превращается в риск качества управления.
Третий вопрос касается прав на данные и интеллектуальную собственность. Компания должна понимать, кому принадлежат результаты работы с внешним инструментом, какие условия использования устанавливает поставщик, может ли он менять функциональность или правила доступа, а также насколько бизнес-процесс зависит от одного внешнего сервиса. В ряде случаев проблема состоит не в применении конкретной модели, а в том, что зависимость от нее возникает незаметно — до того, как организация приняла осознанное решение.
Отдельного внимания требуют киберриски. Несогласованные расширения браузера, внешние интеграции, рабочие файлы в личных учетных записях, неуправляемые ключи доступа и копирование данных между сервисами могут создавать новые точки уязвимости. Здесь недостаточно оценивать только саму языковую модель: значение имеют весь путь данных, права доступа, устройства, учетные записи и связанные приложения.
Наконец, теневой ИИ несет стратегический риск. Компания может оказаться между двумя неудачными крайностями. Первая — запретить использование доступных инструментов, не предложив сотрудникам безопасной альтернативы, и тем самым потерять часть производительности. Вторая — оставить практику без внимания, получив внешне быстрый эффект, но не понимая его цены в виде рисков, разрозненных решений и будущих инвестиций.
Именно поэтому вопрос выходит за пределы ИТ, информационной безопасности или юридической функции. Он относится к качеству корпоративного управления: к тому, насколько совет и исполнительная команда видят существенные изменения в способах принятия решений, использования данных и создания ценности.
Совет задает рамку, менеджмент строит контур
При этом, совету директоров не нужно превращаться в технический комитет. Члены совета не обязаны разбираться в архитектуре моделей, самостоятельно тестировать запросы или выбирать конкретный ИИ-сервис. Их задача — обеспечить, чтобы применение искусственного интеллекта было связано со стратегией, риск-аппетитом, ответственностью и системой контроля.
Первый вопрос для совета: имеет ли ИИ стратегическое значение для компании? Для одних организаций это способ ускорить типовые процессы и снизить операционные издержки. Для других — фактор конкурентоспособности, качества клиентского сервиса, скорости разработки продуктов, точности аналитики или эффективности научно-технологической деятельности. Ответ влияет на масштаб инвестиций, компетенции руководителей, требования к данным и уровень надзора.
Второй вопрос: какой риск компания готова принять? Риск-аппетит в отношении ИИ не сводится к формуле «разрешить» или «запретить». Он определяет, где допустимо экспериментирование, где обязательна предварительная оценка, какие решения требуют участия человека, какие данные не должны покидать корпоративный контур и какие случаи необходимо незамедлительно эскалировать.
Третий вопрос: кто несет ответственность. ИИ может помогать готовить анализ, но не становится носителем полномочий. Решение о сделке, инвестиции, найме, кредитовании, взаимоотношениях с клиентом или раскрытии информации остается за должностными лицами и органами управления компании. Если использование технологии размывает понимание того, кто проверил результат и на каком основании принято решение, это уже управленческая проблема.
Задача совета — требовать от менеджмента не декларацию о наличии политики, а доказательство работающего контура. Важно видеть, существуют ли реестр сценариев, классификация данных, правила применения, обучение сотрудников, защищенные разрешенные инструменты, порядок оценки поставщиков и механизм разбора инцидентов.
Уместно также определить, где именно эта тема будет рассматриваться: на заседании совета, в комитете по стратегии, комитете по рискам, комитете по аудиту или на межфункциональной площадке, которая регулярно отчитывается перед советом. Универсального ответа нет. Он зависит от структуры компании, отрасли, зрелости системы управления рисками и материальности ИИ-проектов. Но отсутствие владельца вопроса обычно означает отсутствие системного контроля.
Что запросить у менеджмента
На мой взгляд, минимальный запрос совета к исполнительной команде может состоять из следующих пунктов:
· Карта фактического применения ИИ, включая известные неучтенные и несанкционированные сценарии, а также функции, где использование наиболее вероятно
· Перечень категорий данных, которые запрещено передавать во внешние ИИ-сервисы, и правила работы с данными разной чувствительности
· Классификация ИИ-сценариев по критичности: от низкорисковых вспомогательных задач до решений, способных существенно влиять на клиентов, финансовый результат, соблюдение обязательств или репутацию компании
· Перечень разрешенных инструментов и план создания безопасной альтернативы для наиболее востребованных задач, если такой альтернативы пока нет
· Назначенный владелец системы управления ИИ и распределение ответственности между бизнесом, ИТ, информационной безопасностью, юридической и кадровой функциями, внутренним аудитом и риск-менеджментом
· Порядок регистрации, расследования и эскалации ИИ-инцидентов, включая случаи утечки данных, ошибочных результатов, несанкционированных интеграций и нарушений установленных правил
· Регулярная отчетность в совет или профильный комитет: используемые сценарии, ключевые риски, исключения, инциденты, экономический эффект, необходимые инвестиции и вопросы, требующие решения совета
Отмечу, что этот перечень не заменяет полноценную программу управления ИИ. Но он позволяет перевести тему из области общих опасений в управляемую повестку. Важно, чтобы отчетность не превратилась в реестр технологических деталей. Совет должен видеть существенные случаи использования, изменения профиля риска, материальные инвестиции, зависимость от поставщиков, наличие инцидентов и эффект для бизнеса.
Управлять не наличием ИИ, а сценариями
Вопрос «использует ли компания ИИ?» уже становится слишком общим. И сегодняшних реалий мы видим, что практически любая организация может ответить на него утвердительно, даже если это использование происходит стихийно и не фиксируется в корпоративных системах.
Но гораздо полезнее спросить иначе: какие решения, данные, процессы и обязательства компании уже зависят от ИИ? В каких из них технология лишь помогает подготовить материал, а в каких влияет на содержание рекомендации, скорость операции, коммуникацию с клиентом или выбор управленческой альтернативы? Кто проверяет результат? Какие данные используются? Как измеряется эффект? Что произойдет, если инструмент даст неверный ответ, станет недоступным или изменит условия работы?
Такой подход позволяет управлять не абстрактным присутствием технологии, а конкретными сценариями: потоками данных, точками принятия решений, уровнем автономности, контрольными процедурами и измеримой ценностью. Он же помогает различать инициативы, которые стоит масштабировать, и случаи, где риск пока превышает ожидаемый эффект.
Для совета директоров это особенно важно в контексте цифровых инвестиций. Корпоративная ИИ-платформа, защищенный доступ к моделям, подготовка данных, интеграция с внутренними системами, изменение процессов и обучение сотрудников могут требовать значительных затрат. Такие решения должны рассматриваться не как очередная ИТ-закупка, а как инвестиции в способность компании принимать более качественные и быстрые решения при сохранении контроля.
Иначе организация рискует сначала получить множество разрозненных практик, затем столкнуться с накопленными рисками, а после — инвестировать в инфраструктуру уже в режиме реагирования на проблему, а не исходя из стратегического выбора.
Не запрет, а управляемая прозрачность
Тотальный запрет публичных ИИ-сервисов редко оказывается достаточным решением. Если у сотрудников есть срочные задачи, а разрешенного и удобного инструмента нет, практика может не исчезнуть, а стать менее видимой. Руководство будет видеть соблюдение формального запрета, но не реальную картину работы с информацией и технологиями.
Более зрелая позиция состоит в другом: установить понятные границы, предложить допустимые и защищенные способы решения типовых задач, обучить сотрудников и создать условия, при которых о новых сценариях выгоднее сообщить, чем скрыть их. Это требует баланса. Чрезмерно сложный порядок согласования может вытеснить эксперименты в тень; отсутствие правил — превратить локальные инициативы в неконтролируемый риск.
Таким образом, теневой ИИ — это не повод объявить технологию угрозой и не повод передать ей принятие решений. Это сигнал о разрыве между реальной практикой работы и формальной системой управления.
И задача совета директоров — не ловить сотрудников на использовании удобных инструментов и не администрировать технологии вручную. Его задача — сформировать такую рамку, при которой полезные ИИ-сценарии становятся видимыми, проверяемыми, безопасными и связанными со стратегией компании.
Компании, которые раньше других выстроят этот контур, получат не только снижение рисков. Они смогут принимать более обоснованные решения о данных, автоматизации, технологических инвестициях и развитии компетенций — на основе фактов о том, как ИИ уже меняет их бизнес.
Компания может еще не утвердить стратегию в области искусственного интеллекта, не создать профильный комитет и не запустить корпоративную платформу. Но это не означает, что ИИ в ней отсутствует. Сотрудники уже используют доступные инструменты для подготовки писем и презентаций, анализа документов, поиска информации, написания программного кода, обработки обращений клиентов, подготовки справок и проектов управленческих решений.
Чаще всего в этом нет намерения нарушить правила. Логика сотрудника проста: задача должна быть выполнена быстрее, а доступный инструмент помогает сократить рутинную работу. Руководитель функции может не знать, какой сервис использует его команда. ИТ-подразделение — не видеть часть личных аккаунтов и внешних приложений. Служба информационной безопасности — узнать о практике лишь после инцидента. А совет директоров — вообще не получать эту тему в своей повестке.
Так возникает теневой ИИ (shadow AI): использование сотрудниками публичных, личных или несанкционированных ИИ-инструментов вне утвержденных правил, корпоративного контура и контроля.
Проблема не в том, что люди применяют искусственный интеллект. Риск возникает тогда, когда компания не понимает, какие именно сценарии уже используются, какие данные передаются во внешние сервисы, кто отвечает за качество результатов и как управленческая система реагирует на ошибки, утечки или иные инциденты.
Теневой ИИ — не просто вопрос дисциплины пользователя. Это индикатор того, что формальная модель управления отстает от фактической практики работы.
Когда локальная практика становится риском
Использование внешнего ИИ-сервиса для черновика внутреннего письма и применение генеративной модели при подготовке кредитного заключения, юридического документа или расчета для инвестиционного решения — ситуации разного масштаба. Но в компании без реестра сценариев, классификации данных и понятных правил они могут выглядеть одинаково: как обычная работа сотрудника с удобным цифровым инструментом.
Первый риск связан с данными. В запрос к внешнему сервису могут попасть сведения о клиентах, коммерческих условиях, проектной документации, финансовых показателях, кадрах, переговорах, неопубликованных результатах исследований или внутренних решениях. Не вся такая информация обязательно окажется критичной, но компания должна заранее определить, какие категории данных нельзя передавать в публичные сервисы, а какие допускаются только при соблюдении специальных условий.
Второй риск — надежность результата. Генеративный ИИ способен формулировать убедительные, но ошибочные выводы, создавать несуществующие ссылки, упрощать важные оговорки или воспроизводить предвзятость, содержащуюся в данных и запросах. Если результат становится частью справки, презентации, коммуникации с клиентом, договора или управленческого решения без проверки компетентным сотрудником, технологический риск быстро превращается в риск качества управления.
Третий вопрос касается прав на данные и интеллектуальную собственность. Компания должна понимать, кому принадлежат результаты работы с внешним инструментом, какие условия использования устанавливает поставщик, может ли он менять функциональность или правила доступа, а также насколько бизнес-процесс зависит от одного внешнего сервиса. В ряде случаев проблема состоит не в применении конкретной модели, а в том, что зависимость от нее возникает незаметно — до того, как организация приняла осознанное решение.
Отдельного внимания требуют киберриски. Несогласованные расширения браузера, внешние интеграции, рабочие файлы в личных учетных записях, неуправляемые ключи доступа и копирование данных между сервисами могут создавать новые точки уязвимости. Здесь недостаточно оценивать только саму языковую модель: значение имеют весь путь данных, права доступа, устройства, учетные записи и связанные приложения.
Наконец, теневой ИИ несет стратегический риск. Компания может оказаться между двумя неудачными крайностями. Первая — запретить использование доступных инструментов, не предложив сотрудникам безопасной альтернативы, и тем самым потерять часть производительности. Вторая — оставить практику без внимания, получив внешне быстрый эффект, но не понимая его цены в виде рисков, разрозненных решений и будущих инвестиций.
Именно поэтому вопрос выходит за пределы ИТ, информационной безопасности или юридической функции. Он относится к качеству корпоративного управления: к тому, насколько совет и исполнительная команда видят существенные изменения в способах принятия решений, использования данных и создания ценности.
Совет задает рамку, менеджмент строит контур
При этом, совету директоров не нужно превращаться в технический комитет. Члены совета не обязаны разбираться в архитектуре моделей, самостоятельно тестировать запросы или выбирать конкретный ИИ-сервис. Их задача — обеспечить, чтобы применение искусственного интеллекта было связано со стратегией, риск-аппетитом, ответственностью и системой контроля.
Первый вопрос для совета: имеет ли ИИ стратегическое значение для компании? Для одних организаций это способ ускорить типовые процессы и снизить операционные издержки. Для других — фактор конкурентоспособности, качества клиентского сервиса, скорости разработки продуктов, точности аналитики или эффективности научно-технологической деятельности. Ответ влияет на масштаб инвестиций, компетенции руководителей, требования к данным и уровень надзора.
Второй вопрос: какой риск компания готова принять? Риск-аппетит в отношении ИИ не сводится к формуле «разрешить» или «запретить». Он определяет, где допустимо экспериментирование, где обязательна предварительная оценка, какие решения требуют участия человека, какие данные не должны покидать корпоративный контур и какие случаи необходимо незамедлительно эскалировать.
Третий вопрос: кто несет ответственность. ИИ может помогать готовить анализ, но не становится носителем полномочий. Решение о сделке, инвестиции, найме, кредитовании, взаимоотношениях с клиентом или раскрытии информации остается за должностными лицами и органами управления компании. Если использование технологии размывает понимание того, кто проверил результат и на каком основании принято решение, это уже управленческая проблема.
Задача совета — требовать от менеджмента не декларацию о наличии политики, а доказательство работающего контура. Важно видеть, существуют ли реестр сценариев, классификация данных, правила применения, обучение сотрудников, защищенные разрешенные инструменты, порядок оценки поставщиков и механизм разбора инцидентов.
Уместно также определить, где именно эта тема будет рассматриваться: на заседании совета, в комитете по стратегии, комитете по рискам, комитете по аудиту или на межфункциональной площадке, которая регулярно отчитывается перед советом. Универсального ответа нет. Он зависит от структуры компании, отрасли, зрелости системы управления рисками и материальности ИИ-проектов. Но отсутствие владельца вопроса обычно означает отсутствие системного контроля.
Что запросить у менеджмента
На мой взгляд, минимальный запрос совета к исполнительной команде может состоять из следующих пунктов:
· Карта фактического применения ИИ, включая известные неучтенные и несанкционированные сценарии, а также функции, где использование наиболее вероятно
· Перечень категорий данных, которые запрещено передавать во внешние ИИ-сервисы, и правила работы с данными разной чувствительности
· Классификация ИИ-сценариев по критичности: от низкорисковых вспомогательных задач до решений, способных существенно влиять на клиентов, финансовый результат, соблюдение обязательств или репутацию компании
· Перечень разрешенных инструментов и план создания безопасной альтернативы для наиболее востребованных задач, если такой альтернативы пока нет
· Назначенный владелец системы управления ИИ и распределение ответственности между бизнесом, ИТ, информационной безопасностью, юридической и кадровой функциями, внутренним аудитом и риск-менеджментом
· Порядок регистрации, расследования и эскалации ИИ-инцидентов, включая случаи утечки данных, ошибочных результатов, несанкционированных интеграций и нарушений установленных правил
· Регулярная отчетность в совет или профильный комитет: используемые сценарии, ключевые риски, исключения, инциденты, экономический эффект, необходимые инвестиции и вопросы, требующие решения совета
Отмечу, что этот перечень не заменяет полноценную программу управления ИИ. Но он позволяет перевести тему из области общих опасений в управляемую повестку. Важно, чтобы отчетность не превратилась в реестр технологических деталей. Совет должен видеть существенные случаи использования, изменения профиля риска, материальные инвестиции, зависимость от поставщиков, наличие инцидентов и эффект для бизнеса.
Управлять не наличием ИИ, а сценариями
Вопрос «использует ли компания ИИ?» уже становится слишком общим. И сегодняшних реалий мы видим, что практически любая организация может ответить на него утвердительно, даже если это использование происходит стихийно и не фиксируется в корпоративных системах.
Но гораздо полезнее спросить иначе: какие решения, данные, процессы и обязательства компании уже зависят от ИИ? В каких из них технология лишь помогает подготовить материал, а в каких влияет на содержание рекомендации, скорость операции, коммуникацию с клиентом или выбор управленческой альтернативы? Кто проверяет результат? Какие данные используются? Как измеряется эффект? Что произойдет, если инструмент даст неверный ответ, станет недоступным или изменит условия работы?
Такой подход позволяет управлять не абстрактным присутствием технологии, а конкретными сценариями: потоками данных, точками принятия решений, уровнем автономности, контрольными процедурами и измеримой ценностью. Он же помогает различать инициативы, которые стоит масштабировать, и случаи, где риск пока превышает ожидаемый эффект.
Для совета директоров это особенно важно в контексте цифровых инвестиций. Корпоративная ИИ-платформа, защищенный доступ к моделям, подготовка данных, интеграция с внутренними системами, изменение процессов и обучение сотрудников могут требовать значительных затрат. Такие решения должны рассматриваться не как очередная ИТ-закупка, а как инвестиции в способность компании принимать более качественные и быстрые решения при сохранении контроля.
Иначе организация рискует сначала получить множество разрозненных практик, затем столкнуться с накопленными рисками, а после — инвестировать в инфраструктуру уже в режиме реагирования на проблему, а не исходя из стратегического выбора.
Не запрет, а управляемая прозрачность
Тотальный запрет публичных ИИ-сервисов редко оказывается достаточным решением. Если у сотрудников есть срочные задачи, а разрешенного и удобного инструмента нет, практика может не исчезнуть, а стать менее видимой. Руководство будет видеть соблюдение формального запрета, но не реальную картину работы с информацией и технологиями.
Более зрелая позиция состоит в другом: установить понятные границы, предложить допустимые и защищенные способы решения типовых задач, обучить сотрудников и создать условия, при которых о новых сценариях выгоднее сообщить, чем скрыть их. Это требует баланса. Чрезмерно сложный порядок согласования может вытеснить эксперименты в тень; отсутствие правил — превратить локальные инициативы в неконтролируемый риск.
Таким образом, теневой ИИ — это не повод объявить технологию угрозой и не повод передать ей принятие решений. Это сигнал о разрыве между реальной практикой работы и формальной системой управления.
И задача совета директоров — не ловить сотрудников на использовании удобных инструментов и не администрировать технологии вручную. Его задача — сформировать такую рамку, при которой полезные ИИ-сценарии становятся видимыми, проверяемыми, безопасными и связанными со стратегией компании.
Компании, которые раньше других выстроят этот контур, получат не только снижение рисков. Они смогут принимать более обоснованные решения о данных, автоматизации, технологических инвестициях и развитии компетенций — на основе фактов о том, как ИИ уже меняет их бизнес.