Как внедрить ИИ в управление бизнесом без потери контроля
Сегодняшний бизнес работает в условиях, где рутинные операции пожирают львиную долю рабочего времени. По оценкам разных источников и отдельных исследований, в том числе опубликованных на РБК, на настоящий момент уже в рамках некоторых профессий доля задач, которые потенциально могут быть автоматизированы с помощью генеративного искусственного интеллекта, может достигать 85%. При этом, на данный момент ни одна профессия не автоматизируется полностью: итоговые решения и ответственность остаются за человеком, а эффект сильно зависит от качества данных и зрелости процессов.
Что, на первый взгляд, можно автоматизировать с помощью ИИ:
1. Анализа договоров и юридических документов Важно понимать, что это ни в коем случае не замена юриста, ИИ модели могут галлюцинировать, уверенно придумывать факты, ссылки и прочее, о чем я уже писал в своей статье на РБК. Наиболее показательные примеры — громкие судебные дела, когда юристы получали претензии и подвергались соответствующим санкциям за подачу документов с выдуманными прецедентами, сгенерированными с помощью общедоступных ИИ инструментов. В зарубежной практике профессиональные организации прямо подчеркивают обязанности по компетентности, конфиденциальности, проверке результата и т.д., например, ABA Formal Opinion 512.
ИИ помогает юристам: быстро находить фрагменты, сопоставлять версии, извлекать реквизиты, делать черновики резюме, письма.
Юридические выводы и финальная проверка это ответственность квалифицированного специалиста. ИИ-ответы должны быть проверяемы ссылками на исходный документ, а сами ссылки вести к реальным документам.
2. Обработка объемных отчетов и исследований Результат обработки может быть совершенно разным:
составление резюме по документам, в целом по силе ИИ с удовлетворительной точностью; точное извлечение метрик из таблиц, сносок, рисунков — могут давать не очевидный результат; задачи по анализу и сопоставление с регламентами требуют четкой настройки, конкретных формализованных критериев, которые критериев, не допускающих неоднозначной интерпретации, и обязательной проверки соответствия результата ожиданиям пользователей или конкретным требованиям потребителя. На Клубах директоров НАКД, посвященных тематике применения ИИ, мы с моим коллегой по Ассоциации и автором статей на РБК на тему ИИ Георгием Солдатовым, уже отмечали некоторые важные аспекты применения ИИ:
опасность в том, что если пользователь воспримет тезис ИИ не как помощника, а как основной инструмент, не требующий проверки, и станет «автоматизировать» юридические решения без контроля — это прямой путь к ошибкам и в дальнейшем к убыткам; LLM может красиво пересказать, но ошибиться в числах, единицах измерения, контексте. Чем больше таблиц и нюансов, тем выше цена ошибки; LLM ускоряет первичный обзор и подготовку черновика. Для цифр и метрик желательно использовать связку: извлечение данных (ETL, OCR, табличный парсинг) далее проверка далее генерация текста с обязательными ссылками на первоисточник. ИИ может готовить справки, черновики, сценарии, подсвечивать расхождения. Но решение, голосование, юридическая и управленческая ответственность являются человеческими функциями и обязанностями. Использование ИИ должно оставлять следы проверки (кто проверил, по каким источникам, что принято и т.д.); ИИ не должен принимать решения и «подменять» ответственность. 3. Генерация текстов, тезисов для презентаций, рекламы и т.п. на основе имеющихся материалов Тут важно учитывать риск «галлюцинаций». В некоторых случаях использование сгенерированного материала может привести к значительным юридическим рискам, в т. ч. в области авторского права, нарушениям требований внутренних нормативных документов и требований к конфиденциальности.
Полученный на выходе от ИИ материал требует обязательной проверки на соответствие фактам, политике бренда и т. п.
Например, анализ годовых отчетов дочерних компаний группы, состоящих каждый из 30-50 страниц, проводится целой командой в течение нескольких рабочих дней, а составление идет с привлечением функциональных бизнес-подразделений и требует еще большего времени и человеческих ресурсов.
Специально подобранные под эти задачи агенты могут существенно сократить время на подготовку драфта как самих отчетов, так и аналитики по ним, при условии заранее подготовленных данных, критериев и обязательной верификации человеком.
Однако это потребует серьезной подготовительной работы как команды, так и структуры данных и информационной инфраструктуры (форматы, OCR, таблицы), настройка критериев, правил, верификация — все это также достаточно трудоемко.
Фактически надо понимать, что ИИ не заменит вам какое-либо подразделение, а лишь поможет ему упростить рутинные процессы и повысить его эффективность, но не в моменте, а после тщательного и ресурсоемкого внедрения ИИ.
Важно:
ИИ скорее «усиливает», чем «автоматизирует». Автоматизация в корпоративных процессах почти всегда требует перестройки процесса + контроля качества + создания системы кибербезопасности + четкого определения ответственности. Руководитель любого уровня, будь руководителем линейного бизнес подразделения, членом Совета директоров или владельцем компании, ежедневно погружен в многочисленные рутинные процессы управления, и чем выше уровень, тем больше нагрузка с точки зрения разнообразия и объема информации.
Начать задумываться как упростить свою работу и начать применять технологии искусственного интеллекта можно с личных задач, таких как:
ведение личного календаря; систематизация информации; расшифровка аудиозаписей заседаний и совещаний; создание всевозможных отчетов и аналитики; создание презентаций и иллюстраций; администрирование совместных (рабочих) чатов и анализ переписки; оформление бюрократической документации. Опять же, не надо думать, что эти все задачи будут решаться за тебя, это всего лишь инструмент — умный помощник.
Не стоит забывать о рисках, связанных с возможными неточностями в юридически значимых документах, например, ошибочная расшифровка может привести к неверной фиксации решений.
Любая переписка, в том числе в чатах — это зона повышенной чувствительности (персональные данные, трудовые отношения, доверие и т. п.). Просто, не уведомив всех участников, не обозначив правила, границы, риски, условия конфиденциальности, уровни доступа и т. п., внедрять инструмент ИИ в работу с перепиской категорически нельзя.
При этом рекомендуется минимизировать данные, например, персональные данные, либо удалить, либо максимально обезличить до состояния, в котором только вам будет понятна персоналия, а третьим лицам ее идентифицировать будет невозможно. Также необходимо обеспечить соблюдение правил и сроков хранения, а также разграничение доступа к данной информации.
Перед внедрением в рабочий процесс стоит позаботиться о юридической стороне вопроса, а также о соблюдении/разработке требований по информационной безопасности.
На настоящий момент доступны платформы, в том числе от российских производителей (с использованием базы Open Source (с английского — «открытый исходный код») — модель разработки программного обеспечения, при которой исходный код доступен для просмотра, изменения и распространения любыми желающими) для развертывания мощных языковых моделей непосредственно в инфраструктуре компании для повышения уровня контроля конфиденциальной информации.
Технологии приватных LLM (Large language model или Большая языковая модель — это тип программы искусственного интеллекта, которая может распознавать и генерировать текст). LLM — подтип нейронных сетей, специально разработанный для работы с текстовыми данными, установленных в закрытых контурах, позволяет:
обрабатывать внутренние документы снижая риски утечки, при правильно организованной и функционирующей системе обеспечения информационной безопасности; адаптировать модели под специфику отрасли и конкретной организации; интегрировать ИИ инструменты в существующие корпоративные системы. Как разобраться, чем может быть полезен конкретно вашему бизнесу искусственный интеллект и с чего же начать внедрение Я бы рекомендовал внедрение технологий искусственного интеллекта с грамотного профессионального и практико-ориентированного обучения.
Причем такое обучение возможно как по уже имеющимся на рынке программам от различных учебных заведений, так и тех, кто конкретно будет внедрять у вас ИИ. Тут необходимо принимать решение индивидуально, исходя из специфики вашего запроса в целом.
Возможно, как вариант, стоит сочетать базовое, от независимых экспертов и учебных заведений, и прикладное, с внедряющей командой, на ваших данных и под ваши процессы.
В процессе обучения вы и ваша команда узнаете о существующих ограничениях, рисках, в том числе о рисках кибербезопасности и конфиденциальности, о которых писали эксперты НАКД в своих статьях на РБК:
Где проходит граница между подсказкой ИИ и решением в Совете директоров. Кибербезопасность в контексте применения ИИ. Вопрос конфиденциальности при использовании ИИ в корпоративных процедурах. Успешное внедрение начинается с пилотного проекта на ограниченном наборе данных. После обучения внутренней команды можно постепенно расширять функциональность, выводя аналитические возможности компании на принципиально новый уровень.
Для успешного внедрения необходимо следующее:
четко определить цель и желаемый результат; бюджет, в т.ч. на информационную инфраструктуру; команда проекта организации и подрядчик в т.ч. программисты; аудит информационной инфраструктуры и данных; формирование внутренней нормативной документации, в т.ч., используя проектные стандарты, начиная с документов по проекту и заканчивая эксплуатационной документацией и регламентами для различных уровней пользователей. Рекомендации по внедрению в корпоративном управлении 1. Обучение команды
Проведение образовательной сессии по возможностям и рискам внедрения технологий искусственного интеллекта.
Именно на этом этапе под руководством профессионалов можно приступать к проработке следующих этапов!
2. Определение цели
2.1 Четко сформулировать, какие процессы необходимо усилить с помощью искусственного интеллекта:
аналитика; ускорение принятия решений; предоставление информации; формирование отчетности и прочее. 2.2 Определить масштаб внедрения
конкретный бизнес-процесс; подразделение; органы управления; вся организация. Важно вовлечь всех ключевых участников в процесс внедрения, использовать лучшие практики и модели управления изменениями, например, ADKAR, модель изменений Коттера, модель Льюина и прочие.
3. Проведение аудита
3.1 Системный комплексный анализ:
среды; данных; процессов. 3.2 По результатам аудита
получение достоверной и полной информации о системе управления; организация порядка, систематизация данных. Можно провести пилотный проект на обезличенных данных, до начала указанных процессов, чтобы проверить насколько желаемый результат совпадает с реальностью, получить опыт, понять возможные нюансы, а дальше принимать решение о проведении пилотного проекта с аудитом, на реальных данных.
Стоит обратить внимание на достаточность обезличивания данных, что бы вся совокупность данных и результат их обработки не давал возможности сделать выводы о их принадлежности компании или конкретному лицу. Перед проведением пилотного проекта стоит оценить риск ре-идентификации и утечек, например через анализ логов самой модели ИИ, т.к. обезличивание текстов и переписки это довольно сложная и не тривиальная задача.
Некоторые мои коллеги, с которыми я беседовал по поводу их практики внедрении ИИ, считают, что пилот, даже на обезличенных данных, не может быть проведен без аудита и систематизации, но это зависит от зрелости процессов в организации, если процесс не прозрачен, структура данных не упорядочена, то и результат может быть не очевидным.
4. Пилотный проект
4.1 Запуск проекта:
аналитика заседаний, совещаний; аналитика и систематизация ранее принятых решений; процесс вовлечения нового пользователя с помощью ИИ — ассистента. 4.2 Обучение внедряемого ИИ, либо на основе эталонных примеров и массивов достоверных данных, либо другими способами, в зависимости от конкретной задачи, бюджета, условий конфиденциальности, чувствительности информации и т.п.
Разработку внутренних документов рекомендуется вести параллельно с прохождением всех этапов!
5. Разработка внутренних документов
Определение и фиксация:
требований и принципов проверки данных сгенерированных ИИ; требования к конфиденциальности и принципы обеспечения информационной безопасности; правила и принципы сбора обратной связи от потребителей. Эффективность внедрения зависит от:
правильно поставленной цели; грамотно установленных промежуточных КПЭ (например, доля ошибок; экономия времени; удовлетворенность пользователей) и четкого понимания метрик AS IS и TO BE (это подход к анализу и оптимизации бизнес-процессов, который строится на двух ключевых принципах: сначала детально описать «как есть» (AS IS), а затем спроектировать «как должно быть» (TO BE)); выстроенной системы управления рисками на всем жизненном цикле; заинтересованности всех участников процесса; структуры и достоверности информации на входе; анализа достоверности информации на выходе. В заключение, хочется сказать, что на данном этапе, не стоит ждать чуда, современные технологии не позволят отказаться от людей в пользу искусственного интеллекта полностью, однако дадут возможность существенно повысить эффективность и производительность труда, позволят вам совершенствовать систему управления в дальнейшем, а также не отставать от передовых технологий.