Все статьи
Ответственный ИИ от SAFe®
Дата: 05.07.2026
Ответственный искусственный интеллект (Responsible AI) становится одной из ключевых тем для компаний, которые уже используют или только планируют внедрять искусственный интеллект. ИИ открывает новые возможности для бизнеса, помогает сотрудникам работать эффективнее и создавать конкурентные продукты. Но вместе с этим появляются риски: предвзятость моделей, галлюцинации, утечки данных, вопросы безопасности, этики и ответственности. В статье разбираем, как подходы SAFe® (Scaled Agile Framework®) помогают компаниям использовать ИИ осознанно, безопасно и с пользой для людей, бизнеса и общества.
- Гибкость в эпоху ИИ.
- Достижение гибкости с помощью ИИ.
- Обзор искусственного интеллекта (ИИ).
- Сотрудники, усиленные ИИ.
- Ответственный подход к ИИ.
Ответственный ИИ (Responsible AI) — это подход к созданию и управлению ИИ-системами. Такие системы должны быть надёжными, объяснимыми и ориентированными на человека.
Содержание
Искусственный интеллект даёт компаниям новые возможности. Он помогает сотрудникам работать быстрее. Он помогает бизнесу создавать новые продукты. Он может усиливать конкурентные преимущества.
Но у ИИ есть и серьёзные риски. Компании, которые используют или создают ИИ-системы, должны управлять этими рисками. Для этого нужны:
- понятные правила;
- проверенные методы работы;
- подходящие технологии;
- ответственность на уровне руководства и команд.
Ответственный ИИ помогает снизить риск вреда для людей, компаний и окружающей среды. В этой статье мы разберём, что такое ответственный ИИ и как практики SAFe помогают внедрять его быстрее и системнее.
В 2023 году опрос клиентов Scaled Agile показал: 43% компаний опасаются использовать ИИ из-за его рисков. При этом ИИ уже помогает сотрудникам работать эффективнее, а компаниям — создавать более конкурентные продукты. Компании, которые заранее начали управлять рисками ИИ, получили преимущество. Они ввели понятные правила, применили проверенные методы и выбрали подходящие технологии.
Ключевые мысли
- У ИИ-систем есть специфические риски. Их нужно учитывать, чтобы использовать ИИ безопасно.
- SAFe даёт практические рекомендации по ответственному применению ИИ.
- Ценности и практики SAFe помогают встроить ответственный ИИ в работу компании: от стратегии до командной разработки.
Зачем компаниям ответственный ИИ
Почему организациям важно вкладывать время, деньги и внимание в ответственный ИИ? Потому что без контроля риски ИИ могут оказаться выше пользы.
У ИИ есть несколько специфических рисков:
- предвзятость ИИ-систем (Bias);
- галлюцинации ИИ (Hallucination);
- утечки данных (Data leaks).
Предвзятость ИИ-систем
Предвзятость возникает из-за данных, на которых обучали модель. Если данные были предвзятыми, ИИ может повторить эту предвзятость в своих результатах.
Галлюцинации ИИ
Галлюцинация возникает, когда ИИ выдаёт неверный, выдуманный или бессмысленный результат.
Причины могут быть разными:
- ошибки в данных;
- ограничения модели;
- ошибки в проектировании системы;
- некорректный контекст запроса.
Утечки данных
Утечки могут возникать, когда сотрудники вводят конфиденциальную информацию в сторонние облачные ИИ-инструменты.
Это могут быть:
- данные клиентов;
- внутренние документы;
- коммерческая тайна;
- исходный код;
- финансовая информация;
- персональные данные.
Большинство ИИ-инструментов создают и размещают внешние поставщики. Поэтому компаниям нужно внимательно управлять тем, какие данные попадают в такие системы.
Три аспекта ответственного ИИ
SAFe описывает модель ответственного ИИ через три ключевых аспекта:
- ИИ, которому можно доверять (Trustworthy AI);
- Объяснимый ИИ (Explainable AI);
- человекоцентричный ИИ (Human-Centric AI).
ИИ-система считается ответственной, если она одновременно надёжна и безопасна, объяснима для людей, ориентирована на человека и не наносит вреда.
ИИ, которому можно доверять
- Конфиденциальность — защита данных клиентов и компании от утечек, особенно при использовании сторонних ИИ-инструментов.
- Безопасность — защита систем от атак, в том числе от попыток использовать уязвимости ИИ.
- Устойчивость — способность выдерживать сбои и атаки, а также быстро восстанавливаться, если часть системы перестала работать.
- Надёжность — стабильная работа системы, доступность в нужный момент, нужная скорость и выполнение задачи, для которой система была создана.
- Точность — корректная информация и правильные результаты работы системы.
Когда ИИ обладает этими свойствами, компаниям и клиентам проще ему доверять.
Объяснимый ИИ
Объяснимый ИИ делает работу ИИ-систем более открытой и понятной. Люди должны понимать, как система пришла к результату, который она выдала.
Объяснимый ИИ включает следующие свойства:
- Прозрачность — понятное описание того, как работает ИИ-система, какие данные она использует и как формирует результаты.
- Интерпретируемость — возможность для человека понять логику решений, рекомендаций или выводов ИИ.
- Ответственность — готовность организации отвечать за поведение ИИ-системы и последствия её работы.
Объяснимость помогает быстрее находить ошибки, исправлять проблемы и повышать доверие клиентов и сотрудников.
Человекоцентричный ИИ
Человекоцентричный ИИ должен быть безопасным для людей, имущества и окружающей среды. Он также должен учитывать нормы общества, законы и этические принципы.
Такой ИИ обладает следующими свойствами:
- Безопасность — ИИ не должен создавать угрозу для людей.
- Справедливость — ИИ-системы должны относиться к людям равно и не допускать дискриминации или предвзятости.
- Этика — ИИ должен соответствовать моральным принципам и ценностям общества.
- Инклюзивность — ИИ должен учитывать разные группы пользователей, их контекст, ограничения и потребности.
- Устойчивое развитие — ИИ не должен наносить вред окружающей среде.
- Соответствие требованиям — ИИ должен соблюдать законы, регуляторные требования, стандарты и внутренние политики компании.
Чем больше самостоятельности мы даём ИИ, тем важнее проектировать его по принципу «не навреди».
Если вы дочитали до этого места, значит, вам интересен полезный контент о современных методах управления. Чтобы узнавать про новые статьи, видео и бесплатные мероприятия, вступайте в сообщество SAFe® Russia.
Ответственный ИИ — вопрос уровня топ-менеджмента
Ответственный ИИ обычно начинается как приоритет для топ-менеджмента и совета директоров. Часто такую инициативу возглавляет руководитель уровня C-level, например: CEO, CIO, CTO, CDO или другой член высшего руководства. Совет директоров также может создать специальную экспертную или консультативную группу. Её задача — помогать формировать ИИ-стратегию и следить, чтобы ИИ использовался ответственно.
После запуска инициативы формируется кросс-функциональная команда. В неё могут входить представители ИТ, безопасности, данных, юридической службы, комплаенса, продуктовых команд, архитектуры, HR, закупок и риск-менеджмента. Такая команда часто привлекает внешних юридических экспертов, если у них есть опыт в регулировании ИИ и работе с новыми технологическими рисками.
Главная задача команды — подготовить набор правил и рекомендаций для ответственного использования ИИ в компании. Часть правил будет общей для всех сотрудников. Например, какие ИИ-инструменты можно использовать на рабочих устройствах, какие данные нельзя вводить в публичные ИИ-сервисы, какие ИИ-инструменты разрешены в корпоративной сети и кто отвечает за проверку новых ИИ-сервисов. Другая часть правил будет зависеть от роли или подразделения. Например, могут быть отдельные правила для разработчиков, аналитиков данных, продуктовых команд, контакт-центра, HR, закупок и работы с поставщиками. Эти правила помогают не только снизить риски. Они также помогают сформировать стратегию компании и определить инициативы, которые нужны для безопасного развития ИИ.
Как SAFe поддерживает ответственный ИИ
Компании, которые используют SAFe, уже имеют хорошую основу для внедрения ответственного ИИ. Причина проста: ценности SAFe хорошо сочетаются с идеей ответственности.
Но дело не только в ценностях. SAFe даёт практические механизмы, которые помогают встроить ответственный ИИ в работу организации.
- Стратегические темы (Strategic Themes) — помогают донести приоритеты ответственного ИИ до всей организации. Они связывают стратегию компании с работой портфелей, программ и команд. Если ответственный ИИ становится стратегическим приоритетом, это должно быть видно в целях портфеля, инвестиционных решениях, архитектурных инициативах, требованиях к продуктам, правилах работы с данными и оценке рисков.
- Руководители портфеля (Portfolio leaders) — управляют тем, как ответственный ИИ реализуется в потоках создания ценности разработки (Development Value Streams). Их задача — сделать ответственный ИИ не отдельной инициативой «где-то сбоку», а частью управленческой системы. Это означает, что на уровне портфеля нужно управлять политиками, приоритетами, финансированием, рисками, архитектурными решениями, метриками и соответствием требованиям.
- Системные команды (System Teams) — могут встраивать автоматические проверки ответственного ИИ в DevOps-конвейер (DevOps Pipeline). Такие проверки могут контролировать безопасность, качество данных, устойчивость системы, отсутствие известных уязвимостей, корректность работы модели, соблюдение требований к конфиденциальности и регрессионные ошибки после изменений. Так ответственный ИИ становится частью инженерной практики, а не только набором документов.
- Agile Release Train (ART) — могут включать экспертов, которые помогают встроить требования ответственного ИИ в решения. Это могут быть эксперты по данным, безопасности, архитектуре, праву, комплаенсу, рискам, этике ИИ и пользовательскому опыту. Их роль — помочь командам учитывать требования ответственного ИИ при проектировании, разработке, тестировании и выпуске решений.
- Agile-команды (Agile Teams) — встраивают ответственный ИИ в продуктовые и технические решения. Для этого они используют практики SAFe. Например, формулируют нефункциональные требования (Non-Functional Requirements, NFR). Такие требования могут описывать безопасность, надёжность, производительность, конфиденциальность, объяснимость, устойчивость, соответствие законам и стандартам, а также ограничения на использование данных. Так ответственный ИИ становится частью фич, архитектуры и критериев готовности.
- Закупки (Procurement) — играют важную роль, если компания покупает ИИ-инструменты у внешних поставщиков. SAFe рекомендует использовать принципы Agile-контрактов. Это помогает заранее включить требования ответственного ИИ в договоры с поставщиками. В договоре можно фиксировать требования к защите данных, хранению данных, использованию клиентской информации, аудиту, объяснимости, безопасности, соответствию законодательству, поддержке, управлению инцидентами и праву компании проверять работу поставщика. Так компания снижает риск зависимости от внешнего ИИ-сервиса, который работает непрозрачно или небезопасно.
Резюме
Ответственный ИИ — это не отдельный документ и не разовая инициатива.
Это управленческая, инженерная и продуктовая практика. Она помогает компаниям использовать ИИ безопасно, понятно и с пользой для людей.
SAFe может ускорить внедрение ответственного ИИ, потому что уже содержит нужные элементы: стратегическую согласованность, управление портфелем, работу через потоки создания ценности, Agile Release Trains, системные команды, Agile-команды, DevOps-практики, нефункциональные требования и работу с поставщиками.
Если использовать эти механизмы последовательно, компания сможет быстрее адаптироваться к развитию ИИ и лучше управлять его рисками.
Такой подход помогает получить больше пользы от инвестиций в практики Lean-Agile и не отстать от быстрых изменений в технологиях искусственного интеллекта.
