Ответственный ИИ в 2026: от этики к соответствию требованиям

Почему «этика» стала «соответствием»

Разговор об этике ИИ в 2020-2024 годах был философским: принципы, своды правил, добровольные обязательства. В 2025-2026 годах разговор перешёл к практике: задокументированные средства контроля, доказательства проверки, реальные действия регуляторов.

Сдвиг произошёл по трём причинам:

1. Закон ЕС об ИИ (запреты с 2 февраля 2025 года; требования к системам высокого риска с 2 декабря 2027 года после AI Omnibus). Штрафы до €35 млн или 7% мирового оборота, смотря что больше (ст. 99).

2. NIST AI RMF - формально добровольный свод правил, который всё чаще требуют для федеральных контрактов США и корпоративных закупок.

3. ISO/IEC 42001 - стандарт системы менеджмента для ИИ. Опубликован в декабре 2023 года и стал первым в своём роде. По нему можно пройти сертификацию, и тогда у покупателя есть доказательство, а не заверения. Второй календарь, который стоит повесить рядом, - сроки применения AI Act ЕС: обязанности для моделей общего назначения действуют с 2 августа 2025 года, а штрафовать за их нарушение Еврокомиссия может с 2 августа 2026 года.

Теперь спрашивают уже не о том, должен ли ИИ быть справедливым, а о документах, которые доказывают, что ваша конкретная ИИ-система отвечает конкретным требованиям. По доказательствам большинство компаний отстаёт.

Сравнение трёх сводов

Все три свода сильно пересекаются, и многие средства контроля, написанные для одного, работают и для других. Поэтому разумно идти на сертификацию ISO 42001 и сопоставить её средства контроля с теми требованиями Закона ЕС об ИИ и практиками NIST AI RMF, которые к вам относятся.

Что значит «высокий риск» по Закону ЕС об ИИ

Приложение III Закона ЕС об ИИ перечисляет области ИИ высокого риска. Если ваша система работает в любой из них, применяется полная оценка соответствия:

• Биометрическая идентификация и категоризация людей.
• Управление критической инфраструктурой (энергия, вода, транспорт).
• Образование и профессиональное обучение (приём, оценка экзаменов).
• Найм и работа с персоналом (отбор, оценка работы, распределение задач).
• Доступ к базовым услугам (кредитный скоринг, доступ к социальным выплатам).
• Правоохранительная деятельность (прогнозирование преступлений, оценка рисков).
• Управление миграцией и границами.
• Отправление правосудия (расстановка приоритетов дел, оценка доказательств).

Большинство систем, которые делают разработчики, относятся к ограниченному риску, а не к высокому. Требования к ним облегчённые: прозрачность (чат-бот обязан сообщать, что он ИИ), сводки обучающих данных, базовая документация рисков. Если правильно очертить, где и как применяется система, соответствие обходится недорого.

Какие документы нужны

По каждой ИИ-системе, которая попадает в проверку, аудитор ожидает увидеть три группы документов.

Документы управления

• Политика ИИ (одна страница): область применения, принципы, конкретные ответственные.
• Роли и ответственность: кто отвечает за каждую систему, кто проверяет изменения, кто реагирует на инциденты.
• Закупочные условия для сторонних поставщиков ИИ.

Технические доказательства

• Документация модели (карточка модели): назначение, входы, выходы, источники обучающих данных, точность, ограничения.
• Результаты проверки на смещение: анализ защищённых признаков, одинаково ли система работает для разных групп.
• Устойчивость: поведение на состязательном вводе и в крайних случаях.
• Проверка безопасности: аудит OWASP LLM Top 10 (для систем на языковых моделях).
• Журналы мониторинга дрейфа: входные данные, предсказания, точность во времени.

Операционные доказательства

• Журнал реакции на инциденты: что пошло не так, когда, реакция, уроки.
• Журнал изменений модели: каждое развёртывание с причиной, проверкой, путём отката.
• Журнал человеческого надзора: где люди проверяли вывод ИИ и что исправили.
• Прозрачность для клиентов: карточки моделей опубликованы или доступны по запросу.

Часть этого списка у большинства компаний уже есть, собранная без всякого плана. Дособрать остальное и значит внедрить ISO 42001.

Проверка на смещение в 2026 году

В 2024 году проверка сводилась к фразе «мы прогнали набор COMPAS». В 2026-м это регулярная процедура: каждая модель, попавшая в проверку, тестируется на защищённых признаках, относящихся к её применению, до развёртывания и затем ежеквартально в эксплуатации.

Три категории защищённых признаков:

1. Демографические (пол, возраст, раса - там, где их вообще допустимо собирать). Сравниваем по группам точность, долю ложных срабатываний и долю пропусков.

2. Географические (страна, регион). Часто служат косвенным признаком демографии, но и сами по себе важны для международных развёртываний.

3. Специфичные для применения (например, новые и постоянные клиенты, крупные и мелкие). Здесь чаще всего и скрывается смещение, важное для бизнеса.

Инструменты: Aequitas, Fairlearn, IBM AIF360. На выходе получается отчёт о качестве работы по группам с оценкой статистической значимости, и он ложится в пакет доказательств для аудита.

Что приводит компании к проблемам

Претензии регуляторов и сорванные закупки чаще всего вырастают из трёх ошибок.

1. Возможности ИИ развёрнуты без классификации. Разработчик добавляет в свой продукт для найма «ИИ-оценку кандидатов» и не замечает, что по Закону ЕС об ИИ это высокий риск. Когда клиент из ЕС запрашивает доказательства соответствия, показать нечего: клиент уходит, а следом приходит регулятор.

2. Заявления о справедливости без проверки на смещение. Маркетинг пишет «справедливый ИИ», продажи повторяют это на демонстрациях, но проверку на смещение никто не проводил. Когда клиент при закупке просит доказательства, сделка встаёт.

3. Сторонние API ИИ без документов от поставщика. Компания строит продукт на API OpenAI или Anthropic и не запрашивает у поставщика документы о соответствии (SOC 2, ISO 42001, Закон ЕС об ИИ). Корпоративный покупатель их требует, и сделка снова встаёт.

Лечится это описью, проверкой и договорами, именно в таком порядке. Заодно наведите порядок в практиках безопасности ИИ: большинство аудиторов проверяют их вместе с остальным.

Спринт соответствия для разработчика

Месяц 1. Опись. Составляем список всех возможностей ИИ в продукте, относим каждую к уровню риска по Закону ЕС об ИИ и отмечаем, где работает сторонний ИИ, а где собственные модели. Шире про корпоративный контекст - «Интеграция ИИ в бизнес» и «Цифровая трансформация 2025».

Месяц 2. Основные средства контроля. Проверяем на смещение классификационные модели, учим чат-ботов сообщать, что они ИИ, ставим человека проверять решения с высокими ставками и собираем документы о соответствии от поставщиков.

Месяцы 3-4. Документация. Пишем карточки моделей для каждой системы, план управления рисками и процедуру реакции на инциденты, заполняем шаблоны доказательств для аудита.

Месяцы 5-6. Готовность к ISO 42001. Проводим внутренний аудит, ищем пробелы, доводим средства контроля и приглашаем внешнего аудитора на предварительную проверку.

Месяцы 7-9. Сертификация. Проходим окончательный аудит, исправляем замечания и получаем сертификат. Сертификат ISO 42001 вместе с хорошими доказательствами обычно сам по себе даёт соответствие Закону ЕС об ИИ для систем ограниченного риска.

Цену сертификационного и ежегодных надзорных аудитов узнайте у аккредитованных органов и сравните её со штрафом до €15 млн или 3% мирового оборота, смотря что больше.

Итог

Этика ИИ в 2026 году - это прежде всего соответствие. Три свода (Закон ЕС об ИИ, NIST AI RMF, ISO 42001) сильно пересекаются по средствам контроля. Вся работа сводится к задокументированным доказательствам: управленческим, техническим, операционным. Большинство компаний по ним отстаёт, а собирать доказательства задним числом труднее, чем встроить процессы сразу. Сертификация ISO 42001 окупается лучше всего: её средства контроля ложатся на другие своды, а сертификат покупатель может проверить. Относитесь к соответствию как к инженерной задаче, а не к философии: аудиты проводятся на самом деле, а штрафы крупные.

Какие решения система может принимать без человека, разобрано в тексте что вашему ИИ решать не разрешено.