Доверенная среда для ИИ: какие шаги нужно пройти до 1 марта 2027

Что такое доверенная среда?

До появления нейросетей считалось, что доверенная среда — значит изолированная: замкнуть контур, проверить технику, проверить людей. Дальше остаётся следить, чтобы внутрь не занесли лишнего.

Пять шагов к доверенной среде

Шаг 1. Физически изолированная среда

Вычисления должны идти на оборудовании, которое вам подконтрольно. Раньше это упиралось в стоимость: специализированный сервер начинался от нескольких миллионов рублей.

Сейчас порог ниже. Настольные системы вроде NVIDIA DGX Spark дают один петафлопс при 240 Вт и 128 ГБ общей памяти, чип GB10 Grace Blackwell, SSD до 4 ТБ; цена стартовала с 3 999 $ и была поднята до 4 699 $ из-за дефицита памяти, но всё ещё остаётся приемлемой. Этого хватает, чтобы держать локально модель на 30–40 миллиардов параметров и оставить память под данные.

Шаг 2. Модули-оценщики

Отдельные сервисы, которые следят за поведением модели и отвечают на вопрос, можно ли доверять конкретному ответу прямо сейчас. Это то место, где собственная разработка даёт больше: оценщик пишется под предметную область и под конкретный регламент.

Шаг 3. Верификация кода

Формальная проверка на закладки и недокументированные функции.

Закладка — намеренно оставленный фрагмент, который делает что‑то, не описанное в документации: открывает скрытый доступ или срабатывает по условию. С обычным кодом это проверяемо, есть исходники и методики. С нейросетью проверять нечего: закладку можно вложить не в программу, а в обучающие данные, и модель будет вести себя нормально, пока не сработает определённый триггер.

В России этой темой предметно занимается Институт системного программирования РАН, но стадия ранняя, и законченного результата нет ни у кого в мире. Получить код со штампом «проверено, закладок нет, галлюцинации исключены» сегодня негде. Этот шаг закрыть нечем.

Шаг 4. Доверенные поставщики или комитетное решение

Первый вариант — выбирать вендора из списка и опираться на Кодекс этики в сфере ИИ. Второй — запускать несколько моделей на одной задаче и принимать решение по сходимости ответов, как в спорте, где субъективную оценку выставляют несколько судей.

Шаг 5. Международные нормы

Российский закон — первый рамочный документ, с которым бизнесу придётся работать; отраслевую конкретику для медицины, промышленности и ИТ ещё предстоит написать.

Итого: шаги 1 и 2 закрываются своими силами уже сейчас, шаг 4 — частично и за деньги, шаги 3 и 5 не закрыты ни у кого.

Из чего складывается разрыв между ожиданиями и результатом?

Шесть основных проблем

В июле 2025 года MIT Project NANDA выпустил отчёт «The GenAI Divide: State of AI in Business 2025». Вывод разошёлся по деловым изданиям: около 95% организаций не получили от генеративного ИИ измеримого эффекта на прибыль. И причина везде называется одна: дело не в качестве моделей, а в том, как компании их внедряют.

1. 1.Завышенные ожидания.От модели ждут того, чего она не делает, потому что ориентир задавали презентации вендоров, а не собственные замеры.
2. 2.Иллюзия контроля.Кажется, что процесс управляем, пока модель отвечает предсказуемо. Гарантии, что на пятитысячном запросе она поведёт себя так же, как на первом, нет.
3. 3.Чёрный ящик.Непонятно, откуда взялся конкретный ответ и что происходит внутри. Разобрать постфактум ошибку нельзя — можно только зафиксировать, что она была.
4. 4.Риски безопасности.Отдельный пласт, который начинается не с модели, а с того, какие данные в неё попадают и куда уходят.
5. 5.Быстрое устаревание.Модель, выбранная под задачу полгода назад, к моменту запуска уже не лучшая. Для локального контура это решается обновлением раз в квартал, в случае с облачным сервисом решение принимает поставщик.
6. 6.Подрыв экспертизы.Зачастую, внедряя ИИ, компании думают, что он заменит людей. На короткой дистанции экономика здесь считается в пользу модели. Но возникает риск кадрового разрыва.

В длинной перспективе компания теряет собственную воронку роста специалистов и попадает в зависимость от внешнего рынка труда, который к тому моменту тоже будет пустым.

Пять правил, которые
сокращают разрыв

1. 1.Начните с разведки, а не с выбора модели.Соберите список: какие задачи в вашей отрасли уже решены и как, какие пробовали решить и не вышло.
2. 2.Не рассчитывайте на безлюдную схему.Обещание убрать людей из процесса не выполняется. Люди останутся, и это должны быть люди, способные проверить, что модель насчитала.
3. 3.Перепроверяйте всё.Ответ модели не выпускается в работу автоматически.
4. 4.Вкладывайтесь в качество данных.Результат упирается во входную информацию: неполную, неточную, противоречивую, устаревшую. Работа с данными сегодня отдельная задача, а не подготовительный этап перед внедрением.
5. 5.Учите людей работать с инструментом.Не «пользоваться нейросетью», а понимать, где она ошибается и по каким признакам это видно.

Чек-лист перед внедрением

Пройдите по нему до того, как обсуждать бюджет на ИИ.

• Где физически считается модель.На каком оборудовании и в какой юрисдикции.
• Что уже утекло.Каким сервисом сотрудники пользуются прямо сейчас и что они туда загружали последние полгода. Ответ обычно неприятный.
• Попадаете ли вы под 243-ФЗ.Есть ли у вас государственные информационные системы или критически важные объекты в контуре – именно они попадут в правительственный перечень первыми.
• Что вынесено из промпта в код.Разграничение доступа, расчёты, обращения к справочникам – всё, что критично, не должно зависеть от того, как модель поняла инструкцию.
• Кто проверяет ответ.Есть ли оценщик и что происходит при его срабатывании.
• Список задач, а не список технологий.Какие задачи в вашей отрасли уже решены другими компаниями, какие проверены и не работают.
• Кадровый горизонт.Кто в вашей команде вырастет до старшего специалиста через пять лет, если задачи для джунов уходят модели.