«Марш девяток» Карпати: как инженерные ошибки подрывают надёжность ИИ-систем
В современной индустрии искусственного интеллекта часто звучит утверждение, что 90% надёжности системы — это высокий показатель. Однако, как подчёркивает Андрей Карпати, даже уровень 99% пригоден лишь для прототипов и демонстраций, но не для критически важных рабочих процессов. Причина — в так называемом «марше девяток»: каждая дополнительная девятка в процентах успешных операций требует сопоставимых инженерных усилий, а итоговая надёжность сложного процесса быстро падает из-за накопления ошибок на каждом этапе.
В типичном рабочем процессе с ИИ, включающем несколько последовательных шагов (например, парсинг, планирование, вызовы инструментов, валидация, логирование), итоговая вероятность успеха равна произведению вероятностей каждого шага. Если каждый из 10 этапов выполняется с вероятностью 90%, общий успех — лишь около 35%. Даже при 99% надёжности каждого шага итоговый показатель — 90%, что всё ещё приводит к частым сбоям в реальной эксплуатации.
Для достижения уровня, соответствующего промышленным стандартам, требуется не только улучшать сами модели, но и внедрять строгие инженерные практики. Карпати выделяет девять ключевых подходов: ограничение автономии через явные графы рабочих процессов, жёсткое соблюдение контрактов на всех границах системы, многоуровневая валидация (синтаксис, семантика, правила), маршрутизация по уровню риска, инженерия вызовов инструментов как распределённых систем, предсказуемость и наблюдаемость извлечения данных, постоянная оценка в продакшене, развитая система мониторинга и быстрой реакции, а также наличие «ползунка автономии» с безопасными откатами и ручным контролем.
Особое внимание уделяется измеримым целям надёжности (SLO) и строгой валидации всех входных и выходных данных. Для каждого рабочего процесса устанавливаются отдельные целевые показатели, а ошибки и инциденты превращаются в тесты для предотвращения повторных сбоев. Такой подход позволяет не только повысить надёжность, но и сделать систему управляемой и прозрачной для бизнеса.
Практическая реализация этих принципов включает ограничение числа попыток, тайм-ауты, строгую типизацию данных, версионирование схем, автоматическое переключение на более безопасные режимы при ошибках и обязательное участие человека в критических ситуациях. Всё это превращает ИИ из экспериментального инструмента в надёжный компонент корпоративных решений.
По данным опроса McKinsey за 2025 год, более половины компаний, использующих ИИ, столкнулись с негативными последствиями из-за недостаточной надёжности, а треть — с ошибками, связанными с неточностью моделей. Поэтому переход от «первых девяток» к промышленной надёжности становится ключевым фактором для массового внедрения ИИ в бизнес-процессы.