Российские разработчики заметили ошибки на стыке работы разных ИИ-систем

«Известия» сообщают, что российские разработчики столкнулись с новым типом ошибок нейросетей — «галлюцинациями взаимодействия». Сбои происходят не внутри одной модели, а когда несколько ИИ-систем обмениваются данными. Например, при заказе билетов через помощника, который обращается к внешнему сервису с другой языковой моделью. В результате пользователь получает неверный заказ, неправильный платёж или зависшую операцию.

Как рассказал руководитель группы продуктов «Оператор Газпром ИД» Руслан Долгополов, крупные компании формируют закрытые экосистемы, а единых стандартов обмена данными нет. Телекомы, банки и маркетплейсы говорят на разных «цифровых языках», и при передаче задачи контекст теряется, смысл искажается. Это напоминает игру в испорченный телефон.

IT-эксперт Сергей Поморцев привёл реальный пример: ИИ-помощник пытается купить билеты в кино. Пользователь просит найти вечерний сеанс и оплатить, но после передачи данных между системами помощник перепутал дату, выбрал другой кинотеатр или не завершил оплату. Если не создать общую среду взаимодействия, такие ошибки станут системной проблемой для цифровой экономики.

Как подчёркивается, чтобы рынок не развалился на несовместимые куски, нужны не жёсткие сертификаты на каждую модель, а единые технические протоколы обмена информацией (например, MCP и A2A). Без таких правил и без стандартных программных интерфейсов (API) компании останутся в своих «цифровых крепостях», предупреждают эксперты.