ИИ-алгоритмы следят за работниками магазинов, чтобы они были дружелюбными. Звучит безобидно, но на деле все намного серьезнее.
Японская сеть супермаркетов AEON (аналог российских «Магнитов» и «Пятерочек») запустила систему искусственного интеллекта для оценки улыбок и дружелюбия своих сотрудников. Технология призвана улучшить клиентский опыт походов за продуктами, однако нововведение столкнулось с кучей критики.
Система заработала в 240 магазинах 1 июля. Нейросеть под названием «Mr Smile», встроенная в камеру у кассы, отслеживает поведение продавца в момент обслуживания клиента. Система оценивает более 450 деталей, включая мимику, громкость голоса и тон.
В эксперименте участвуют более 3400 сотрудников. Спустя три недели после запуска технологии качество обслуживания улучшилось в 1,6 раза. Но не потому что продавцы стали по-настоящему дружелюбными, а потому что им теперь приходится натягивать улыбку, чтобы не понизить общий рейтинг торговой точки.
Опрошенные СМИ эксперты критикую технологию, сравнивая ее с насилием. По факту, сотрудников заставляют выражать не те эмоции, которые они испытывают, что может приводить к быстрому выгоранию и стрессам. «Улыбки должны быть красивой, искренней вещью, и к ним не нужно относиться как к продукту», — заявил один из специалистов.
