Компания Microsoft официально запретила полицейским департаментам США использовать генеративный ИИ для распознавания лиц с помощью Azure OpenAI Service. Об этом сообщает TechCrunch.
Это также охватывает любые правоохранительные органы во всем мире. Запрет относится к использованию технологии распознавания лиц в реальном времени на мобильных камерах, таких как нагрудные камеры и видеорегистраторы.
Эти изменения произошли после того, как компания Axon, производитель технологий и оружия для военных и правоохранительных органов, объявила о создании нового продукта, использующего генеративную текстовую модель OpenAI GPT-4 для обобщения аудио с бодикамер. Однако критики указали на потенциальные проблемы с использованием этой технологии, такие как появление ложной информации и расовые предубеждения, которые могут оставить негативные последствия, особенно при остановке полицией цветных людей.
Неясно, использовала ли компания Axon Azure OpenAI Service для своего продукта и обусловила ли это обновление политики Microsoft.
