Отчет Human Rights Watch показывает, что детские фотографии, размещенные в сети, даже при строгих настройках конфиденциальности, используются для обучения моделей искусственного интеллекта без согласия. Так, более 190 фотографий австралийских детей были обнаружены в наборе данных ИИ LAION-5B.
Эти фотографии, охватывающие различные этапы детства, позволяют генераторам изображений ИИ создавать реалистичные дипфейки, что потенциально ставит под угрозу безопасность и конфиденциальность детей, пишут эксперты. Некоторые изображения даже содержат "идентифицируемые детали", такие как имена и местоположение.
Эта проблема подчеркивает острую необходимость усиления регулирования для защиты конфиденциальности детей в Интернете, считают представители Human Rights Watch. Хотя такие платформы, как YouTube, подчеркивают, что их условия предоставления услуг не допускают несанкционированного скраппинга, проблема сохраняется, поскольку модели искусственного интеллекта продолжают обучаться на уже полученных данных.
Правозащитные группы подчеркивают "настоятельную необходимость надежных гарантий для предотвращения подобного неправомерного использования детских фотографий в будущем".
