Обучение искусственного интеллекта (ИИ) на основе общедоступных данных из интернета негативно влияет его натуру. К такому выводу пришли ученые из Университета Хопкинса.
Обучение искусственного интеллекта (ИИ) на основе общедоступных данных из интернета негативно влияет его натуру. К такому выводу пришли ученые из Университета Хопкинса.
Чтобы подтвердить эту гипотезу, специалисты провели эксперимент. Ботам предстояло охарактеризовать человека по одному изображению. Для этого в их распоряжении была база данных с мнениями реальных людей.
Оказалось, что ИИ черпал из Сети токсичные стереотипы о людях. Например, роботы идентифицировали женщин как «домохозяек», южноамериканцев принимали за «уборщиков», а темнокожих мужчин порой называли «преступниками». Когда ИИ искал доктора, он преимущественно делал выбор в пользу мужчин.
Специалисты сочли подобное поведение нейросети небезопасным. В исследовании также принимали участие сотрудники Вашингтонского университета и Технологического института Джорджии.
