Москва, 18 апреля — Американские ученые из центра информационных технологий Принстонского университета совместно с исследователями из Университета Баса доказали, что система искусственного интеллекта (ИИ), обучаясь языку на примере реальных текстов и литературы, может усвоить расовые и гендерные стереотипы.
Как уточняется, помимо формальной структуры языка компьютер способен усваивать и семантические связи.
Известно, что при создании программ, предназначенных для работы с языками, используется машинное обучение. Чтобы алгоритм выглядел естественно и умел оперативно воспринимать «живую речь», в качестве учебного материала программисты используют реальные тексты из социальных сетей, форумов, материалов средств массовой информации, а также художественной литературы.
Разработав специальный алгоритм измерения близости выбранных векторных моделей и проанализировав корпус текстов, ученые пришли к выводу – искусственный интеллект способен невольно усваивать стереотипы – расовые и гендерные –, встречающиеся в материалах обучения.
«В будущем такие особенности могут негативным образом сказаться на работе искусственного интеллекта. Так, например, программа с расовыми предрассудками не сможет принимать справедливые решения при рассмотрении резюме и отборе кандидатов на работу»,– подчеркивает Джоана Брайсон, ведущий специалист исследовательской группы.
В настоящее время ученые продолжают работу, анализируя ассоциации между словосочетаниями. Разработанная ими методика анализа будет применяться для изучения исторических текстов, чтобы узнать, в какой именно момент развились и укоренились предубеждения.