Система внесла некоторые слова в чёрный список после того, как в 2015 году сервис перепутал обезьян с чернокожими людьми.
Площадка Google Photo перестала показывать результаты по запросу «горилла», «шимпанзе» и «обезьяна». Эксперимент провёл журнал Wired.
Исследователи прогнали через сервис порядка сорока тысяч фото с изображениями животных. Система при этом находила ошибочно панд или пуделей.
В представительстве компании отметили, что эти слова стали запретными после того, как в 2015 году система перепутала чернокожих людей с гориллами.
— Технология, указывающая, что изображено на снимке, ещё на ранней стадии разработки и, к сожалению, не всегда работает идеально, — отметили в компании.
При попытке загрузить в сервис фото шимпанзе или горилл результаты показывались по запросам «лес», «джунгли», «зоопарк».
Для другого исследования загрузили 10 000 изображений, которые используют в программах распознавания лиц. По слову «афроамериканец» поисковый сервис выдал изображение антилопы. По запросам «темнокожий мужчина», «темнокожая женщина» и «темнокожий человек» — чёрно-белые фото. Там он не ошибся с полом, но с расой.