Können Deep-Learning-Modelle in ihren Vorhersagen voreingenommen sein?

Ja, Deep-Learning-Modelle können in ihren Vorhersagen voreingenommen sein, wenn die Trainingsdaten voreingenommene Informationen enthalten.

Wurde ein Deep-Learning-Modell zur Überprüfung von Bewerbenden beispielsweise mit einem Datensatz trainiert, der hauptsächlich aus weißen, männlichen Bewerbern besteht, wird es diese spezifische Bevölkerungsgruppe ständig anderen Bewerbenden gegenüber bevorzugen.