Nieostrożne lub celowe nadużywanie algorytmów uczenia maszynowego do zadań takich jak ocena wniosków o zwolnienie warunkowe i pożyczki może skutkować decyzjami, które są stronnicze ze względu na rasę, płeć lub inne chronione kategorie. Często same dane odzwierciedlają wszechobecne uprzedzenia w społeczeństwie