Předpojatost
Systémy umělé inteligence se učí na datech, která připravují lidé. Špatně připravená, nevyvážená data nebo jejich nedostatek mohou způsobit, že umělá inteligence bude určitým způsobem předpojatá a bude odpovídat zkresleně (v angličtině biased). Předpojatost může být například historická, kdy se dlouho opakované lidské předsudky (rasa, gender...) promítnou také do dat — umělá inteligence bude na vedoucí pozice doporučovat spíše muže, protože v minulosti to tak doopravdy bylo. Nebo reprezentační — bude rozpoznávání tváří správně fungovat v Africe, když jsme natrénovali systém umělé inteligence na tvářích lidí ze střední Evropy? Pokud má umělá inteligence hrát větší roli v rozhodovacích procesech, je důležité, abychom se na ni byli schopni spolehnout s ohledem na její přesnost a nezaujatost. Proto je velmi důležité, abychom AI systémy učili na těch správných datech.