Artificiell intelligens skulle göra saken bättre, den skulle hantera, analysera och dra slutsatser på ett mer objektivt sätt än vad den subjektiva människan kan göra. Men det har visat sig att de informationsmängder som används vid maskininlärning för mjukvaror ibland inkluderar fördomar och antaganden som vi människor lever med, ofta undermedvetet. Genom profilering och beslutsfattande med hjälp av AI finns risken att återskapa tidigare misstag såsom diskriminering eller förankring av fördomar.

Enligt Artikel 22 i Dataskyddsförordningen har den registrerade rätt att inte bli föremål för beslut som enbart grundas på automatiserad behandling, inbegriper profilering, vilket har rättsliga följder eller på liknande sätt i betydande grad påverkar den registrerade. Det är därför viktigt att bibehålla dataskydd och sekretess i processer för beslutsfattande med hjälp av AI.

Ett steg i detta är att genomföra konsekvensanalyser på flera nivåer. Med breda konsekvensanalyser för hela processen men också för metoden med dess algoritmer och underliggande informationsmängder. Genom att öka vår förståelse för processer som inkluderar AI kan åtgärder vidtas i syfte att förebygga de risker som kan finnas med AI.