De plus en plus, les algorithmes se substituent aux êtres humains dans les prises de décision ou la réalisation des tâches. Ils prennent en compte nombre de paramètres mais la question de la transparence des algorithmes se pose : peuvent-ils expliquer leur décision ?

Progressivement, nous laissons les algorithmes prendre le relais de nos décisions. Ils sont utilisés par exemple par les banques pour l’obtention d’un prêt, ou en remplacement d’un juge. Le banquier peut avoir un grief contre le demandeur du prêt, ou utiliser un logiciel biaisé. Le juge, quant à lui, ne détaille pas toujours les raisons qui ont guidé sa décision. Un algorithme est avant tout une méthode pour trouver une solution à un problème, il peut être plus juste, avoir moins de préjugés contrairement à l’Homme, il n’a pas d’à priori et au moins ne change pas d’humeur. La justice humaine a des failles, les humains peuvent être partiaux. L’origine ethnique, le contexte médiatique... autant de circonstances qui peuvent influencer les juges. Une nouvelle notion émerge : celle de la qualité des données, et savoir définir ce qu’est une bonne donnée.

Les algorithmes prennent des décisions, mais la motivation qui les poussent à les prendre ne peut pas leur incomber seuls. Pour que leurs décisions soient totalement acceptées, il faudrait concevoir des algorithmes d’apprentissage qui pourraient expliquer leur résultat.