Équité, explicabilité, paradoxes et biais

Équité, explicabilité, paradoxes et biais

L’équité ou fairness des algorithmes suscite une abondante littérature. Sur un plan qualitatif, on examinera les liens entre équité, explicabilité et interprétabilité. On peut penser qu’il vaut mieux comprendre le fonctionnement d’un algorithme pour savoir s’il est équitable, mais en fait il n’en es...

Descrizione completa

Salvato in:
Dettagli Bibliografici
Pubblicato in:URI:https://journals.openedition.org/statsoc,
Autore principale: Saporta, Gilbert
Natura: Article ou chapitre numérique
Lingua:Français
Pubblicazione: Statistique et société 2023
Soggetti:
IA
justice
machine learning
algorithmes
Fairness
equity
algorithms
bias
Accesso online:Accès Université d'Orléans et IFPM
Accès Université d'Orléans et IFPM
id openedition-oai:revues.org:statsoc_539
record_format openedition
spelling openedition-oai:revues.org:statsoc_539 https://doi.org/10.4000/statsoc.539 urn:doi:10.4000/statsoc.539 fr https://journals.openedition.org/statsoc/539 2023-12-07T01:00:00Z info:eu-repo/semantics/openAccess article info:eu-repo/semantics/article urn:handle:20.500.13089/kwat https://creativecommons.org/licenses/by-nc/4.0/ Équité, explicabilité, paradoxes et biais Statistique et société Société Française de Statistique (SFdS) info:eu-repo/semantics/reference/issn/2269-0271 URI:https://journals.openedition.org/statsoc Saporta, Gilbert IA justice machine learning algorithmes Fairness equity algorithms bias machine learning L’équité ou fairness des algorithmes suscite une abondante littérature. Sur un plan qualitatif, on examinera les liens entre équité, explicabilité et interprétabilité. On peut penser qu’il vaut mieux comprendre le fonctionnement d’un algorithme pour savoir s’il est équitable, mais en fait il n’en est rien car la transparence ou l’explicabilité sont relatives à l’algorithme alors que l’équité concerne son application différenciée à des groupes d’individus. Suivant Rudin (2019), on distinguera l’interprétabilité, qui est liée à la simplicité, de l’explicabilité qui est en général post-hoc avec des approches globales ou locales, agnostiques ou spécifiques, utilisant souvent des modèles de substitution (Molnar, 2021).La diversité des mesures d’équité ne simplifie pas son appréhension : Verma et Rubin (2018) en ont dénombré plus de vingt qui conduisent d’ailleurs à des incompatibilités comme l’illustre la controverse sur laquelle nous reviendrons concernant l’application « COMPAS » de prédiction de la récidive. Les « biais » des algorithmes ne sont souvent que la reproduction de ceux des décisions antérieures que l’on retrouve dans les données d’apprentissage. Mais ce ne sont pas les seuls. On tentera de dresser une typologie des principaux biais : statistiques, sociétaux, cognitifs, etc. The fairness of algorithms is the subject of an abundant literature. On a qualitative level, we will examine the links between fairness, explainability, and interpretability. One may think that it is better to understand the functioning of an algorithm to know if it is fair, but in fact this is not the case because transparency or explicability are relative to the algorithm whereas fairness concerns its differentiated application to groups of individuals. Following Rudin (2019), we distinguish interpretability, which is related to simplicity, from explainability, which is generally post-hoc with global or local, agnostic or specific approaches, often using surrogate models (Molnar, 2021).The diversity of fairness measures does not simplify its apprehension: Verma and Rubin (2018) have counted more than twenty of them, which moreover lead to incompatibilities as illustrated by the controversy to which we will return concerning the « COMPAS » recidivism prediction application. The "biases" of the algorithms are often simply the reproduction of those of previous decisions found in the training data. But they are not the only ones. We will try to draw up a typology of the main biases: statistical, societal, cognitive, etc.
collection OpenEdition Journal
language Français
format Article ou chapitre numérique
building 0/Bibliothèque numérique/
1/Bibliothèque numérique/OpenEdition Journals/
topic IA
justice
machine learning
algorithmes
Fairness
equity
algorithms
bias
machine learning
spellingShingle IA
justice
machine learning
algorithmes
Fairness
equity
algorithms
bias
machine learning
Saporta, Gilbert
Équité, explicabilité, paradoxes et biais
description L’équité ou fairness des algorithmes suscite une abondante littérature. Sur un plan qualitatif, on examinera les liens entre équité, explicabilité et interprétabilité. On peut penser qu’il vaut mieux comprendre le fonctionnement d’un algorithme pour savoir s’il est équitable, mais en fait il n’en est rien car la transparence ou l’explicabilité sont relatives à l’algorithme alors que l’équité concerne son application différenciée à des groupes d’individus. Suivant Rudin (2019), on distinguera l’interprétabilité, qui est liée à la simplicité, de l’explicabilité qui est en général post-hoc avec des approches globales ou locales, agnostiques ou spécifiques, utilisant souvent des modèles de substitution (Molnar, 2021).La diversité des mesures d’équité ne simplifie pas son appréhension : Verma et Rubin (2018) en ont dénombré plus de vingt qui conduisent d’ailleurs à des incompatibilités comme l’illustre la controverse sur laquelle nous reviendrons concernant l’application « COMPAS » de prédiction de la récidive. Les « biais » des algorithmes ne sont souvent que la reproduction de ceux des décisions antérieures que l’on retrouve dans les données d’apprentissage. Mais ce ne sont pas les seuls. On tentera de dresser une typologie des principaux biais : statistiques, sociétaux, cognitifs, etc.
author Saporta, Gilbert
author_facet Saporta, Gilbert
author_sort Saporta, Gilbert
title Équité, explicabilité, paradoxes et biais
title_short Équité, explicabilité, paradoxes et biais
title_full Équité, explicabilité, paradoxes et biais
title_fullStr Équité, explicabilité, paradoxes et biais
title_full_unstemmed Équité, explicabilité, paradoxes et biais
title_sort équité, explicabilité, paradoxes et biais
publisher Statistique et société
publishDate 2023
container_title URI:https://journals.openedition.org/statsoc
url https://ezproxy.univ-orleans.fr/login?url=https://doi.org/10.4000/statsoc.539
https://ezproxy.univ-orleans.fr/login?url=https://journals.openedition.org/statsoc/539
_version_ 1877292602248658945

Documenti analoghi