Contenu du sommaire : « Éthique de l'IA » : enquêtes de terrain

L'article analyse la publicisation de l'intelligence artificielle (IA) et sa constitution en problème public, sous l'étiquette « éthique de l'IA », du point de vue des discours et des acteurs circulants entre arènes médiatique, scientifique et politique. Pour saisir l'ampleur de cette dynamique d'ensemble, il prend un objet peu exploré, la mise en relation entre ces trois arènes, c'est-à-dire les mécanismes de circulation et de déformation des discours, les conflits de définition, et les reconfigurations qui en résultent pour le domaine et pour les modes d'existence publique de l'IA. Articulant des méthodes quantitatives et qualitatives, l'enquête s'appuie sur trois types de données issues des arènes médiatique, politique et scientifique françaises : un corpus d'articles de presse relatifs à l'IA couvrant une période de près de 20 ans (2000-2019) ; des entretiens auprès d'acteurs du débat public (scientifiques, journalistes, institutionnels) ; des rapports publics (2006-2019). Portée par l'augmentation de la puissance de calcul et la disponibilité de larges bases de données d'entraînement, la « vague de l'IA » dans l'espace public se produit à la faveur de facteurs convergents – technologiques, économiques, médiatiques et politiques – sans être le reflet d'une véritable « révolution scientifique », promue par les médias et les entreprises mais contestée dans les récits des chercheurs. L'article montre ainsi comment la vie publique de l'IA prend forme à la croisée de registres discursifs concurrents et souvent incommensurables. De plus, si les discours sur l'IA et son éthique sont très présents dans l'espace public et émergent comme un « problème public » devenu un enjeu de régulation, ils ne s'appuient pas véritablement sur un « public concerné » (Dewey, 2012) en dehors des sphères spécialisées, qui serait engagé dans un travail d'enquête et de mobilisations collectives. Ainsi, la dernière « vague de l'IA » et la montée en puissance des questions éthiques semblent plutôt marquer une économicisation avancée du domaine, de plus en plus soumis aux intérêts privés, face à laquelle chercheurs et politiques cherchent à se positionner.

Un article publié par le média Pro Publica en 2016 considère que le logiciel Compas, utilisé aux États-Unis pour la prédiction de la récidive, porte préjudice à la population noire : «  It's biased against blacks ». La publication crée une onde de choc dans l'espace public et alimente les débats sur l'équité des algorithmes et sur le bien-fondé de ces outils de prédiction du risque. Ces débats étaient jusque-là confinés dans des sphères de spécialistes. En partant de l'affaire ProPublica-Compas, nous avons exploré les différents embranchements de la controverse dans l'arène des « data sciences » et dans celle du monde de la justice. Si, dans l'espace médiatique, l'affaire Compas illustre les dérives liées aux algorithmes et vient renforcer les inquiétudes autour de l'intelligence artificielle (peur du remplacement, du renforcement des inégalités et de l'opacité), dans le monde académique deux arènes s'emparent de l'affaire. Dans l'arène des data sciences, les chercheurs discutent des critères d'équité et de leur incompatibilité, montrant à quel point la traduction d'un principe moral en indicateurs statistiques est problématique. Ils débattent également de la supériorité supposée de la machine sur l'homme dans les tâches de prédiction. Dans l'arène de la justice pénale, espace beaucoup plus hétérogène, l'affaire ProPublica-Compas renforce la prise de conscience qu'il est nécessaire de mieux évaluer les outils avant de les utiliser, de comprendre comment les juges s'approprient ces outils en contexte et amène les ONG qui défendent les prisonniers et les législateurs à changer de posture par rapport à ces outils de prédiction. Tandis que l'arène des data sciences fonctionne dans un entre-soi disciplinaire, focalisé sur les données et les algorithmes hors contexte, dans l'arène juridique, qui assemble des acteurs hétérogènes, la question de l'inscription des outils dans la pratique professionnelle occupe une place centrale.

Les techniques d'apprentissage automatique traitent algorithmiquement des données fournies en entrée. Celles-ci font, au préalable, l'objet d'un travail d'annotation manuelle visant à en identifier les éléments saillants à des fins d'entraînement des modèles. Fastidieux et souvent déconsidéré, ce travail du clic façonne pourtant une « vérité » de référence pour l'IA, qui conditionne en grande partie les résultats produits. Cet article étudie les modalités d'exécution de ce travail et ses effets à partir de l'étude du cas de la conception d'un outil d'anonymisation automatique des décisions de justice au sein de la Cour de cassation. Enquête ethnographique et par entretiens permettent de mettre en évidence la pluralité des compétences mobilisées par les acteurs chargés de l'annotation des données. L'article montre l'importance des systèmes représentationnels et moraux dans la mise en œuvre de cette activité, et donc, pour le fonctionnement de l'IA.

Cet article croise les regards de la sociologie de l'innovation et de l'éthique des technologies. Il met en évidence la portée heuristique du concept d'expérimentation pour penser l'éthique de l'Intelligence Artificielle (IA), et ce dans le domaine de la radiologie. Plus précisément, nous mobilisons trois déclinaisons du concept d'expérimentation ( experiment in and with technology, tacit experiment) pour décrire et analyser quatre environnements de travail où des logiciels de détection à base d'IA (en sénologie et en traumatologie) sont testés. Nous soulignons les modalités d'appropriation (ou de rejet) de ces dispositifs mais aussi les préoccupations éthiques qui en résultent, en nous appuyant sur les dérivés du concept d'expérimentation susmentionnés. Cette éthique de l'IA renvoie à trois séries d'interrogations : la première porte sur le pilotage, le périmètre, l'apprentissage durant ces expérimentations et finalement sur le caractère (plus ou moins) démocratique de ces dernières ; la deuxième sur la justesse de ce que livrent ces logiciels et par conséquent les risques d'erreurs engendrés, dans le cadre d'une délégation (au moins partielle) du travail d'analyse à des algorithmes ; enfin, la troisième sur la qualité du service rendu et son équité, au sein du système de santé, ainsi que sur le contenu d'identités professionnelles. L'éthique de l'IA s'encastre alors dans des situations concrètes d'usage et s'incarne dans des univers professionnels, à la différence des éthiques « à principes » et « au futur ».

L'Explicabilité de l'Intelligence Artificielle (IA) est citée par la littérature comme un pilier de l'éthique de l'IA. Mais rares sont les études qui explorent sa réalité organisationnelle. Cette étude propose de remédier à ce manque, à travers des interviews d'acteurs en charge de concevoir et déployer des IA au sein de 17 organisations. Nos résultats mettent en lumière la substitution massive de l'explicabilité par la mise en avant d'indicateurs de performance ; la substitution de l'exigence de compréhension par une exigence d'accountability (rendre des comptes) ; et la place ambiguë des experts métiers au sein des processus de conception, mobilisés pour valider l'apparente cohérence d'algorithmes « boîtes noires » plutôt que pour les ouvrir et les comprendre. Dans la pratique organisationnelle, l'explicabilité apparaît alors comme suffisamment indéfinie pour faire coïncider des injonctions contradictoires. Comparant les prescriptions de la littérature et les pratiques sur le terrain, nous discutons du risque de cristallisation de ces problématiques organisationnelles via la standardisation des outils de gestion utilisés dans le cadre de (ou à la place de) l'effort d'explicabilité des IA.

Les collectifs qui défendent l'existence d'un internet alternatif et non marchand sont souvent présentés par les sciences sociales comme marginaux et inaudibles (Hintz et Milan, 2009 ; Alexandre et al., 2022). Certes les fournisseurs d'accès à internet (FAI) associatifs demeurent relativement invisibles au niveau national en France, mais le Parlement allemand a reconnu au réseau libre Freifunk un statut d'utilité publique en 2020. Si l'internet non marchand est réservé à une élite compétente, comment expliquer que les destins des infrastructures libres puissent être différents ? Partant du programme d'« ethnographie des infrastructures » (Star, 1999) et d'une enquête auprès de FAI associatifs en France et en Allemagne, nous montrerons que les services alternatifs ont façonné un discours de résistance à l'égard de l'internet commercial qui est entré, dans une certaine mesure, en écho avec les politiques publiques. Nous analysons en particulier le rôle de la division du travail dans le succès de ces collectifs dont la mission porte autant sur la construction d'infrastructures de connexion que sur la formulation d'un discours de plaidoyer en leur faveur. L'accession à une reconnaissance d'utilité publique apparaît corrélée à une division du travail autour de ces deux missions, au sein d'institutions distinctes.