Contenu du sommaire : Machines prédictives

À l'heure du machine learning les algorithmes sont de plus en plus observés et analysés en termes comportementaux. Plus encore, l'apprentissage algorithmique est généralement présenté comme l'automatisation du caractère prédictif de nos comportements. En se confrontant à ce problème, cette proposition met en lumière son arrière-fond cybernétique tout en proposant une alternative à la fois épistémologique et sociale qui passe par une réactivation de la philosophie de Gilbert Simondon. Il s'agira plus particulièrement de penser l'apprentissage algorithmique à l'aune de sa théorie du cycle de l'image, et ce afin d'élaborer un cadre conceptuel à partir duquel il est possible de problématiser celui-ci comme une activité sociale au sein de laquelle comportements machiniques et organiques, automatiques et inventifs ne se distribuent pas selon un partage ontologique préétabli, mais s'informent activement. Ce cadre nous permettra, en outre, de jeter les bases de nouvelles perspectives sociologiques sur l'apprentissage algorithmique.

Aujourd'hui, nous sommes tous conduits à produire quotidiennement de grandes quantités de données numériques. Du point de vue des acteurs socioéconomiques, la valeur de ces données souvent qualifiées de massives réside essentiellement dans leur capacité à autoriser une meilleure domestication du futur. Pour ce faire, de nombreux professionnels conçoivent un arsenal de machines qui ont pour fonction de prédire l'avenir. Dans cet article, nous proposons d'étudier les discours des concepteurs afin de dégager différents outils de description de la fabrication de ces machines. Notre objectif est ainsi de permettre l'identification et la compréhension des normativités que recouvre leur développement au sein des organisations.

L'article propose une généalogie des visions machiniques de la gestualité, commençant par la reproductibilité technique de l'image, et arrivant aux machines prédictives contemporaines. Le texte est structuré en trois parties. La première décrit comment la reproductibilité technique de l'image – photographique et cinématographique – est mise au service de la réplication du geste, de son abstraction et de son expropriation dans plusieurs domaines (sécurité et autodéfense, science, art et industrie). La deuxième partie montre que la matrice du modèle technique contemporain, visant la prédiction des comportements, était déjà partiellement définie par la cybernétique. Finalement, la dernière partie analyse les dispositifs de vision par ordinateur et les caméras intelligentes basées sur la détection automatisée de gestes et de mouvements envisageant la prédiction et le contrôle de la conduite. Ce parcours généalogique met en évidence deux vecteurs de transformation. Le premier est une progressive abstraction et expropriation des gestes par l'image technique. Le second est un effacement relatif de l'identité et de la subjectivité lorsque le biais prédictif de l'image technique est renforcé. Surtout dans le domaine de la sécurité et de la surveillance, la dimension prédictive se renforce en s'éloignant du paradigme de l'identification qui est dominant dans la modernité.

L'alerte lancée en septembre 2017 à propos d'un algorithme susceptible de prédire l'orientation sexuelle des individus questionne le statut des « machines prédictives » et le rôle des sciences sociales dans de telles circonstances. Entre la revendication d'un retour à la physiognomonie à l'heure du deep learning, l'explication des performances à partir d'une théorie « biologisante » des origines de l'orientation sexuelle et l'annonce de la fin de la vie privée, cette recherche, menée sous la direction de Michal Kosinski, professeur de psychologie à Stanford, engage à ne pas laisser un tel débat au seul registre de l'éthique. Dans cet article, nous proposons d'interroger la pertinence de l'alerte lancée par Kosinski au regard de la controverse qu'elle a suscitée, tant elle se révèle pertinente pour examiner l'entrée des algorithmes prédictifs dans le débat public. Nous questionnons l'ambiguïté du statut de « lanceur d'alerte » que les auteurs assument pourtant explicitement, car l'examen critique de leur modèle prédictif révèle finalement son inaptitude à démontrer les origines hormonales prénatales de l'orientation sexuelle et à distinguer les orientations sexuelles des personnes dans l'espace public.

Depuis 2010, les techniques prédictives basées sur l'apprentissage artificiel (machine learning), et plus spécifiquement des réseaux de neurones (deep learning), réalisent des prouesses spectaculaires dans les domaines de la reconnaissance d'image ou de la traduction automatique, sous l'égide du terme d'“Intelligence artificielle”. Or l'appartenance de ces techniques à ce domaine de recherche n'a pas toujours été de soi. Dans l'histoire tumultueuse de l'IA, les techniques d'apprentissage utilisant des réseaux de neurones – que l'on qualifie de “connexionnistes” – ont même longtemps été moquées et ostracisées par le courant dit “symbolique”. Cet article propose de retracer l'histoire de l'Intelligence artificielle au prisme de la tension entre ces deux approches, symbolique et connexionniste. Dans une perspective d'histoire sociale des sciences et des techniques, il s'attache à mettre en évidence la manière dont les chercheurs, s'appuyant sur l'arrivée de données massives et la démultiplication des capacités de calcul, ont entrepris de reformuler le projet de l'IA symbolique en renouant avec l'esprit des machines adaptatives et inductives de l'époque de la cybernétique.

Dans cet article, nous rentrons dans les détails du contenu des applications numériques de la police prédictive. Les machines prédictives sont des technologies morales de gouvernement. Elles servent non seulement à prédire où et quand les crimes sont susceptibles d'avoir lieu, mais aussi à réguler le travail de la police. Elles calculent des rapports d'équivalence, en distribuant de la sécurité sur le territoire, selon de multiples critères de coûts et de justice sociale. En retraçant les origines de la police prédictive dans le système du Compstat, nous observons le passage de machines à explorer des intuitions (le policier garde la main sur la machine) à des applications qui font disparaître la dimension réflexive de la proactivité, faisant de la prédiction le support de métriques de « dosage » de la quantité du travail de la police. Nous voyons enfin comment sous l'effet d'un mouvement critique dénonçant les biais discriminatoires des machines prédictives, les développeurs imaginent les techniques d'audit des données des bases d'apprentissage et les calculs de la quantité raisonnable de contrôle policier dans la population.

Cette monographie répond à deux objectifs. Le premier est de présenter les modalités d'intégration d'un dispositif « prédictif » au sein du processus éditorial d'une maison d'édition « alternative ». Celle-ci a en effet pour ambition une publication continument élevée de textes courts en partie sélectionnés grâce à un « algorithme » permettant une automatisation de la stylométrie (analyse des composantes syntaxiques, lexicales et sémantiques d'un texte) et doté des capacités d'apprentissage automatique. Bien que se révélant être un adjuvant efficace (même si perfectible), le dispositif est laissé de côté quelques années après son développement au profit d'un mode de sélection des manuscrits beaucoup plus traditionnel. Le second objectif de l'article est par conséquent d'apporter des éléments de compréhension de cette désaffection : ceux-ci sont à chercher moins du côté de la machine que des « valeurs » et représentations sociales que les différentes parties prenantes vont lui associer.