Contenu du sommaire : Le droit à l'épreuve des algorithmes
Revue | Droit et société |
---|---|
Numéro | no 103, 2019/3 |
Titre du numéro | Le droit à l'épreuve des algorithmes |
Texte intégral en ligne | Accessible sur l'internet |
- Éditorial - Pierre Brunet, Laurence Dumoulin p. 497-499
Dossier - Le droit à l'épreuve des algorithmes
- Les algorithmes dans le droit : illusions et (r)évolutions. Présentation du dossier - Christophe Dubois, Frédéric Schoenaers p. 501-515
- Rule-Based Systems for Decision Support and Decision-Making in Dutch Legal Practice. A Brief Overview of Applications and Implications - Ivar Timmer, Rachel Rietveld p. 517-534 Les systèmes d'aide à la prise de décision jouent un rôle important dans la pratique juridique aux Pays-Bas. Divers organismes gouvernementaux utilisent de tels systèmes automatisés pour la prise de décisions juridiques (de masse). Les départements juridiques, les cabinets d'avocats, les éditeurs juridiques et d'autres organismes ont de plus en plus recours à ces outils pour appuyer et améliorer les services d'aide juridique aux particuliers et aux entreprises. Ces outils permettent d'améliorer l'efficacité des processus et des services juridiques, mais ils peuvent aussi avoir d'importants effets préjudiciables sur les droits des personnes ou sur la qualité juridique des services produits, en particulier lorsqu'il n'existe pas de processus de conception minutieux et transparent. Cet article donne un aperçu de l'utilisation de ces systèmes dans la pratique juridique néerlandaise, discute de leurs avantages, pièges et défis, puis il identifie certaines questions de recherche pour le futur.Rule-based systems for decision support and decision-making play an important role in Dutch legal practice. Government agencies use rule-based systems for (mass) legal decision-making. Legal departments, law firms, legal publishers and various other organizations increasingly use rule-based systems to support and improve the provision of legal aid to private individuals and corporate clients. Rule-based systems can improve efficiency of legal processes and services, but can also have important detrimental effects on the rights of individuals or legal quality, especially when there is no careful and transparent design process. This article provides an overview of the use of these systems in Dutch legal practice, discusses benefits, pitfalls and challenges and identifies questions for future research.
- Le travail des juges et les algorithmes de traitement de la jurisprudence. Premières analyses d'une expérimentation de « justice prédictive » en France - Christian Licoppe, Laurence Dumoulin p. 535-554 Cet article porte sur l'expérimentation par quelques magistrats d'une cour d'appel française d'un logiciel de traitement de grandes bases de données jurisprudentielles, dans le cadre du mouvement d'ouverture au public de ces données. Appuyé sur un état de l'art et un travail de terrain par entretiens, il met en évidence le fait que l'activité des juges est déjà équipée par des dispositifs de « mise en forme », trames, référentiels, nomenclatures, etc., qui outillent la production des décisions. Il montre également comment l'introduction de ce logiciel met à l'épreuve et reconfigure des tensions déjà existantes autour de l'indépendance du juge (autonomie versus contrôle), et rend particulièrement saillante la question de la distribution de l'agentivité entre les juges et les dispositifs technologiques lors de la production de jugements.This article proposes an analysis of one of the first experiments using a software able to process judicial databases (as part of the open data movement in the French judicial administration) by some judges of a French court (cour d'appel). Based on recent developments and on fieldwork (interviews), it shows how the activity of judges is already supported by devices for framing decisions on the basis of prior judicial history, such as frames of reference, nomenclatures, etc., which “equip” the production of the decisions. It also discusses how the introduction of the software both tests and reconfigures pre-existing tensions regarding the radical independence of the judge (the contested site of tension between autonomy and control), and makes particularly salient the question of the distribution of agency between judges and the technological devices employed when producing judgments.
- Entre nécessité et opportunités : la digitalisation de la justice belge par l'ordre des avocats - Christophe Dubois, Valérie Mansvelt, Pierre Delvenne p. 555-572 Depuis vingt ans, les stratégies politiques de modernisation de la justice belge ont visé à introduire des outils managériaux, informatiques et digitaux au sein des juridictions. Depuis 2016, les ordres des barreaux francophones et néerlandophones ont été chargés de concevoir, développer et gérer deux plateformes permettant notamment le dépôt et l'échange de documents. L'article étudie la manière dont ces ordres sont progressivement devenus les acteurs centraux et indispensables d'un processus de digitalisation jugé « inévitable ». Cette analyse éclaire ensuite l'interdépendance des stratégies de deux ordres qui, par-delà l'asymétrie de leurs ressources, sont parvenus à saisir des « fenêtres d'opportunité ». Enfin, nous soulignons la triple posture d'entrepreneurs politiques, financiers et moraux qui façonne aujourd'hui leur légitimité.For twenty years, the public policies for the modernization of the Belgian judicial system have aimed to introduce managerial, IT, and digital tools into the courts. Since 2016, French and Dutch-speaking bar associations are responsible for designing, developing and managing two platforms enabling the filing and exchange of documents. The article analyzes how bar associations have gradually become the central and indispensable actors of a digitalization process considered as “inevitable.” Our analysis sheds light on the interdependence of the bar associations' strategies that, beyond the asymmetry of their resources, have managed to seize “windows of opportunity.” Finally, we highlight the triple position of political, financial, and moral entrepreneurs that is shaping their legitimacy today.
- The Socio-Legal Relevance of Artificial Intelligence - Stefan Larsson p. 573-593 L'article propose une analyse sociojuridique des questions d'équité, de responsabilité et de transparence posées par les applications d'intelligence artificielle (IA) employées actuellement dans nos sociétés et de machine learning. Pour rendre compte de ces défis juridiques et normatifs, nous analysons des cas problématiques, comme la reconnaissance d'images fondée sur des bases de données qui présentent des biais de genre. Nous envisageons ensuite sept aspects de la transparence qui permettent de compléter les notions d'explainable AI (XAI) dans la recherche en sciences informatiques. L'article examine aussi l'effet de miroir normatif provoqué par l'usage des valeurs humaines et des structures sociétales comme données d'entraînement pour les technologies d'apprentissage. Enfin, nous plaidons pour une approche multidisciplinaire dans la recherche, le développement et la gouvernance en matière d'IA.This article draws on socio-legal theory in relation to growing concerns over fairness, accountability and transparency of societally applied artificial intelligence (AI) and machine learning. The purpose is to contribute to a broad socio-legal orientation by describing legal and normative challenges posed by applied AI. To do so, the article first analyzes a set of problematic cases, e.g., image recognition based on gender-biased databases. It then presents seven aspects of transparency that may complement notions of explainable AI (XAI) within AI-research undertaken by computer scientists. The article finally discusses the normative mirroring effect of using human values and societal structures as training data for learning technologies; it concludes by arguing for the need for a multidisciplinary approach in AI research, development, and governance.
Questions en débat
- Des machines et des hommes. La guerre n'aura pas lieu - Warren Azoulay p. 595-607 Médecine, biologie, économie, finance, sociologie, sport, les domaines à mobiliser l'apprentissage machine sont de plus en plus nombreux. Si leur intérêt n'a cessé de s'intensifier ces dernières années, c'est qu'ils ont préféré percevoir les méthodes d'« intelligence artificielle » comme des outils techniques permettant de traiter de grandes bases de données avec un haut degré de précision plutôt qu'en tant que science concurrentielle. De façon très tardive, les juristes l'explorent désormais, non sans réfractaires. Tantôt considérée comme la nécessité d'une nouvelle ère « Big Data », l'intelligence artificielle est aussi dénoncée par d'autres qui y voient la volonté d'une mécanisation du droit où la machine prétendrait supplanter l'humain. Pourtant, comme pour toutes les autres sciences, les algorithmes seront de puissants outils pour la connaissance. La coopération entre l'intelligence artificielle machine et l'intelligence naturelle humaine permettra de renforcer la compréhension que nous avons des mécanismes juridiques et de leur application par les professionnels du droit.Medicine, biology, economics, finance, sociology, sport, the fields to mobilize machine learning are increasingly numerous. Their interest has grown steadily in recent years as they have seen “artificial intelligence” methods as technical tools for processing large databases with a high degree of accuracy rather than as a competitive science. Belatedly, lawyers are exploring artificial intelligence, but not without resistance. Sometimes considered as the dawn of a new era of “big data,” others denounce artificial intelligence in which they foresee a mechanization of the law where the machine would supplant the human. Yet, as with all other sciences, algorithms are powerful tools for knowledge production. Cooperation between artificial machine intelligence and natural human intelligence will strengthen our understanding of legal mechanisms and their application by legal professionals.
- Qu'est-ce que l'analyse juridique de (x) ? Pour une explicitation - Rafael Encinas de Munagorri, Carlos Miguel Herrera, Olivier Leclerc p. 609-628 Le défi d'une « analyse juridique de (x) » renferme une proposition théorique et méthodologique qu'il convient d'expliciter. Cette formule exprime l'idée que l'analyse juridique peut porter sur un quelconque élément, dénommé x. Les objets susceptibles d'être saisis par l'analyse juridique ne sont donc pas cantonnés aux règles de droit et à leur mise en œuvre par les tribunaux. Comme les autres sciences sociales, les sciences juridiques peuvent porter leurs analyses sur les objets les plus divers, à partir des conceptualisations qui leur sont propres. L'analyse juridique contribue ainsi à fournir sa part d'intelligibilité à des objets qu'elle a en partage avec les autres sciences sociales.The challenge of a “legal analysis of (x)” entails a theoretical and methodological claim. This formula expresses the idea that legal analysis may focus on any element, referred to as x. The objects that may be subjected to legal analysis are therefore not limited to the rules of law and their implementation by the courts. Like other social sciences, legal sciences can focus their analyses on the most diverse objects, based on their own conceptualizations. Legal analysis thus sheds its own light to objects that it shares with other social sciences.
- Des machines et des hommes. La guerre n'aura pas lieu - Warren Azoulay p. 595-607
Études
- Refonder le Conseil supérieur de la magistrature dans la Tunisie post-Ben Ali : corporatismes juridiques et nouveaux arrangements institutionnels - Éric Gobe p. 629-648 Cet article explore les mécanismes d'élaboration de la loi instituant le Conseil supérieur de la magistrature (CSM) en Tunisie. Adoptée à l'issue d'un processus conflictuel se déroulant sur plus d'une année (2015-2016), ce texte est le fruit des interactions entre plusieurs acteurs : des élites politiques issues du régime de Ben Ali, mais aussi pour partie victimes de la répression dudit régime ; des magistrats, qui ont été pour certains l'instrument d'une justice mise au service de l'État autoritaire ; enfin, des avocats, profession minorée sous Ben Ali, qui ont su tirer profit de leur participation au soulèvement de 2010-2011 pour raffermir leur pouvoir professionnel. Dans le cadre d'un jeu politique instable, cette « logique de situation » montre combien la dynamique du « complexe juridique » tunisien ne peut se comprendre indépendamment de la trajectoire de l'autoritarisme du régime de Ben Ali.In this article we explore the legal process by which the High Council of the Judiciary was established in Tunisia. The legal text was adopted following a process of conflict which took place between 2015 and 2016. The final text reflects the interactions between political elites who survived the fall of the Ben Ali regime and others, often victims of repression, but also judges, some of whom had served the authoritarian state as instruments of justice, and lawyers, a discredited profession under Ben Ali, many of whom benefited by supporting the 2010-2011 uprising, thereby gaining in professional stature. In the context of a volatile political scene, situational logic demonstrates how difficult it is to understand the Tunisian legal complex without first understanding the authoritarian trajectory of the Ben Ali regime.
- De missionnaires à consultant·e·s. Les transformations de l'expertise juridique européenne en matière d'égalité - Sophie Jacquot p. 649-668 Le Réseau européen en matière de droit de l'égalité a été créé en 2014. Il est le résultat de la fusion de deux réseaux d'expert·e·s juridiques consacrés à l'égalité entre les femmes et les hommes et à la lutte contre les discriminations. Cette création apparaît donc comme une simple décision de rationalisation du paysage européen des groupes d'expert·e·s juridiques en matière d'égalité. Contrairement à cette vision strictement organisationnelle, cet article analyse en quoi cette fusion est révélatrice des changements à l'œuvre concernant le rôle du savoir, les usages du droit et la place des groupes d'expert·e·s au sein de la gouvernance européenne. En effet, l'expertise juridique voit les fonctions qui lui étaient assignées être réduites et dévalorisées. Parallèlement, les expert·e·s subissent une requalification de leur rôle : de partenaires et soutiens à la politique européenne d'égalité, les expert·e·s deviennent de simples prestataires de service.The European Equality Law Network was created in 2014. It resulted from the merger of two networks of legal experts dedicated to gender equality and anti-discrimination. This creation therefore appears to be a simple decision to rationalize the European landscape of groups of legal experts in the field of equality. Contrary to this organizational vision, the objective of this article is to show how this merger reveals changes at work concerning the role of knowledge, the uses of law and the place of expert groups within European governance. Indeed, the functions assigned to legal expertise are reduced and devalued. At the same time, the experts are undergoing a resignification of their role: from partners and supporters of the European equality policy, they are becoming mere service providers.
- L'entreprise publique : un statut fragilisé ou protecteur ? Missions de service public et rapport à l'État de l'entreprise La Poste - Nadège Vezinat p. 669-689 Les entreprises publiques entretiennent un rapport singulier à l'État que cet article examine à partir du cas postal. Ancienne administration d'État, l'exemple de La Poste permet d'analyser le passage d'un pilotage direct par l'État à la création d'une personnalité morale autonome. Cette transition questionne la régulation et la mise en place d'une contractualisation avec les pouvoirs publics. L'étude de cette dernière fait apparaître la juxtaposition des rôles dévolus à l'État à la fois acteur (propriétaire de l'entreprise publique) et régulateur (signataire du contrat de plan). Dans le cadre d'une baisse massive de l'activité courrier, le constat d'une contradiction entre des missions de service public, à remplir mais déficitaires, et des objectifs de rentabilité à atteindre interroge sur l'« autonomie contraignante » qui relie La Poste à l'État.Public enterprises have a specific relationship with the State. This article pays close attention to the formal commitments between these firms and the State, drawing on the case of La Poste. A former public administrative body that became a public enterprise in 1991 and signed a contract formalizing its relation with the State, La Poste has gone from a public hierarchy within the State to an autonomous body that has seen a loosening of its relations with other entities of the State. This article highlights how the State contractualizes with postal services to maintain polarized missions. In the new context that emerges from the development of a public enterprise, formally separated from the State, this latter appears to be not only a shareholder but also a partner.
- Refonder le Conseil supérieur de la magistrature dans la Tunisie post-Ben Ali : corporatismes juridiques et nouveaux arrangements institutionnels - Éric Gobe p. 629-648
À propos
- Épurer et punir : la justice confrontée à ses dilemmes - Danièle Lochak p. 691-708
- Ordres juridiques, ordres « mafieux » - Deborah Puccio-Den p. 709-719