| Titre | Le dialogue homme-machine : Intelligence artificielle / intelligence humaine : manipulation et évaluation | |
|---|---|---|
| Auteur | Laurence Devillers | |
 |
Revue | Futuribles |
| Numéro | no 433, novembre-décembre 2019 Le cerveau face au numérique | |
| Page | 51-61 | |
| Résumé |
Après un premier dossier « Cerveau et apprentissages » (n° 428), suivi d'un deuxième opus consacré à la plasticité du cerveau (n° 431), Futuribles ouvre un troisième volet dans la série « Cerveau », portant cette fois sur les interactions homme / machine(s) et sur l'impact des écrans sur le développement des jeunes. Spécialiste des interactions homme / machine, Laurence Devillers présente ici les enjeux inhérents au développement des agents conversationnels et autres robots dotés d'intelligence artificielle, qui interagissent de plus en plus souvent avec les individus, dans différents contextes.Après avoir rappelé comment fonctionnent ces systèmes (auto)apprenants, elle insiste sur la vigilance nécessaire à l'égard de possibles manipulations des individus par ce type d'interfaces (par le biais des nudges, notamment, techniques d'incitation douce). Elle montre aussi comment sont utilisées les émotions dans les interactions homme-machine (ressorts affectifs, humour…) et présente les outils dont on dispose aujourd'hui pour évaluer l'intelligence artificielle, voire la comparer à celle des humains (en particulier le test de Turing et ses limites). Compte tenu des progrès rapides de l'apprentissage machine, Laurence Devillers appelle au développement de nouveaux tests d'évaluation des capacités des machines, visant en particulier à surveiller leur faculté à manipuler les individus. Car si les progrès techniques sont exponentiels, la façon dont on encadre leur application dans la société et dans le monde réel ne relève, pour l'heure encore, que des citoyens : c'est aux individus de déterminer dès à présent les limites éthiques, réglementaires…, qui doivent encadrer les interfaces homme-machine. S.D. Source : Éditeur (via Cairn.info) |
|
| Résumé anglais |
After a first dossier on “the Brain and Learning” (Futuribles 428), followed by a second on the plasticity of the brain (issue 431), Futuribles is opening a third strand in the “Brain” series, this time on human-machine interactions and the impact of screens on the development of young people. As a specialist in human-machine interaction, Laurence Devillers presents the issues inherent in the development of “conversational agents” and other robots endowed with artificial intelligence that are increasingly found interacting with individuals in various contexts.After reminding us how these (self-)learning systems operate, she stresses how vigilant we must be about the possible manipulation of individuals by these types of interface (particularly through “nudge” techniques). She also shows how emotions are used in human-machine interactions (emotional triggers, humour etc.) and outlines the tools available today to evaluate artificial intelligence — and even to compare it to human intelligence (particularly the Turing test and its limitations). Given the rapid advances in machine learning, Devillers calls for the development of new tests for assessing machine capabilities, aimed in particular at monitoring their ability to manipulate individuals. Though technical progress is exponential, responsibility for the way its application is regulated in society and in the real world still falls — at least for the moment — upon citizens: it is up to individuals, as of now, to determine the ethical, regulatory and other frameworks within which such human-machine interfaces should be embedded. Source : Éditeur (via Cairn.info) |
|
| Article en ligne | http://www.cairn.info/article.php?ID_ARTICLE=FUTUR_433_0051 (accès réservé) |
