Contenu du sommaire : L'évaluation de la recherche : pour une réouverture des controverses

Revue Quaderni Mir@bel
Numéro N°77, hiver 2011-2012
Titre du numéro L'évaluation de la recherche : pour une réouverture des controverses
Texte intégral en ligne Accessible sur l'internet
  • L'évaluation de la recherche : pour une réouverture des controverses

    • Avant-propos : réinterroger l'évaluation comme technologie de "pilotage à distance" du secteur public : l'exemple de la recherche - Séverine Louvel p. 5 accès libre
    • Rendre publique l'évaluation des SHS : les controverses sur les listes des revues de l'AERES - David Pontille, Didier Torny p. 11 accès libre avec résumé avec résumé en anglais
      Cet article étudie la trajectoire d'un outil d'évaluation dédié aux sciences humaines et sociales : la liste des revues scientifiques publiée en juillet 2008 par l'AERES. Il insiste sur les filiations de cet outil avec les pratiques d'évaluation antérieures, rappelle l'intense activité critique que sa publication a suscitée, et examine les arrangements sociotechniques ayant permis d'élaborer un compromis autour d'un périmètre de scientificité. Loin des discours convenus sur les pressions managériales restreignant l'autonomie des chercheurs, cet article analyse la liste des revues comme un puissant révélateur des conventions disciplinaires et des tensions historiques et épistémiques singulières qui traversent les domaines relevant des SHS.
      This article examines the trajectory of an assessment tool dedicated to the humanities and social sciences : the list of journals published in July 2008 by the official French Research Assessment institution (AERES). It highlights the filiations of that tool with previous assessment practices, describes the intense criticism that its publication has provoked, and examines the sociotechnical arrangements performed to support a compromise around a perimeter of scientificity. Far from the conventional wisdom of managerial pressures restricting the autonomy of researchers, this article analyzes journal lists as a powerful reminder of disciplinary conventions, singular epistemic and historical tensions dividing the humanities and social sciences.
    • La fabrique d'un classement médiatique de l'enseignement supérier et de la recherche - Julie Bouchard p. 25 accès libre avec résumé avec résumé en anglais
      Cet article traite de la production des classements médiatiques des établissements d'enseignement supérieur et de recherche, dans une perspective historique, sociologique et constructiviste. Croisant les apports de l'histoire et de la sociologie des médias, d'un côté, et de la quantification, de l'autre, il montre, autour de leur émergence à la fin des années 1970, et par le cas particulier du mensuel Le Monde de l'éducation, l'impossible neutralité de ces dispositifs fondés sur la quantification. Irréductibles à des considérations méthodologiques bien réelles, les classements médiatiques sont aussi des dispositifs politiques, journalistiques, commerciaux, organisationnels et techniques. Cette grille de lecture média-centrée appliquée à un cas et à une période bien définis invite à repenser les classements médiatiques contemporains des EESR, en explorant les coulisses de leurs méthodes et de leurs contenus apparents.
      This paper analyses the production of media rankings of higher education institutions within an historical, sociological and constructivist perspective. It appeals to the history and sociology of the media, on the one side, and to the history and sociology of quantification, on the other side. Around their emergence in the late 1970s, and focusing on the case study of the French monthly magazine Le Monde de l'éducation, the paper shows the impossible neutrality of these devices based on quantification. Media rankings of higher education institutions are in fact irreducible to their content and methodology; they are also political, journalistic, commercial, organizational and technical devices. This media-centric approach is considered for rethinking contemporary media rankings by exploring the backscene of their methodology and contents.
    • Evaluation of science as consultancy - Silke Gülker, Dagmar Simon, Marc Torka p. 41 accès libre avec résumé avec résumé en anglais
      Le discours actuel sur les évaluations institutionnelles de la recherche s'est construit autour d'une thèse dominante : en tant que contrôle de la performance initié par l'extérieur, les évaluations sont considérées comme l'expression, et le moteur, d'une déprofessionnalisation globale de la profession académique. Les évaluateurs comme les chercheurs évalués supposent qu'ils devront ajuster leurs systèmes de valeurs et d'évaluation à des critères externes. Notre analyse empirique des procédures d'évaluation à un niveau microsociologique se distance de cette thèse, et montre que les valeurs centrales de la profession académique persistent, et continuent à structurer la prise de décision et les actions de celle-ci. Une de ces valeurs stipule que les évaluations ne sont pas seulement au service du contrôle de la performance et de la sanction, mais qu'elles apportent les conseils de collègues. Mais comment le conseil est-il possible dans un contexte de contrôle de la performance, dont les conséquences sont potentiellement graves ? Nous répondons à cette question en analysant les décisions et les actions d'évaluateurs, et de chercheurs évalués, dans le cadre de la procédure d'évaluation des instituts de recherche allemands de l'Association Leibniz.
      The current discourse on institutional research evaluations has been shaped by a dominant thesis. As an externally initiated form of performance monitoring, evaluations are considered to be both the expression of and drivers of a comprehensive deprofessionalization of the academic profession. Both evaluating and evaluated researchers assume they will have to adjust their value and evaluation systems in keeping with external benchmarks. Our empirical analysis of evaluation processes at a microlevel contrasts with this thesis, and shows that the academic profession's central values persist, and continue to structure the ways in which the profession makes decisions and acts. One of these values is that evaluations should not just serve to monitor performance and sanction, but instead provide collegial consultancy and feedback. But how is consultancy possible in a performance-monitoring context whose consequences are potentially serious? We address this question by analyzing the decisions and actions of evaluating and evaluated researchers in the context of the German Leibniz Association's evaluation procedure.
    • Les dispositifs d'évaluation de l'enseignement supérieur et de la recherche : quel devenir pour des établissements singuliers - Lise Gastaldi, Caroline Lanciano-Morandat p. 55 accès libre avec résumé avec résumé en anglais
      Dans le domaine de l'enseignement supérieur et de la recherche, les évaluations portant sur les établissements se développent et se renforcent, notamment du fait de la montée en puissance de dispositifs formels variés relevant d'une « subjectivité substantielle » ou d'une « objectivité mécanique ». Cet article pose la question des effets de ces différents dispositifs d'évaluation sur les établissements singuliers (au sens des « singularités » chez Karpik, 2007)et sur leur devenir. Après avoir présenté l'établissement français sur lequel s'appuie ce travail en mettant en évidence son caractère singulier, lequel tient notamment à un modèle organisationnel atypique basé sur sa taille et sur des interactions étroites entre enseignement, recherche et industrie, les auteurs s'interrogent sur la manière dont les dispositifs d'évaluation « traitent » cet établissement. Alors que les évaluations du type « subjectivité substantielle », globalement favorables voire très favorables, suscitent quelques controverses, l'établissement se heurte à de vives difficultés vis-à-vis des dispositifs relevant d'une « objectivité mécanique » et notamment des rankings internationaux. Leur caractère normalisateur est souligné avant de s'interroger, au-delà du cas, sur la possibilité qu'apparaisse un processus de « désingularisation » dans l'enseignement supérieur et la recherche (Karpik, 2007), qui transformerait les établissements en biens différenciés, voire en biens standards.
      In France, evaluations of universities and scientific research institutions are under development and increasing in significance; in particular with the rise of varied formal devices relying on “substantial subjectivity” or “mechanical objectivity”. This article questions the impact of these evaluation tools on the “singular” establishments (Karpik, 2007) and on their future. In this paper, the authors describe a French research institution and bring to light its singular characteristic, in particular its atypical organizational model -based on its size, and on narrow interactions between education, research and industry. The authors are interested in the way the formal de-vices they described “handle” the evaluation of the institution. While the evaluations based on “substantial subjectivity” are globally favorable if not very favorable, they also arouse some controversies. Above all, the institution has difficulty with devices relying on “mechanical objectivity”, in particular with international rankings. The authors underline their normalizing power before discussing, beyond the case studied, the possible emergence of a “desingularisation” process in French academia, which would transform universities and scientific research institutions into differentiated goods, or even into standard goods.
    • Entre qualité prescrite et qualité souhaitable : l'ambivalence des chercheurs en communication face à l'évaluation de leurs publications - Mark Vanholsbeeck p. 71 accès libre avec résumé avec résumé en anglais
      Cet article investigue, à partir d'entretiens compréhensifs, comment des chercheurs en sciences de la communication de Belgique francophone perçoivent et intègrent à leurs pratiques de dissémination scientifique la notion de qualité, telle que la sollicitent les dispositifs récents, et fortement controversés, visant à évaluer les publications en sciences humaines. Trois présupposés sous-jacents aux débats sur l'évaluation seront ainsi questionnés : celui du caractère explicite et formalisé des prescriptions actuelles en matière de qualité, celui de la dichotomie des attitudes des chercheurs à leur égard (adhésion vs résistance), et celui de la nature unilatérale et mécanique de l'impact de l'évaluation sur les pratiques. Si les répondants associent prioritairement la « qualité prescrite » à la production d'articles au sein de revues internationales de premier plan, l'analyse révèle en effet que les critères de distinction et de hiérarchisation de ces dernières ne font pas l'objet de critères explicites. Largement informel, le « script » de la qualité suscite chez les chercheurs des représentations foncièrement ambivalentes, et la perception de menaces autant que d'opportunités. Cette ambivalence semble se résoudre au quotidien dans des pratiques qui « bricolent » avec les prescriptions et qui – du fait, notamment, de leur potentiel en innovation sociale – gagneraient à être plus valorisées dans les politiques d'évaluation.
      This article is based on twelve in-depth interviews with communication scholars working within the French-speaking part of Belgium. It investigates how they perceive and integrate to their publishing practices the somehow controversial concept of quality, as it is used nowadays in order to evaluate the scholarly publications within the humanities and social sciences. Three specific assumptions underlying the recent discussions around the evaluation will be questioned here as well, id est the explicit and formalized character of the current requirements for quality, the dichotomy of the researchers' attitudes regarding those requirements between full acceptance and stubborn resistance and the unilateral nature of the impact of the evaluation on the publishing practices. It appears indeed that although the respondents primarily link the « prescribed quality » with the production of articles in international top journals, the criteria that should be used in order to prioritize those journals and to differentiate between them are not explicitly formulated. Largely informal, the « script » of quality relating to the evaluation of scholarly publications gives rise to deeply ambivalent representations on the side of the interviewed researchers, and to perceptions of threats as well as of opportunities. This ambivalence seems to resolve itself in everyday practices that « tinker » with the prescribed quality requirements. These kinds of daily tinkering practices should indeed be more valued by policy makers and academic authorities, not the least because of their high potential in societal innovation.
    • Les chercheurs et la programmation de la recherche : du discours stratégique à la construction de sens - Mathieu Hubert, François Chateauraynaud, Jean-Michel Fourniau p. 85 accès libre avec résumé avec résumé en anglais
      Les réponses des chercheurs aux nouvelles injonctions de performance ont souvent été interprétées comme un discours stratégique de démarcation (boundary work). Les auteurs montrent qu'une telle approche surestime la rationalité stratégique des chercheurs et l'intelligibilité des transformations qui traversent la recherche scientifique. À partir d'une analyse des discours de chercheurs sur les programmes français de recherche en nanosciences et nanotechnologies, ils montrent que le foisonnement de dispositifs, d'informations et d'incitations conduit les chercheurs à produire un travail d'interprétation et de construction de sens, qui tend davantage à souligner la diversité persistante des pratiques et des représentations, plutôt que l'adhésion des chercheurs à des principes et des normes promus par la programmation. Cette construction du sens peut non seulement s'exprimer au travers d'une critique radicale de la politique scientifique menée, mais aussi via une critique plus pragmatique des ambivalences et des contradictions véhiculées par les différents dispositifs de programmation.
      Researchers' answers to the new performance imperatives have been interpreted in terms of strategic boundary work. The authors show that such an approach overestimates the strategic rationality of researchers and the intelligibility of the transformations in the scientific field. The paper analyses the discourses of nanoscience and nanotechnology researchers about French science policy. It shows that the proliferation of devices, information and incentive leads researchers to interpret, and make sense of, the new context. The analysis of this interpretative work underlines the enduring diversity of practices and representations, rather than an adherence to the principles and norms of science policy. Such a sense-making does not only manifest itself through a radical criticism of science policy, but also through a more pragmatic criticism of its ambivalence and contradictions.
  • Politique

  • Communication

    • L'impact stratégique de la consommation online des hôpitaux : le cas du cancer dans les pays européens francophones - Pablo Médina p. 121 accès libre avec résumé avec résumé en anglais
      Le rôle d'Internet comme source d'information médicale joue un rôle essentiel pour les citoyens, mais aussi pour les hôpitaux. Ces institutions parient sur le développement d'une page Web comme stratégie pour améliorer leurs rapports avec les patients, notamment avec les patients oncologiques. Dans cet article, on réalise une révision bibliographique sur la communication online des hôpitaux ainsi qu'une étude de cas sur le rôle de la page Web des hôpitaux européens francophones (France, Belgique, Suisse et Luxembourg) dans leurs rapports avec les patients souffrant d'un cancer. La conclusion de l'étude est que les hôpitaux doivent faire davantage d'efforts pour mettre en place des pages Web vraiment orientées vers le patient, et réellement basées sur la divulgation de chiffres ainsi que sur la hiérarchisation des informations.
      The role of the Internet as a source of medical information is essential for citizens, but also for hospitals. These institutions are betting on the development of a web page as a strategy enabling them to improve their relationships with patients, especially patients with cancer. In this paper, we realize a bibliographic review on the online communication of hospitals and a case study on the role of the web page European hospitals French (France, Belgium, Switzerland and Luxembourg) in their relationships with patients suffering from a cancer. The conclusion of the study is that hospitals must make greater efforts to develop Web pages oriented really patient and really based on the release of figures as well as the hierarchy of information.