L’institution entre le concept et l’action dans l’institutionnalisme et le néo-institutionnalisme

Olivier THOLOZAN

MCF à Aix-Marseille Université, Laboratoire de théorie du droit

Introduction

Terme courant du vocabulaire juridique, Institution ne se laisse pas définir aisément.
Dans son sens le plus général, il s’agit de l’élément constituant la structure juridique de la réalité sociale ; ensemble de mécanismes et structure juridiques encadrant les conduites au sein d’une collectivité. De façon plus spécifique, Institution renvoie à un ensemble de règles de droit et s’oppose au fait de prendre en considération l’une seule d’entre-elles. On peut aussi parler d’Institution pour désigner une branche du droit ou du système juridique. Enfin en droit politique, Institution fait référence soit à l’acte de conférer une Constitution soit à une collectivité suprême servant de support au pouvoir¹. En réalité, la fortune du terme doit beaucoup aux courants de pensée qualifiés d’institutionnaliste.
Comme tout vocable à vocation générale ce terme associe des tentatives intellectuelles dont on peut discuter l’homogénéité. Ainsi sous l’étiquette d’institutionnalisme et de néo-institutionnalisme sont rassemblées différentes formes de sociologisme essentialiste (l’idéalisme de Maurice Hauriou [1856-1929], le positivisme de Santi Romano [1875-1947]) ou des réflexions à prétentions plus épistémologiques de Neil MacCormick et Ota Weinberger ou de Massimo la Torre. Le rapprochement entre ces auteurs peut cependant être justifié². Tous inscrivent une théorie du droit au sein d’une problématique générale. Celle-ci est articulée autour de la place de l’action dans le changement social. Le recours de ces théoriciens à la notion d’Institution vise à mettre en lumière comment l’action organisée perdure ou échoue. En tant qu’elle est projet d’organisation, l’Institution relève de l’idée susceptible de généralisation, du concept³. Mais en tant qu’elle est réalisation d’actions cohérentes, elle ressort de l’expérience vécue. Une relecture conjointe de ces auteurs est donc légitime si elle se focalise sur l’Institution entendue comme interface entre le concept et l’action.

Une telle lecture ne repose pas sur la génétique d’une perspective théorique ; la diversité des fondements philosophiques des théories du droit analysées rend l’exercice vain. Il s’agit plutôt de mobiliser l’histoire de la pensée juridique contemporaine pour montrer la richesse de la lecture institutionnaliste de la théorie du droit.
Le premier auteur qui a dégagé les virtualités d’une analyse de l’institution entendue comme point de rencontre entre le concept et l’action est Hauriou. Il est celui qui a fouillé le plus profondément cette voie afin d’interpréter le phénomène juridique comme modalité de l’action. Sans vraiment se réclamer de lui ses successeurs sur ce chemin vont enrichir la perspective initiale.

I. L’institution chez Hauriou, frontière entre le concept et l’action

La pensée d’Hauriou théoricien du droit est aujourd’hui bien connue⁴. Sa principale hésitation concernait la portée de sa notion d’institution. Celle-ci fut tantôt conçue comme un modèle général permettant d’expliquer le mouvement social, tantôt elle n’était que l’idéal type de l’État, considéré comme l’Institution suprême⁵.
C’est pourtant la première perspective qui a le plus marqué la pensée juridique contemporaine. Il faut dire qu’elle initie une théorie originale de l’action humaine.

A. Une anthropologie conceptualiste de l’action

En 1899, Hauriou a publié ses Leçons sur le mouvement social⁶. Ce livre reprend les enseignements de l’un des premiers cours libres de Science sociale professé dans les facultés de droit l’année 1897-1898⁷. Dans cet ouvrage, il ne s’agit plus de légitimer scientifiquement la sociologie des traditionnalistes⁸. Hauriou transpose maladroitement les lois de la thermodynamique pour expliquer le changement social. L’insuccès de la tentative a voué à l’oubli un livre dans lequel reste masquée une véritable anthropologie de l’action⁹ qui ne cessera d’inspirer la théorie juridique d’Hauriou. Cette anthropologie apparaît lorsqu’on a extrait de cet ouvrage ses oripeaux scientistes¹⁰ fondés sur l’espoir un peu vain d’une physique sociale¹¹.
Avouant sa dette à la philosophie conceptualiste du catholique G. Dumesnil¹², Hauriou propose une approche originale du mouvement social. Il considère que « l’activité humaine engendre réflexion et jouissance ; la réflexion et la jouissance engendrent l’activité. Par conséquent, le mouvement social engendre des représentations mentales et ces représentations mentales à leur tour engendrent le mouvement social »¹³. Il oppose ainsi « l’action au concept d’action »¹⁴. Conceptualiser l’action ne revient donc pas à une simple prise de conscience d’un état de fait¹⁵. Cette position distingue Hauriou du déterminisme sociologique de Duguit¹⁶ ou Scelle¹⁷. Elle conduit à une « réflexion conceptualiste » ainsi dénommée car elle est « caractérisée par l’existence de concepts arrêtés qui introduisent dans la représentation du mouvement (social) quelque chose de nouveau, la discontinuité, et par conséquent la liberté »¹⁸. En effet, avec le concept d’action, « la forme interprète le mouvement (social). Dans cette interprétation il se glisse une discontinuité, c’est-à-dire une liberté ; car le mécanisme (social) nous apparaît comme quelque chose de continu et la liberté comme quelque chose de discontinu »¹⁹.
Hauriou a une vision large de la définition du concept. Il est assimilé aux « idées, formes psychiques à contours d’image ou de formule verbale, qui se propagent de cerveau à cerveau »²⁰. Aussi, les concepts sont l’objet de la « force de croyance »²¹, seconde énergie, après le désir, « créatrice de relations sociales »²². La croyance induit un comportement social fondamental qualifié de « solidarité représentative». Celle-ci dépasse la simple solidarité organique uniquement mue par l’identité des besoins²³. La solidarité représentative dépend « d’un tout mental » issu de « l’unanimité dans les représentations mentales »²⁴ favorisée par « l’imitation »²⁵.

Ce comportement collectif est donc rendu possible grâce à des « concepts typiques des choses sociales en qui les hommes communient »²⁶.
Tirée de la théologie chrétienne et de l’interpsychologie de Tarde, cette notion de communion des croyances va devenir un fondement central de la pensée d’Hauriou. Il faut dire que lorsqu’elle correspond à l’identité des désirs²⁷, elle favorise la « volonté ». Cette dernière apparaît donc, aux yeux du juriste français, comme la « combinaison » de la croyance et du désir qui réalise « le passage à l’acte, l’opération, la conduite grâce à laquelle l’être se réalise conformément à la représentation qu’il s’est faite de lui-même ». La volonté permet donc l’émergence d’un nouveau comportement collectif appelé par Hauriou « solidarité de conduite »²⁸.
C’est en son sein que le phénomène juridique va pouvoir s’accomplir.
En effet, l’anthropologie de l’action sert à Hauriou à initier une théorie générale du droit parachevée dans son article de 1925 sur la théorie de l’institution²⁹. On aperçoit les premiers linéaments fondés sur des considérations épistémologiques dans ses Leçons sur le mouvement Social de 1899. Aux yeux d’Hauriou, les « représentations objectives … par où s’expriment les choses (comme) les représentations scientifiques » doivent être distinguées des « représentations subjectives, celles par où s’exprime le sujet humain avec sa tendance à réagir sur les choses »³⁰. Ce second type de représentation est constitué par des « représentations idéales, des systèmes, des plans, des projets de réforme »³¹. Ces représentations subjectives conditionnent le seul exercice du pouvoir, qui, à son sens, peut se prétendre authentiquement juridique.
Il relève à cet effet que « le pouvoir donne lieu tantôt à représentation déterministe et tantôt à réaction de liberté. Celui qui exerce un pouvoir le considère, soit comme une contrainte brutale, soit comme une liberté exercée avec le respect de la liberté des autres. La représentation orientée vers la liberté a l’avantage de fixer par elle-même le pouvoir, de transformer le fait en droit »³².
Parallèlement, l’idée de représentations subjectives permet à Hauriou de penser le phénomène juridique au sein d’un cadre collectif qu’il dénomme « situation d’état juridique ». Il souligne que « tout droit contient une liberté ; la distinction entre l’ordre de droit et l’ordre de fait, c’est que l’ordre de droit permet de faire ou de ne pas faire certains actes et d’avoir cependant les mêmes avantages que si on les faisait »³³. Il en déduit que la situation d’état juridique « crée une discontinuité dans les nécessités sociales ». Il peut ainsi écarter la notion individualiste de droit subjectif et faire découler le droit de la solidarité. Il ne récuse pas pour autant le rôle de la subjectivité individuelle dans la création du droit. Simplement la manifestation de la subjectivité n’a qu’un seul but : la solidarité.

C’est en déclinant cette dernière notion qu’il continue d’esquisser sa conception du droit. Ainsi, l’idée de solidarité représentative permet à Hauriou de penser le phénomène juridique au moyen d’une catégorie appelée, dans un premier temps, de façon large corporation. Selon lui, comme « un droit est une représentation mentale », « l’unité de la volonté juridique corporative » repose sur « une unanimité de représentations mentales d’où jaillissent la conception des droits corporatifs »³⁴.
Cette entité corporative, dans laquelle se sécrète le droit, est un peu plus précisément qualifiée dans un second temps d’« Institution ». Cette notion – qu’Hauriou ne cessera par la suite d’approfondir – est en 1899 seulement considérée comme une « organisation pénétrée de représentations mentales corrélatives »³⁵ ayant vocation à devenir « de plus en plus statique »³⁶.
C’est justement parce qu’elle a vocation à résister au changement constant que l’Institution est le lieu d’accomplissement de la « solidarité de conduite » qui « consiste à conformer le mouvement social à la représentation du mouvement »³⁷.
L’analyse de cette manifestation de solidarité conduit Hauriou à définir ce que « se conduire » signifie. Il s’agit de « conformer ses actions à des règles d’action, par conséquent ses mouvements à une représentation de ses mouvements ». La réalisation de la solidarité de conduite permet donc la mise en jeu de la « règle juridique » car elle n’est qu’« un type, c’est-à-dire une pure représentation d’action »³⁸. C’est ce rapport entre l’Institution et les règles juridiques qu’Hauriou va expliciter.

B. L’institution cadre conceptualisant de l’action

En 1925, Hauriou fait de l’Institution le modèle explicatif général de sa théorie du droit. Il a renoncé à trouver dans les lois de la thermodynamique un parallèle éclairant. Il préfère s’inspirer du vitalisme modéré professé au Collège de France par le grand physiologiste Claude Bernard, véritable père de l’esprit scientifique en médecine³⁹.
Il peut ainsi s’appuyer sur « une analogie tirée de la personne humaine »⁴⁰ pour développer une conception anthropomorphique de l’Institution. Ainsi tout en reconnaissant que l’ensemble des institutions « ne se personnifient pas », il considère que les plus achevées sont les « institutions personnes »⁴¹. Quant à l’analyse de « l’anatomie des institutions corporatives », puis de leur « physiologie »⁴², elle permet de mettre en lumière les fruits de « la psychologie comparée de la personnalité corporative et de la personnalité humaine »⁴³. Si le rapprochement biologique paraît outrancier au regard contemporain, il n’en demeure pas moins qu’il permet à Hauriou d’enrichir de façon durable l’idée d’Institution.
Selon Hauriou celle-ci a une double vocation. Elle permet de comprendre comment l’action humaine organisée peut triompher de l’épreuve de l’écoulement du temps⁴⁴. Elle conduit aussi à éviter la confusion rousseauiste de « la force avec le pouvoir » en faisant apparaître la « forme de consentement » nécessaire au pouvoir légitime⁴⁵. La définition de l’Institution donnée par Hauriou marque profondément l’histoire de la pensée juridique. Elle est articulée autour de la distinction de 1899 entre action et concept d’action qui est alors approfondie. En effet, L’institution est avant tout « une idée d’œuvre ou d’entreprise qui se réalise et dure juridiquement dans un milieu social »⁴⁶. Elle est une « idée directrice… un plan d’action et d’organisation » englobant « le but et les moyens ». Ceci implique que la fin ne justifie pas les moyens et ne peut se réaliser selon n’importe quelles modalités⁴⁷. En même temps, ces dernières ne sont pas rigidement fixées car « l’idée directrice » conserve « une part d’indéterminé et de virtuel »⁴⁸, laissant une latitude à ceux qui la réalise.
L’idée n’en doit pas moins aboutir à l’action car c’est par elle que « l’entreprise va s’objectiver et acquérir une individualité sociale »⁴⁹.
Dans l’Institution, les organes du pouvoir contribuent à ce passage à l’acte car ils dirigent « des manifestations de communion (des membres du groupe social)… réglées par des procédures »⁵⁰. Le pouvoir organisé n’est donc légitime que s’il arrive à personnifier ces manifestations d’appartenance à l’Institution⁵¹. L’action du pouvoir doit refléter le produit d’un processus inter-psychologique. Il s’agit de la communion. Cette dernière n’est pas, aux yeux d’Hauriou, une manifestation de « conscience collective » mais celle de « consciences individuelles qui s’émeuvent au contact d’une idée commune et qui par un phénomène d’interpsychologie, ont le sentiment de leur émotion commune. Le centre de ce mouvement, c’est l’idée qui se réfracte en des concepts similaires en des milliers de consciences et y provoque des tendances à l’action ». Hauriou conclut que « la communion en l’idée entraîne des volontés sous la direction d’un chef … c’est une communion d’action » grâce à « l’opération de fondation »⁵².
Il reste à Hauriou à préciser la place des règles juridiques dans le fonctionnement de l’Institution. Elles ont un rôle non négligeable malgré la définition négative qui en est donnée. En effet, les règles de droit sont des « limites transactionnelles imposées aux prétentions des pouvoirs individuels et à celles des pouvoirs des institutions, ce sont des règles anticipées de conflit »⁵³. Elles ne « sont que des éléments de réaction, de durée et de continuité »⁵⁴. Elles brident donc l’action. Or malgré son traditionalisme, Hauriou reste un théoricien de l’action⁵⁵. Il considère donc que « les éléments importants dans le système juridique, ce sont les acteurs juridiques, les individus d’une part, les institutions corporatives de l’autre, parce qu’ils sont les personnages vivants et créateurs tant par les idées d’entreprises qu’ils représentent, que par leur pouvoir de réalisation … Dans un monde qui veut vivre et agir, tout en conciliant l’action avec la continuité et la durée, les institutions corporatives de même, que les individus sont au premier plan ; les règles de droit au second, parce que, si elles représentent de la continuité, en revanche, elles ne représentent pas l’action »⁵⁶. C’est tout le sens de la formule célèbre d’Hauriou : « Ce sont les institutions qui font les règles de droit, ce ne sont pas les règles de droit qui font les institutions »⁵⁷. Ce caractère volontariste subjectiviste de la conception d’Hauriou sera nettement modulé par ceux qui lui succéderont dans l’institutionnalisme ou le néo-institutionnalisme. En revanche, tous nourriront le débat sur l’institution en restant dans le cadre tracé par le juriste français.

II. L’institution comme concept en action

Ceux qui après Hauriou ont eu recours à la notion d’institution sont loin de pouvoir lui être affilié intellectuellement. Si Santi Romano reconnaît le rôle précurseur d’Hauriou, il lui reproche sa statolâtrie⁵⁸. La Torre fait bien référence à Hauriou et Romano⁵⁹ mais ses références principales sont Wittgenstein et la philosophie analytique du langage germanique et britannique. Quant à Neil MacCormick, il a puisé son inspiration uniquement dans la philosophie analytique anglo-saxonne⁶⁰.
Pourtant le débat animé par ces auteurs demeure dans les limites tracées par Hauriou. Simplement, Santi Romano insiste plus que le juriste français sur le fait que l’institution est avant tout instrument de l’action. Quant aux autres auteurs rassemblés dans la catégorie néo-institutionnaliste, ils sont plus marqués par la problématique du langage et de l’action au cœur de la philosophie analytique du langage ordinaire britannique.

A. L’atténuation du caractère idéel de l’Institution par Santi Romano

Santi Romano rompt avec le caractère spiritualiste de l’analyse d’Hauriou. La notion d’idée directrice animant l’activité institutionnelle ne l’intéresse pas vraiment.
Il faut dire que la notion d’institution occupe une place singulière dans son dispositif théorique : elle est le substrat fondamental du concept d’ordre juridique. À son sens, l’Institution est un « corps social »⁶¹, une véritable « entité close, pouvant être considérée en soi et pour soi »⁶². Santi Romano va même plus loin puisqu’il estime qu’elle est une « sphère existante, plus ou moins complète, de droit objectif »⁶³, conséquence logique pour celui qui pense que « le droit consiste avant tout dans l’installation et l’organisation sociale »⁶⁴. Cette assimilation du social et du juridique procède du fait que le juriste italien soutient que le droit « n’est pas la norme, mais ce qui le contient et lui donne un certain aspect »⁶⁵. L’Institution est donc une entité sociale formée par le droit.
Aussi, Santi Romano peut-il écrire que « l’institution est un ordre juridique » et « les mots d’organisation, système, structure, édifice etc. par lesquels on la qualifie tendent précisément à mettre en évidence ce concept »⁶⁶. Il utilise les termes italiens d’Ordinamento giuridico qui renvoient à l’idée d’agencement juridique de ce qu’il considère rester, en dernière instance, une « unité concrète et réelle »⁶⁷. On le voit donc, l’Institution comme ordre juridique vise l’unité conférée par l’idée à vocation généralisante ou concept. Mais Santi Romano s’intéresse à une autre dimension plus pragmatique. À son sens, l’ordre juridique institutionnalisant est constitué par « les rapports d’autorité et de force qui créent, modifient, appliquent, font respecter les normes juridiques sans s’identifier à celles-ci » et ces normes ne sont que « l’objet et même l’instrument de son action, qu’un élément de sa structure »⁶⁸.
En définitive, Santi Romano ne nie pas le caractère idéel de l’institution. Mais en concevant celle-ci comme un ordre juridique, il décrit un champ de forces où les acteurs juridiques interagissent en mobilisant les règles. Et, l’intérêt du juriste italien se déplace vers les rapports de ces différents champs d’action formant chacun une entité close. L’originalité de sa démarche relève surtout de son analyse dynamique des relations entre ordres juridiques. Le concept central qui l’a rendu célèbre est celui de la relevance (rilevanza). Il entend par là le conditionnement de « l’existence du contenu ou de l’efficacité d’un ordre » par un autre⁶⁹. Ce souci pragmatique caractérisera les néo-institutionnalistes. Mais leur démarche est plus marquée par des préoccupations épistémologiques au cœur de la philosophie du langage.

B. L’Institution entre langage et action

Neil MacCormick a souhaité développer sa théorie néo-institutionnaliste au moyen d’une démarche compréhensive de type herméneutique. Il a d’abord fondé sa théorie du droit sur un approfondissement de la distinction effectuée par Hart entre point de vue externe/point de vue interne. Il indique que l’« observateur externe… (d’un) système juridique… ne partage pas en tant que tel l’engagement volontaire des participants actifs, mais il doit nécessairement comprendre ce que signifie un tel engagement »⁷⁰. Il va s’inspirer de la notion de fait institutionnel esquissée par E. Anscombe et développée par Searle. Ce dernier a écrit que « les faits institutionnels » sont « bien des faits, mais leur existence, à la différence des faits bruts, suppose l’existence de certaines institutions humaines »⁷¹. Il précise que « ces « institutions » sont des systèmes de règles constitutives »⁷². À son sens une règle est constitutive par rapport à une certaine forme d’activité, lorsque son inobservance enlève à cette activité son caractère distinctif (ex : règles de bridge)⁷³. MacCormick commence par reprendre l’idée en déclarant que le fait institutionnel, partie spécifique du réel, est caractérisé par « l’application de règles à des actes ou évènements ». Mais il distingue ce type de fait et les règles. Selon lui, la connaissance juridique relève à la fois de la « connaissance de ce que sont les normes pour les participants engagés, et la connaissance des faits institutionnels constitués par l’interprétation des évènements naturels à l’intérieur des schémas prévus par les normes »⁷⁴. Il peut ainsi préciser ce qu’il entend par des institutions du droit.
Il s’agit des « concepts juridiques qui sont régulés par des ensembles de règles institutives, conséquentialistes et d’extinction, et qui vivent pendant une période de temps, à partir de la survenance d’un acte ou d’un évènement institutif jusqu’à la survenance d’un acte ou d’un évènement extinctif »⁷⁵. Les institutions juridiques sont donc les instruments intellectuels qui permettent à « la théorie analytique du droit » ses recherches sur « la raison pratique »⁷⁶.
Cette préoccupation est partagée par Massimo La Torre. Cependant il est tout aussi sensible à une forme de réalisme pragmatique manifesté déjà par Santi Romano. Ceci transparaît dans sa définition de l’Institution. Cette dernière est à ses yeux « cette sphère d’action dans laquelle une ou plusieurs normes sont les conditions de possibilité lorsqu’une telle possibilité est effectivement utilisée »⁷⁷. Loin d’être des systèmes de règles, les systèmes sont plutôt « des systèmes de possibilité d’action concrètement utilisée »⁷⁸. L’Institution relève donc de la pratique du droit.
Or celle-ci est par essence mise à l’épreuve par la diversité, du fait même, comme l’a souligné Hart, de la texture ouverte du langage. La Torre considère donc qu’une théorie institutionnaliste du droit est manifestement « culturaliste ».
Il estime que « la règle constitutive d’une institution ne suffit pas à définir l’Institution même. Nous devons en plus recourir à une « idée » de l’institution, à son « concept »… à une forme culturelle particulière ». Pour illustrer son propos, il reprend la distinction de Wittgenstein entre une règle du jeu et son image⁷⁹.
L’Institution apparaît donc comme un champ d’action dont le fonctionnement dépend de la représentation culturelle que s’en font les acteurs. La Torre n’adhère pas pour autant à un scepticisme relativiste. Il adopte une position modérée sur la question du rapport entre doit et morale. Si à son sens, il n’y a pas de « connexion conceptuelle » entre droit et morale, il existe une « connexion pratique nécessaire » et surtout une « connexion fonctionnelle » qui transparaît dans « l’idéologie dominante d’une société »⁸⁰.

Conclusion

Dès 1899, Hauriou avait considéré que « l’institution … n’est autre que l’organisation pénétrée et entourée des représentations mentales »⁸¹. Il en faisait ainsi l’un des lieux de contact entre le concept et l’action. Il expliquait, en 1925, cette compénétration en ayant recours à l’idée de communion des acteurs au sein du cadre institutionnel. Rompant avec la dimension subjectiviste de l’analyse d’Hauriou, Santi Romano insistait plutôt sur la mise en œuvre de la capacité organisatrice de l’Institution pour la caractériser. Du moins ces deux auteurs distinguaient bien l’Institution et les règles juridiques. Il appartient au néo institutionnalistes d’avoir tiré parti de cela pour montrer que l’Institution juridique est le fruit de l’application de la règle. Mieux encore, l’Institution est un champ d’action au sein duquel les acteurs mobilisent les règles en vertu de représentations mentales propres. Le phénomène juridique est ainsi réinséré dans la mise en œuvre plus générale d’une raison pratique.
Du coup, le droit est perçu comme une pratique irréductiblement spécifique qui n’en doit pas moins s’articuler avec d’autres. La résolution de cette question repose sur l’analyse des relations entre les pratiques constituant le monde et leur représentation.