L’incompétence rationae materiae : fondements, applications et conséquences dans le contentieux juridique

La compétence des juridictions constitue un pilier fondamental de tout système judiciaire. Parmi les exceptions procédurales pouvant être soulevées devant les tribunaux, l’incompétence rationae materiae occupe une place prépondérante. Cette notion, issue du latin signifiant littéralement « en raison de la matière », désigne l’impossibilité pour une juridiction de connaître d’un litige en raison de la nature du contentieux qui lui est soumis. Le juge saisi se trouve alors dans l’impossibilité légale de trancher le différend, faute d’attribution dans le domaine concerné. Cette règle procédurale, véritable garde-fou du système juridictionnel, garantit que chaque type de contentieux soit examiné par les juges spécialement formés et compétents pour en connaître, assurant ainsi une justice de qualité et respectueuse des droits des justiciables.

Fondements théoriques et historiques de l’incompétence rationae materiae

L’incompétence rationae materiae trouve ses racines dans la spécialisation progressive des juridictions au fil de l’histoire. À l’origine, dans l’Antiquité romaine, la justice était rendue par des magistrats polyvalents. L’évolution des sociétés et la complexification des rapports juridiques ont progressivement imposé une spécialisation des juges selon la nature des affaires.

Cette notion s’inscrit dans la théorie plus large de la compétence juridictionnelle, qui détermine quel tribunal peut connaître d’une affaire. La compétence s’analyse traditionnellement selon trois critères : la matière (rationae materiae), le lieu (rationae loci) et la personne (rationae personae). Parmi ces trois aspects, la compétence matérielle revêt une importance particulière car elle touche à l’ordre public et ne peut, en principe, faire l’objet de dérogations conventionnelles.

La répartition des compétences entre juridictions répond à plusieurs objectifs fondamentaux. D’abord, elle vise à garantir une justice spécialisée, où chaque juge dispose de l’expertise nécessaire pour traiter les affaires relevant de sa compétence. Ensuite, elle permet d’assurer une meilleure organisation judiciaire, en répartissant le contentieux de manière équilibrée entre les différentes juridictions. Enfin, elle contribue à la sécurité juridique en rendant prévisible la détermination du juge compétent.

Dans le système français, la dualité des ordres juridictionnels (judiciaire et administratif) complexifie davantage cette répartition des compétences. L’incompétence rationae materiae peut ainsi résulter non seulement de règles de répartition au sein d’un même ordre, mais aussi entre les deux ordres de juridiction, ce qui soulève des questions particulièrement délicates de frontières entre droit public et droit privé.

Historiquement, la loi des 16-24 août 1790 a posé le principe de séparation des autorités administratives et judiciaires, fondant ainsi la dualité juridictionnelle française. Ce texte fondateur énonce que « les fonctions judiciaires sont distinctes et demeureront toujours séparées des fonctions administratives ». Ce principe a été renforcé par le décret du 16 fructidor an III, qui interdit aux tribunaux de connaître des actes d’administration.

L’incompétence rationae materiae s’est progressivement affinée au travers de la jurisprudence, notamment celle du Tribunal des conflits, institution spécifiquement créée pour résoudre les conflits de compétence entre les deux ordres. Des décisions fondatrices comme l’arrêt Blanco (TC, 8 février 1873) ont contribué à préciser les contours de cette répartition des compétences.

L’incompétence rationae materiae dans la hiérarchie des exceptions procédurales

Dans la hiérarchie des exceptions procédurales, l’incompétence rationae materiae occupe une place privilégiée. Elle est considérée comme une exception d’ordre public, ce qui lui confère plusieurs caractéristiques distinctives :

• Elle peut être soulevée à tout moment de la procédure
• Elle doit être relevée d’office par le juge, même en l’absence de demande des parties
• Elle ne peut faire l’objet de renonciation anticipée
• Elle n’est pas soumise aux règles de forclusion applicables à d’autres exceptions

Régime juridique et procédural de l’exception d’incompétence

Le régime juridique de l’incompétence rationae materiae présente des particularités qui la distinguent nettement des autres exceptions procédurales. En tant qu’exception touchant à l’ordre public, elle obéit à des règles spécifiques tant dans ses conditions de recevabilité que dans ses effets.

Concernant les modalités de mise en œuvre, l’incompétence rationae materiae peut être soulevée par les parties au litige sous forme d’exception. Cette exception doit être présentée avant toute défense au fond, conformément à l’article 75 du Code de procédure civile. Toutefois, à la différence des autres exceptions d’incompétence, celle relative à la matière échappe à certaines contraintes procédurales. Ainsi, contrairement à l’incompétence territoriale qui doit être soulevée in limine litis (dès l’introduction de l’instance), l’incompétence matérielle peut être invoquée en tout état de cause, y compris pour la première fois en appel.

Une caractéristique majeure de cette exception réside dans l’obligation pour le juge de relever d’office son incompétence rationae materiae. Cette obligation est expressément prévue par l’article 92 du Code de procédure civile, qui dispose que « l’incompétence peut être prononcée d’office par le juge en cas de violation d’une règle de compétence d’attribution lorsque cette règle est d’ordre public ou lorsque le défendeur ne comparaît pas ». Dans la pratique judiciaire, cette obligation traduit le caractère impératif des règles de compétence matérielle, qui transcendent les intérêts particuliers des parties pour toucher à l’organisation même de la justice.

Quant aux effets de l’incompétence constatée, ils sont régis principalement par l’article 96 du Code de procédure civile. Lorsqu’il se déclare incompétent, le juge doit, dans la mesure du possible, désigner la juridiction qu’il estime compétente. Cette désignation s’impose aux parties et au juge de renvoi, sauf appel ou recours en cassation. Ce mécanisme de renvoi vise à éviter que le justiciable ne se trouve dans une situation d’impasse procédurale après une déclaration d’incompétence.

Le transfert du dossier à la juridiction désignée comme compétente s’effectue par le greffe de la juridiction initialement saisie. Ce transfert inclut l’ensemble des pièces du dossier ainsi que la décision d’incompétence. La juridiction de renvoi se trouve alors saisie de plein droit, sans qu’il soit nécessaire pour les parties d’accomplir de nouvelles formalités de saisine.

Une question procédurale délicate concerne l’autorité de la décision statuant sur la compétence. En principe, lorsqu’une juridiction se prononce sur sa compétence, cette décision acquiert l’autorité de chose jugée sur cette question. Toutefois, cette autorité ne s’étend pas à la juridiction désignée comme compétente, qui conserve le pouvoir d’apprécier sa propre compétence. Cette règle peut parfois conduire à des situations complexes de « conflits négatifs de compétence », lorsque plusieurs juridictions successivement saisies se déclarent incompétentes.

Les voies de recours spécifiques

Les décisions statuant sur la compétence font l’objet de voies de recours spécifiques. En matière civile, l’article 80 du Code de procédure civile prévoit que les jugements statuant uniquement sur la compétence ne peuvent être attaqués que par la voie du contredit, remplacé depuis 2020 par l’appel. Ce recours doit être exercé dans un délai de quinze jours à compter de la notification du jugement. Cette procédure accélérée vise à régler rapidement les questions de compétence, afin de ne pas retarder indûment l’examen au fond du litige.

En matière administrative, le recours spécial en cassation permet de contester directement devant le Conseil d’État les décisions des juridictions administratives statuant sur leur compétence. Ce recours, prévu par l’article R. 351-3 du Code de justice administrative, doit être exercé dans un délai de quinze jours à compter de la notification de la décision d’incompétence.

Critères de détermination et frontières de l’incompétence materiae dans les différentes branches du droit

La détermination de la compétence materiæ repose sur des critères spécifiques qui varient selon les branches du droit concernées. L’analyse de ces critères constitue un exercice délicat car les frontières entre les différentes compétences peuvent parfois s’avérer poreuses ou mouvantes.

Dans le cadre de la dualité juridictionnelle française, la première ligne de partage s’établit entre l’ordre judiciaire et l’ordre administratif. Cette répartition obéit à des principes généraux dégagés par la jurisprudence du Tribunal des conflits. Le critère déterminant réside généralement dans la nature du service en cause (public ou privé) et dans le caractère des règles applicables (exorbitantes du droit commun ou non). Ainsi, le contentieux des services publics administratifs relève en principe de la compétence du juge administratif, tandis que le contentieux des services publics industriels et commerciaux est majoritairement attribué au juge judiciaire, sous réserve d’exceptions notables.

Au sein même de l’ordre judiciaire, la répartition des compétences entre les différentes juridictions répond à des logiques variées. Entre les juridictions civiles et pénales, la distinction s’opère naturellement selon la nature de l’action (action civile ou action publique). Entre les juridictions civiles elles-mêmes, la compétence matérielle se détermine principalement en fonction de la nature du litige et parfois de son montant.

Certains domaines présentent des difficultés particulières de délimitation. C’est notamment le cas du contentieux de la responsabilité médicale, partagé entre le juge administratif (pour les établissements publics de santé) et le juge judiciaire (pour la médecine libérale et les établissements privés). De même, le contentieux des contrats publics soulève des questions complexes de répartition, notamment lorsque ces contrats comportent des clauses de droit privé ou impliquent des personnes privées.

Le droit du travail illustre parfaitement ces difficultés de frontière. Si le conseil de prud’hommes est compétent pour les litiges individuels du travail dans le secteur privé, la situation des agents contractuels du secteur public s’avère plus nuancée. Leur contentieux relève tantôt du juge administratif (pour les agents contractuels de droit public), tantôt du conseil de prud’hommes (pour les agents contractuels de droit privé), selon la nature de leur contrat et le type d’établissement qui les emploie.

En droit international privé, la question de la compétence materiæ se double d’une dimension internationale. Les règles de compétence internationale des juridictions françaises déterminent dans quels cas un litige présentant un élément d’extranéité peut être soumis aux tribunaux français. Ces règles, issues du droit interne ou de conventions internationales comme le Règlement Bruxelles I bis, tiennent compte de critères variés tels que le domicile des parties ou le lieu d’exécution des obligations.

L’évolution des frontières de compétence

Les frontières de compétence ne sont pas figées et connaissent des évolutions significatives au fil du temps. Plusieurs facteurs contribuent à ces mutations :

• Les réformes législatives modifiant la répartition des compétences
• L’interprétation jurisprudentielle des critères de compétence
• L’émergence de nouveaux types de contentieux liés aux évolutions technologiques et sociales
• La transformation de certains services publics et la modification de leur régime juridique

À titre d’exemple, le contentieux du droit d’asile a connu d’importantes évolutions de compétence, passant d’une compétence administrative à une compétence partagée, avec l’intervention de la Cour nationale du droit d’asile (CNDA) et du juge judiciaire pour certains aspects liés à la rétention. De même, la juridictionnalisation croissante de certaines procédures administratives a conduit à redessiner les contours de la compétence du juge administratif.

Analyse jurisprudentielle des cas emblématiques d’incompétence rationae materiae

L’examen de la jurisprudence relative à l’incompétence rationae materiae révèle la richesse et la complexité de cette notion à travers des cas emblématiques qui ont contribué à façonner ses contours. Ces décisions, émanant tant des juridictions suprêmes que des juridictions du fond, constituent des repères essentiels pour comprendre l’application concrète de cette règle procédurale.

Le Tribunal des conflits, institution spécifiquement chargée de régler les conflits de compétence entre les deux ordres de juridiction, a rendu plusieurs décisions fondamentales. L’arrêt Blanco du 8 février 1873 demeure une référence incontournable, posant le principe selon lequel « la responsabilité qui peut incomber à l’État pour les dommages causés aux particuliers par le fait des personnes qu’il emploie dans le service public […] ne peut être régie par les principes qui sont établis dans le Code civil pour les rapports de particulier à particulier ». Cette décision a consacré la compétence du juge administratif pour les questions de responsabilité de la puissance publique.

Dans une affaire plus récente, le TC, 17 octobre 2011, SCEA du Chéneau, le Tribunal des conflits a opéré un revirement significatif en admettant que le juge judiciaire puisse, sous certaines conditions, écarter lui-même l’application d’un acte administratif contraire au droit de l’Union européenne, sans devoir saisir le juge administratif d’une question préjudicielle. Cette décision marque une évolution notable dans la répartition des compétences entre les deux ordres, sous l’influence du droit européen.

En matière de contrats administratifs, l’arrêt Société des Granits porphyroïdes des Vosges (CE, 31 juillet 1912) a posé le critère de la clause exorbitante du droit commun pour déterminer la nature administrative d’un contrat et, par conséquent, la compétence du juge administratif. Ce critère a été affiné par la jurisprudence ultérieure, notamment avec l’arrêt Commune de Montpellier (TC, 7 octobre 1996) qui a précisé les conditions dans lesquelles un contrat passé par une personne publique pouvait être qualifié d’administratif.

Dans le domaine de la responsabilité médicale, l’arrêt Époux V. (TC, 25 mars 1957) a clarifié la répartition des compétences entre juge administratif et juge judiciaire. Il a établi que la responsabilité des établissements publics hospitaliers relève du juge administratif, tandis que celle des médecins exerçant en libéral ou des cliniques privées ressortit à la compétence du juge judiciaire. Cette distinction fondamentale demeure, malgré l’uniformisation progressive des règles de fond applicables à la responsabilité médicale.

Concernant les voies de fait, l’arrêt Bergoend c/ Société ERDF Annecy Léman (TC, 17 juin 2013) a redéfini cette notion et restreint les cas dans lesquels le juge judiciaire peut connaître d’actes de l’administration. Désormais, la voie de fait est limitée aux cas où l’administration procède à « l’exécution forcée, dans des conditions irrégulières, d’une décision, même régulière, portant atteinte à la liberté individuelle ou aboutissant à l’extinction d’un droit de propriété ». Cette décision a eu pour effet de réduire le champ de compétence du juge judiciaire au profit du juge administratif.

Évolutions récentes et tendances jurisprudentielles

Les évolutions récentes de la jurisprudence révèlent plusieurs tendances significatives. On observe notamment une certaine simplification des règles de compétence, visant à limiter les cas de renvoi préjudiciel entre les deux ordres de juridiction. Cette tendance s’inscrit dans un souci d’efficacité procédurale et de garantie du droit à un procès dans un délai raisonnable.

Une autre tendance marquante concerne l’influence croissante du droit européen sur la répartition des compétences. Les exigences du droit au procès équitable, consacré par l’article 6 de la Convention européenne des droits de l’homme, ont conduit à des ajustements dans l’application des règles de compétence, notamment lorsque des renvois successifs risqueraient de compromettre l’accès effectif à un juge.

Enfin, on note une tendance à la spécialisation accrue de certaines juridictions pour traiter de contentieux techniques ou complexes. Cette évolution se traduit par la création de pôles spécialisés ou de juridictions dédiées, comme le Tribunal judiciaire de Paris pour certains contentieux économiques internationaux ou les juridictions interrégionales spécialisées (JIRS) pour la criminalité organisée.

Impacts pratiques et stratégiques de l’incompétence rationae materiae dans le contentieux moderne

L’incompétence rationae materiae engendre des conséquences pratiques considérables pour les justiciables et leurs conseils. Au-delà de son aspect technique, elle constitue un enjeu stratégique majeur dans la conduite des procédures contentieuses contemporaines.

Du point de vue du justiciable, la complexité des règles de compétence représente parfois un véritable obstacle à l’accès à la justice. L’erreur dans le choix de la juridiction compétente peut entraîner des retards significatifs dans le traitement de l’affaire, voire conduire à la prescription de certaines actions. Cette difficulté est particulièrement sensible pour les justiciables non assistés d’un avocat ou confrontés à des domaines juridiques hybrides, situés à la frontière de plusieurs compétences juridictionnelles.

Pour les avocats, la maîtrise des règles de compétence constitue un savoir-faire stratégique fondamental. Le choix judicieux de la juridiction peut influencer l’issue du litige, certaines juridictions étant réputées pour leur jurisprudence plus ou moins favorable à certains types de demandes. En outre, soulever une exception d’incompétence peut constituer une tactique dilatoire permettant de gagner du temps, notamment lorsque le fond du dossier apparaît défavorable. À l’inverse, ne pas contester la compétence d’une juridiction en principe incompétente peut parfois s’avérer avantageux, si cette juridiction semble plus encline à accueillir favorablement les prétentions défendues.

Sur le plan de l’économie judiciaire, les questions d’incompétence rationae materiae engendrent des coûts supplémentaires tant pour les parties que pour l’institution judiciaire. Les renvois successifs entre juridictions génèrent des lenteurs procédurales et mobilisent des ressources juridictionnelles pour traiter des questions purement procédurales, au détriment de l’examen au fond des litiges. Face à ce constat, plusieurs réformes ont visé à limiter les incidents de compétence, notamment en renforçant les mécanismes de renvoi automatique vers la juridiction compétente.

Dans certains domaines émergents du droit, comme le contentieux numérique ou celui lié aux nouvelles technologies, l’identification de la juridiction compétente soulève des défis inédits. La nature transfrontalière de nombreuses activités numériques, l’immatérialité de certains préjudices ou l’hybridation des qualifications juridiques compliquent considérablement la détermination du juge compétent. Ces difficultés ont conduit à l’élaboration de règles spécifiques, comme en matière de cybercriminalité ou de protection des données personnelles.

Vers une simplification des règles de compétence ?

Face aux difficultés pratiques engendrées par la complexité des règles de compétence, plusieurs pistes de réforme ont été envisagées :

• L’instauration de guichets uniques permettant aux justiciables de saisir une seule entité, chargée ensuite d’orienter le dossier vers la juridiction compétente
• Le développement de mécanismes de passerelle entre juridictions, permettant des transferts simplifiés en cas d’incompétence
• La réduction des cas dans lesquels l’incompétence entraîne la nullité de la procédure
• L’harmonisation des délais et formalités de saisine entre les différentes juridictions

Certaines de ces propositions ont déjà trouvé une traduction concrète, comme la possibilité pour le juge de renvoyer directement l’affaire devant la juridiction qu’il estime compétente. D’autres demeurent à l’état de projets, leur mise en œuvre se heurtant parfois à des résistances institutionnelles ou à des difficultés techniques.

Perspectives d’évolution et défis contemporains face à l’incompétence rationae materiae

L’avenir de l’incompétence rationae materiae s’inscrit dans un contexte de mutations profondes du paysage juridictionnel et des modes de règlement des différends. Plusieurs facteurs contribuent à redessiner les contours de cette notion classique du droit processuel.

Le premier défi majeur concerne l’internationalisation croissante des litiges. Dans un monde globalisé, les contentieux impliquent de plus en plus fréquemment des éléments d’extranéité, soulevant des questions complexes de compétence internationale. Les règles traditionnelles de compétence materiae se trouvent confrontées à la concurrence de règles supranationales issues du droit international privé ou du droit de l’Union européenne. Cette superposition de normes génère parfois des conflits de compétence positifs ou négatifs, particulièrement délicats à résoudre.

La digitalisation de la justice constitue un autre facteur de transformation. Le développement des procédures dématérialisées et des plateformes en ligne de résolution des litiges modifie progressivement la conception traditionnelle de la compétence juridictionnelle. Dans un environnement numérique, les critères géographiques perdent de leur pertinence au profit de critères fonctionnels ou techniques. Cette évolution pourrait conduire à terme à une redéfinition des règles de compétence, davantage fondées sur la nature du litige et moins sur des considérations territoriales.

L’essor des modes alternatifs de règlement des différends représente un troisième facteur d’évolution. Le développement de la médiation, de la conciliation ou de l’arbitrage offre aux justiciables des voies de résolution des conflits qui échappent partiellement aux règles classiques de compétence juridictionnelle. Ces procédures, souvent plus souples et moins formalistes, peuvent contribuer à désamorcer les incidents de compétence en permettant un traitement global du litige, indépendamment des questions de répartition entre juridictions.

Face à ces défis, plusieurs tendances se dessinent pour l’avenir. On observe d’abord une progression de l’approche fonctionnelle de la compétence, qui privilégie l’efficacité procédurale sur le respect strict des frontières juridictionnelles traditionnelles. Cette approche se traduit notamment par le développement de mécanismes de coopération entre juridictions, permettant de traiter de manière coordonnée des aspects d’un même litige relevant de compétences différentes.

Une autre tendance concerne la spécialisation accrue de certaines juridictions. Face à la complexité croissante de nombreux contentieux techniques (propriété intellectuelle, droit de la concurrence, régulation économique…), on assiste à la création de juridictions ou de formations spécialisées, dotées d’une expertise particulière dans ces domaines. Cette évolution modifie la logique traditionnelle de répartition des compétences, en introduisant un critère qualitatif lié à la technicité du contentieux.

Vers un nouveau paradigme de la compétence juridictionnelle ?

Ces évolutions convergentes suggèrent l’émergence progressive d’un nouveau paradigme de la compétence juridictionnelle, moins rigide et plus adapté aux réalités contemporaines. Ce modèle émergent pourrait se caractériser par :

• Une approche pragmatique privilégiant l’efficacité du traitement des litiges sur le respect formel des frontières de compétence
• Une vision intégrée des différentes juridictions, conçues comme les composantes d’un système global de résolution des conflits
• Une fluidification des parcours juridictionnels, facilitant la circulation des dossiers entre juridictions
• Une hybridation des procédures, combinant éléments de différentes traditions juridictionnelles

Ce nouveau paradigme ne signifie pas pour autant la disparition de l’incompétence rationae materiae, qui conserve sa pertinence comme garantie de la spécialisation et de l’expertise des juridictions. Il suggère plutôt une évolution vers une conception plus souple et plus fonctionnelle de cette notion, davantage centrée sur les besoins des justiciables que sur des considérations institutionnelles.

La jurisprudence récente des hautes juridictions témoigne de cette évolution, avec une tendance à limiter les conséquences procédurales de l’incompétence et à favoriser les mécanismes de renvoi direct. Cette orientation s’inscrit dans une préoccupation plus large de garantir l’effectivité du droit au juge, consacré tant par la Constitution que par les instruments internationaux de protection des droits fondamentaux.

En définitive, l’avenir de l’incompétence rationae materiae s’annonce comme un équilibre délicat entre le maintien nécessaire d’une spécialisation des juridictions et l’adaptation aux exigences contemporaines d’efficacité et d’accessibilité de la justice. Cette évolution illustre la capacité du droit processuel à se transformer pour répondre aux mutations de la société, tout en préservant ses principes fondamentaux.