Cours de M. Antoine Compagnon

Neuvième leçon : Approches formalistes des genres

Si la problématique aristotélicienne de la mimèsis, son échelle de valeurs fût-elle renversée, est restée très présente dans la réflexion moderne sur les genres, d'autres perspectives n'en ont pas moins coexisté avec elle, notamment formalistes, ou in re, prenant par exemple leur départ de quelques « formes simples », suivant l'expression d'André Jolles. Ce sont ces perspectives non aristotéliciennes sur les genres que l'on recensera aujourd'hui.

1. L'idéalisme de Benedetto Croce

Croce est celui qui a exprimé la plus forte hostilité au genre, et son influence a été grande. Il opposait intuition et logique. À ses yeux, les catégories génériques pervertissent les réactions du lecteur qui tente de les appliquer à une oeuvre particulière ; elles le font passer d'une réaction intuitive à une réaction logique. De ce point de vue anti-théorique, une classification générique de la littérature est un déni de la nature même de la littérature et fait violence à la sensibilité du critique et à l'individualité de l'objet. Toute oeuvre véritable brise les lois génériques ; la recherche de classifications formelles est donc non pertinente et dangereuse. « Tout véritable chef-d'oeuvre a violé la loi d'un genre établi, semant ainsi le désarroi dans l'esprit des critiques, qui se virent dans l'obligation d'élargir ce genre » (1902, cité dans Théorie des genres, p. 41). De l'idée de la singularité expressive de toute oeuvre d'art, se déduit la contestation du concept normatif de genre et le scepticisme nominaliste. Seules les classifications a posteriori sont permises.

            Mais comment répondre à la seule question valable suivant Croce, celle de la réussite de l'oeuvre, sans un jugement sur ce qu'on est en droit d'attendre, sur ce qui oriente la perception et la compréhension, et constitue un genre ? L'oeuvre n'est pas isolée de tout ce qu'on attend, ou alors elle est incompréhensible, comme une pure expression de l'individu. Le rêve de la peinture abstraite a hanté la littérature moderne. Le genre est une norme, une convention, une généralité intermédiaire, non une substance. Toute oeuvre appartient à un genre, entendu comme un horizon d'attente (on y reviendra à propos de la réception), c'est-à-dire un ensemble de règles préexistant à l'oeuvre et en orientant la réception.

La méfiance des genres n'en a pas moins a été fréquente au xx^e siècle, ainsi que des autres catégories historiques, en faveur de l'oeuvre dans son unicité. De Mallarmé à Gide et à Valéry, les genres ont été refusés, mais aussi par l'histoire littéraire positiviste lansonienne, réagissant aux abus de la philosophie de l'histoire et des théories de l'évolution (Brunetière). Les codes seront souvent jugés sans pertinence devant l'oeuvre ouverte. Ou bien les genres ne sont plus jugés pertinents historiquement ; le modernisme aurait brisé les genres.

Pour répondre à ces réserves inspirées de Croce, on peut insister sur le caractère historique et transitoire de la notion de genre comme groupe ou famille historique, in re, et non substance, et justifier ainsi l'étude des types littéraires par opposition aux exemples tirés des époques classiques. On peut partir des genres primitifs, du récit mythique ou du conte populaire (comme Propp), c'est-à-dire d'exemples non artistiques, et collectifs (par oppostion à l'individualité des auteurs) pour dégager une logique narrative, des structures, des fonctions, bref des formes exclues par la systématisation traditionnelle en trois genres comme impures ou pseudo-poétiques.

2. Les formalistes russes

Contemporains de la Révolution russe, les formalistes ont proposé une démarche empirique opposée à la recherche de l'essence des grands genres. Suivant eux, l'historicité des genres dépend des systèmes littéraires dans lesquelles ils s'inscrivent. Une classification logique des genres n'a pas de sens, car les distinctions génériques sont historiques, justifiées pour un temps donné : « L'étude des genres est impossible hors du système dans lequel et avec lequel ils sont en corrélation » (Tomachevski, Théorie littéraire, p. 128). Cette corrélation est conçue en synchronie et en diachronie. Suivant le principe même du structuralisme, un genre nouveau transforme l'ensemble du système. Et il arrive qu'un genre ne corresponde plus à son nom, comme c'est le cas pour le roman.

Tomachevski a formulé un certain nombre de lois, comme celle de la disparition des genres anciens : c'est la loi de la dégradation (opposée au modèle de la vie proposé par Brunetière), décrivant le remplacement constant des genres élevés par les genres vulgaires (p. 304), ou encore la loi de la canonisation des genres vulgaires. Ainsi le roman a-t-il été promu comme un genre majeur au xix^e siècle, alors que l'épopée et la tragédie disparaissaient. Le renouvellement littéraire vient du bas, par des procédés comme la satire dans l'épopée, par exemple dans Les Tragiques d'Aubigné.

Une autre loi est celle de la « marche du cavalier » (Chklovski), observant que la canonisation passe par la branche cadette. Suivant une dégradation féconde, l'héritage passe de l'oncle au neveu. L'idée de mélange des genres, d'hybridation, de décadence et de renouveau, est ainsi mise en avant ; elle sera reprise par Bakhtine dans les notions de « dialogisme » et de « polyphonie ».

Les formalistes étudient les fonctions des éléments et leurs relations au système. C'est dans ce cadre qu'ils s'intéressent aux genres et types. Suivant eux, la différence entre langue littéraire et langue ordinaire (la « littérarité ») tient à la défamiliarisation comme procédé (voir Chklovski, « L'art comme procédé », 1917). L'art renouvelle la perception automatisée de la langue par des procédés qui défamiliarisent. Les genres sont ainsi conçus comme des « groupements constants de procédés » (p. 302) ; ils varient suivant l'organisation et la hiérarchie des procédés qu'ils mettent en jeu. Jakobson appellera dominante le ou les procédés auquel les autres sont soumis. Le concept de dominante décrit l'élément d'un type, par exemple la prosodie, qui caractérise la forme et détermine les autres éléments.

On étudie de la sorte non seulement les grands genres traditionnels, mais aussi des formes basses comme le conte. Ces formes éclairent non seulement les traits qu'elles partagent avec les types plus sérieux de littérature, mais elles sont intéressantes pour elles-mêmes (voir Propp, Morphologie du conte).

Ainsi les formalistes russes abordaient-ils le genre du point de vue de la synchronie, mais ils se souciaient aussi de la diachronie. Tynianov, dans un article célèbre, « L'évolution littéraire » (1927), rendait compte par une loi des contrastes de l'évolution ou révolution générique, par opposition à une évolution graduelle : un type peut passer brutalement du style haut de la littérature sentimentale à la parodie (comme Don Quichotte ou Madame Bovary). « Toute succession littéraire est d'abord un combat, la destruction de valeurs anciennes et une reconstruction d'éléments anciens. » Il proposait également cette explication du développement générique : le rythme étant un facteur constructif du vers, le passage d'un mètre du comique au sérieux. On le voit, l'évolution littéraire passait par en général par la parodie, et par l'entrée des formes populaires dans la littérature.

3. Roman Jakobson

Jakobson devait définir « La dominante » (1935) comme l' « élément focal d'une oeuvre d'art : elle gouverne, détermine et transforme les autres éléments. C'est elle qui garantit la cohésion de la structure », dans un système hiérarchisé de valeurs (Questions de poétique, p. 145). Il y a une dominante dans l'oeuvre d'un artiste, dans le canon d'une école, dans l'art d'une époque, par exemple l'ut pictura poesis de la Renaissance, ou la musique pour le romantisme : une dominante extérieure à l'essence de l'oeuvre poétique pèse sur sa structure phonique, syntaxique, ses images. « L'oeuvre poétique doit [...] se définir comme un message verbal dans lequel la fonction esthétique est la dominante » (p. 147). Ainsi, dans l'esthétique réaliste, l'art verbal est la dominante. Cette notion lui permettait de résumer les rapports du formalisme et de l'histoire :

« Les recherches sur la dominante ont eu d'importantes conséquences en ce qui concerne le concept formaliste d'évolution littéraire. Dans l'évolution de la forme poétique, il s'agit beaucoup moins de la disparition de certains éléments et de l'émergence de certains autres que de glissements dans les relations mutuelles des divers éléments du système, autrement dit, d'un changement de dominante. [...] dans un ensemble de normes valant pour un genre poétique donné, des éléments qui étaient à l'origine secondaires deviennent au contraire essentiels et de premier plan. Inversement, les éléments qui étaient originellement dominants n'ont plus qu'une importance mineure et deviennent facultatifs. [...] une oeuvre poétique [est un] système structuré, [un] ensemble régulièrement ordonné et hiérarchisé de procédés artistiques. L'évolution poétique est dès lors un changement dans cette hiérarchie. La hiérarchie se modifie dans le cadre d'un genre poétique donné ; la modification en vient à affecter la hiérarchie des genres poétiques et, simultanément, la distribution des procédés artistiques parmi les divers genres. Des genres qui étaient, à l'origine, des voies d'intérêt secondaire, des variantes mineures, viennent à présent sur le devant de la scène, cependant que les genres canoniques sont repoussés à l'arrière-plan » (p. 148-149).

La dominante est donc au fondement de la conception formaliste de l'évolution littéraire. Celle-ci résulte moins de la disparition et de l'émergence d'éléments que de glissements dans les relations mutuelles d'éléments du système, c'est-à-dire par le changement de la dominante au sein d'une nouvelle économie des éléments constitutifs.

Chklovski avait introduit la notion de procédé, puis on a considéré l'oeuvre comme système ou ensemble hiérarchisé de procédés. L'évolution poétique a dès lors été comprise comme un changement dans cette hiérarchie : « La hiérarchie des procédés artistiques se modifie dans le cadre d'un genre poétique donné ; la modification en vient à affecter la hiérarchie des genres poétiques et la distribution des procédés parmi les divers genres. » Des genres qui étaient mineurs deviennent centraux ; des genres canoniques sont repoussés. Une forme non respectée peut être canonisée : ainsi le procédé du roman policier dans le Nouveau Roman, ou l'influence du cinéma sur le roman en général au xx^e siècle, mais déjà le rôle du feuilleton, de la presse au xix^e siècle). Ainsi s'élabore une nouvelle histoire littéraire formaliste face aux membra disjecta de la vieille histoire positiviste et atomistique.

Plus tard, Jakobson rapportera la notion de dominante aux six fonctions du langage - référentielle, émotive, conative [de conatus, effort < conor, entreprendre], phatique, métalinguistique et poétique - et donc aux six éléments constitutifs de la communication - référent, émetteur, destinataire, contact, code, message -, l'une ou l'autre fonction pouvant dominer, sans pour autant exclure les autres :

Dans « Linguistique et poétique » (1960), article très influent, Jakobson lie par exemple l'ancienne triade romantique (lyrique subjectif, épique objectif, drame subjectif-objectif) et les dominantes référentielle, émotive ou conative : « La poésie épique, centrée sur la troisième personne, met fortement à contribution la fonction référentielle ; la poésie lyrique, orientée vers la première personne, est intimement liée à la fonction émotive ; la poésie de la [deuxième] personne est marquée par la fonction conative, et se caractérise comme supplicatoire ou conative, selon que la première personne y est subordonnée à la deuxième, ou la deuxième à la première » (Éléments de linguistique générale, p. 219). Ce retour de la triade est surprenant. L'épique est donc associé à la fonction référentielle, la lyrique à la fonction émotive (dominante de l'émetteur), et la poésie de deuxième personne (le drame, mais aussi la lyrique, car s'il y a première personne, il y a aussi deuxième personne) à la fonction conative (dominante du destinataire). Cela donne un tableau résumant les personnes et les fonctions suivant Jakobson (voir Combe, Les Genres littéraires, p. 120) :

Personne	Fonction émotive (éthos)	Fonction conative (pathos)	Fonction référentielle
Je	Lyrique
Tu		Dramatique Lyrique
Il			Épique

Jakobson avait aussi rattaché les trois grands genres classiques, dont il n'a donc pas cessé de se soucier, à des critères temporels : lyrique et présent, épique et passé, etc. (Questions de poétique, p. 130).

Il a également lié les genres aux tropes fondamentaux, la métaphore et la métonymie considérés comme pôles structurants du langage. Deux dominantes correspondraient donc aux deux axes du langage, la sélection et la combinaison, ou le paradigme et le syntagme. Les métaphores reposent sur la substitution ; les métonymies sur la contiguïté. La théorie des genres oppose prose et poésie, la métaphore étant la figure dominante en poésie (équivalences projetées sur le syntagme), tandis que la prose insiste en revanche sur l'axe syntagmatique et sur les figures de métonymie.

Ces constantes poétiques, traitées comme universelles, sont inspirées par la poésie russe : la poésie romantique serait métaphorique tandis que l'épopée ou la prose réaliste serait métonymique. « La primauté du procédé métaphorique dans les écoles romantique et symboliste a été maintes fois soulignée, mais on n'a pas encore suffisamment compris que c'est la prédominance de la métonymie qui gouverne et définit effectivement le courant littéraire qu'on appelle « réaliste » [...] Suivant la voie des relations de contiguïté, l'auteur réaliste opère des digressions métonymiques de l'intrigue à l'atmosphère et des personnages au cadre spatio-temporel. Il est friand de détails synecdochiques » (« Deux aspects du langage et deux types d'aphasie », Essais..., p. 62-63).

Sont ainsi identifiés tropes et courants ou écoles. D'une triade on est passé à une dyade (poésie vs prose, ou fonction poétique vs fonction référentielle). Cela donne un nouveau tableau :

	Poésie		Prose
Métaphore	Lyrique		" Prose poétique "
Métonymie	Épique		" Prose réaliste "
		" Récit lyrique "

Le récit progresse par contiguïté et a recours à la métonymie (Questions de poétique, p. 136). La grande opposition du romantisme et du réalisme est ainsi ramenée à la rhétorique et à la linguistique. La poésie est lyrique ; l'épique est représenté par le roman : on retrouve le système moderne décrit à la leçon précédente.

Les principes du formalisme sont réapparus dans le structuralisme, lequel s'est intéressé aux structures profondes, a classé les formes littéraires non en fonction de traits manifestes, comme la nature des héros pour le néo-aristotélisme de Chicago. On a défini les types littéraires par leur structure sous-jacente : la figure rhétorique, le type de discours le plus voisin, comme Mukarovski sur le mode monologique et le mode dialogique. C'est en ce sens que Todorov refusera l'idée que le genre soit un concept illusoire et non pertinent dans la littérature moderne : la transgression suppose le genre (voir sa Littérature fantastique), mais le conflit générique devient central, non la stabilité.

4. La morphologie d'André Jolles

Jolles est l'auteur d'une « morphologie » des genres littéraires (Formes simples, 1930 ; trad. fr., 1972).  On est ici très loin d'Aristote, dans une investigation concrète de la littérature, le recensement de « formes simples » qui « ne sont saisies, ni par la stylistique, ni par la rhétorique, ni par la poétique, [...] qui ne deviennent pas véritablement des oeuvres quoiqu'elles fassent partie de l'art, qui ne constituent pas des poèmes bien qu'elles soient de la poésie, [...] ces formes qu'on appelle communément Légende, Geste, Mythe, Devinette, Locution, Cas, Mémorable, Conte ou Trait d'esprit » (p. 17). Il s'agit de réparer l'oubli de ces neuf formes simples par la tradition générique (sinon par l'ethnographie), et de les réintégrer à la littérature.

L'objet et la méthode (la morphologie) sont nouveaux. Ces formes simples trouvent leur source hors de la littérature, dans le discours quotidien et la tradition orale : « elles se produisent dans le langage » et « procèdent d'un travail du langage sur lui-même, sans intervention, pour ainsi dire, d'un poète » (p. 18). Ce sont des formes anonymes, impersonnelles, collectives, situées en deçà de la littérature et dans l'anthropologie du quotidien. On songe à Propp et au conte, à Lévi-Strauss et au mythe.

Les formes littéraires sont simples (populaires, spontanées) mais aussi dérivées : l'épopée est la forme savante de la geste des sagas irlandaises ; la nouvelle est dérivée du cas du droit et de la théologie (exemplum), ou du conte comme chez Boccace. La littérature se rattache par là à la casuistique. L'individualisation des moyens d'expression (le style) et la recherche d'effets passe par les formes dérivées (p. 186).

On peut se rappeler la stylistique de Charles Bally, disciple de Saussure, laquelle excluait le discours littéraire, comme non naturel et non spontané, du champ de son analyse. La méthode est empirique, et dans ce recensement des formes simples, le nombre et la nature de la liste ne sont pas justifiés. Il s'agit d'un inventaire descriptif, non systématique. Le projet est bien d'inventorier le réel littéraire et de refuser la tentation idéaliste incarnée dans la triade traditionnelle.

Les formes simples intéressent la littérature à cause du lien profond qu'elles entretiennent avec les formes dérivées, c'est-à-dire les genres littéraires. La relation est historique : les formes littéraires actualisent les formes simples ; l'épopée actualise par exemple la geste. On peut donc entreprendre une généalogie des formes, des simples aux dérivées : « Nous ne saisissons pas la « poésie » dans sa fixation artistique définitive mais là où elle prend racine, c'est-à-dire dans le langage » (p. 16). Jolles part ainsi de la forme actualisée pour retouver la forme simple : il saisit par exemple dans les légendes modernes les vies de saints. La perspective est en somme génétique et porte sur les origines, les Urformen, avec une sorte de nostalgie romantique pour la naissance de l'art dans le langage considéré comme source d'inventions formelles et de création.

Jolles fait l'hypothèse de correspondances entre les formes simples et des dispositions mentales, des états d'esprit, des attitudes existentielles, des visions du monde : par exemple la famille pour la geste, la science pour le mythe, l'expérience pour la locution, le pesée pour le cas (p. 42). Par une sorte d'invariant essentialiste perpétué au sein de la démarche formaliste, la vision du monde demeure ancrée dans les formes savantes.

4. Les archétypes de Northrop Frye

L'Anatomie de la critique de Frye (1957 ; trad. fr., 1969) est difficile à classer. La démarche est à la fois à la fois aristotélicienne, formaliste et jungienne. Plusieurs catégorisations sont liées, et les systèmes sont informés par l'imagerie archétypique.

Frye classe les genres suivant l'« objet ». Le héros peut être classé, suivant sa puissance d'action, de cinq manières : 1. S'il est supérieur qualitativement, l'histoire est un mythe ; 2. S'il est supérieur quantitativement, c'est une « romance » ; 3. S'il est supérieur aux autres mais non au milieu, c'est de la haute mimèsis : le drame et l'épopée les plus tragiques ; 4. S'il n'est supérieur ni aux autres ni au milieu, c'est de la basse mimèsis : la comédie et la fiction réaliste ; 5. S'il est inférieur aux autres et au milieu, enfin, le mode est ironique.

Suit une catégorisation selon le muthos, ou l'intrigue. Ces muthoi sont antérieurs aux formes littéraires. Frye en distingue quatre, comme les saisons : comique (printemps) ; romantique (été) ; tragique (automne) ; satirique (hiver).

Suivant les « manières » ou « genres », mais non au sens platonicien ou aristotélicien, Frye distingue les oeuvrea selon qu'elles sont destinées à être représentées, récitées, chantées, ou lue silencieusement : « Le genre est déterminé par la façon dont s'établit la communication entre le poète et le public. » Ce classement est donc pragmatique.

Frye oppose encore « genres idéaux » (catégories génériques) et « genres réels », gardant cependant une affinité avec les genres idéaux (Milton et Homère). Le tout pour aboutir de nouveau à une triade, élargie à un carré : 1. L'épos, caractérisé par des traces d'exposition orale, la prosodie, le rythme. 2. La fiction, comme forme moderne de l'épos. 3. Le dramatique, où l'auditoire est présent, et l'auteur absent. 3. Le lyrique, où le poète parle en tournant le dos à son auditoire.

Le critique y retrouve enfin trois schémas centraux du symbolisme humain : apocalyptique, démonique et analogique. On le voit : d'une théorie des genres on est passé à une anthropologie.

            D'autres théoriciens des genres devraient encore être évoqués, notamment Käte Hamburger, Logique des genres littéraires (1957 ; trad. fr. 1986), et Emil Staiger, Les Concepts fondamentaux de la poétique (1946 ; trad. fr., 1990).

[ Leçon précédente ] [ Leçon suivante ] [ Retour au sommaire ]