Il se peut qu’au-delà des points de doctrine spécifiques (essentiels, par ailleurs, comme nous l’avons vu), le détachement de Wittgenstein de la philosophie du langage du Tractatus ait sa source principale dans l’abandon de l’attitude essentialiste, c’est-à-dire de la prétention de saisir philosophiquement l’essence du langage et de la proposition. «Toute ma tâche consiste à expliquer l’essence de la proposition» avait écrit Wittgenstein à l’époque du Tractatus (1914-1916: 22. 1. 1915); et le livre, avec sa caractérisation de la «forme générale de la proposition» (1922: 6.), avait été l’accomplissement de cette tâche. À partir de 1932, lorsqu’il dicte ce qu’on a appelé le Big Typescript, dont a été tirée l’œuvre connue sous le titre Grammaire philosophique, Wittgenstein ne pense plus que le fait de déterminer l’essence du langage, de la proposition et de la règle est une condition pour pouvoir analyser le langage, parler de propositions et identifier des règles, et il en vient à faire l’hypothèse qu’il pourrait s’agir d’une tâche impossible: il n’est pas dit que l’essence du langage (ou de la proposition, ou de la règle) soit. Chaque fois que nous avons affaire à un nom commun (un «terme universel») comme ‘langage’ justement, ou ‘proposition’ etc. nous donnons pour acquis qu’il soit appliqué sur la base d’une essence commune à tous les objets ou phénomènes pour lesquels le nom est utilisé. Or, dit Wittgenstein, «ce que le nom abstrait indique est bien une affinité entre des objets, mais cette affinité ne consiste pas nécessairement en ce qu’ils aient en commun une propriété ou une partie constitutive. Il se peut qu’elle relie les membres comme les maillons d’une chaîne, de sorte qu’un membre est apparenté à l’autre à travers des membres intermédiaires ; et il se peut également que deux membres immédiatement voisins aient en commun certains traits, ou soient semblables l’un à l’autre, tandis que des membres plus lointains n’aient plus rien en commun et appartiennent toutefois à la même famille [...] Ainsi, il n’existe certes pas quelque chose de caractéristique, qui soit commun à tout ce que nous appelons ‘jeu’. Mais on ne peut pas dire non plus que ‘jeu’ ait, pour autant, plusieurs significations indépendantes [...] On appelle ‘jeux’ des processus apparentés selon des modes différents, parmi lesquels il y a une multiplicité de passages» (1930-1933: § 35; cf. 1953: §§ 66-67). Ceci vaut également, en particulier, pour des mots comme ‘langage’, ‘proposition’, ‘règle’. Ces concepts ne sont pas rigidement délimités, et dans la plupart des cas nous n’avons pas besoin de les délimiter pour les utiliser (1930-1933: §§ 72-73; cf. 1953: § 65). S’il était nécessaire de définir ‘règle’, ‘proposition’, etc. avant de pouvoir utiliser ces mots dans l’analyse philosophique, il y aurait, en quelque sorte, une philosophie avant la philosophie: ce que Wittgenstein appelle une métaphilosophie. «Mais il n’existe pas de métaphilosophie» dit Wittgenstein (1930-1933: § 72) et il considère cela comme l’une de ses «pensées-phare».

La doctrine des ressemblances de famille a été considérée comme une nouvelle théorie des concepts, et, comme telle, elle est à l’origine de la théorie des prototypes de E. Rosch (voir Rosch, 1987), qui est une théorie empirique psychologico-cognitive concernant la représentation mentale de la signification des termes universels (comme ‘jeu’, ‘meuble’, ‘fruit’, etc.). Dans l’économie de la pensée de Wittgenstein, elle représente plutôt le chemin par lequel le philosophe parvient à se libérer de l’obsession essentialiste qui caractérise alors à ses yeux le Tractatus. Elle se déploie en même temps que le développement de la conception radicalement pluraliste du langage, fondée sur l’idée du jeu de langage (1930-1933: § 26; 1933-1934: 56; 1953: § 23). Il n’y a pas seulement de nombreux types de mots ou de nombreux types de propositions: il y a de nombreux langages. «De nouveaux types de langage, de nouveaux jeux de langage, pourrions-nous dire, surgissent et d’autres vieillissent et sont oubliés» (Ibidem: § 23; cf. § 18). Mais – comme nous autorise à le dire la doctrine des ressemblances familiales – «ces phénomènes n’ont nullement quelque chose en commun, sur la base de quoi nous utilisons pour tous le même mot [‘langage’] – mais [...] ils sont apparentés l’un avec l’autre, selon de modes nombreux et différents» (1953: § 65). L’expression ‘jeu de langage’ est employée par Wittgenstein de manière non uniforme. Elle se réfère tour à tour à: (a) des situations imaginaires et très simplifiées d’utilisation de langage rudimentaire, qui sont esquissés pour mettre en évidence tel ou tel aspect de notre utilisation du langage (par exemple 1934-1935: 144-145; 1953: § 7); (b) des utilisations «spécialisées» du langage, en relation avec des buts déterminés et dans le cadre d’activités tout aussi déterminées: raconter des histoires (1953: § 23), employer des expressions comme ‘douleur’, ‘avoir mal’ (§ 300), prévoir les actions de quelqu’un (§ 632) (c’est peut-être l’emploi le plus commun de l’expression); (c) une utilisation globale du langage: par exemple notre utilisation du langage, en tant que partie de notre forme de vie, en opposition à d’autres utilisations possibles, liées à des conditions de vie différentes et des constellations de buts différents (1953: § 238, § 264).

Dans toutes ces utilisations, bien que très différentes, l’idée de jeu de langage renvoie à l’idée de règle : les jeux de langage sont constitués par des règles pour l’utilisation de certaines expressions dans certaines circonstances. Le but de la philosophie est la description de ces règles: «Nous ne pouvons faire autre chose que de rédiger des tables de règles » (1929-1932: 164; cf. 1929-1930: § 1), c’est-à-dire expliciter et enregistrer la grammaire des expressions linguistiques. La philosophie est l’«administratrice de la grammaire» (1929-1930: § 54). Le mot ‘grammaire’ est également utilisé par Wittgenstein de manière ambiguë, pour indiquer l’ensemble des règles d’utilisation d’une expression (c’est à ce titre que l’on parle de la grammaire de telle expression), mais aussi la description de cette utilisation (1930-1933: § 23); en ce sens la grammaire c’est «le maître-livre du langage» (Ibidem: § 44). La notion de signification est définie à travers celle de grammaire: «La place d’un mot dans la grammaire est sa signification» (1930-1933: § 23). Au cours de ces années, Wittgenstein parle souvent de la signification d’un mot également comme de son «rôle dans le calcul » (par ex. 1929-1930: § 152; 1930-1933: § 27), parce qu’il pense le jeu de langage en analogie avec un système formel. Par la suite, il abandonnera ce mode d’expression, qui s’adapte mal à décrire des situations d’utilisation du langage où tout n’est pas réglé, et où les règles peuvent changer. Ce sont en tout cas des manières plus ou moins équivalentes de faire allusion au fait que la signification d’un mot n’est autre que la manière dont il est utilisé, et est donnée par les règles de son utilisation. Il ne faut pas attribuer une portée excessive aux formulations célèbres des Recherches – «Pour une grande classe de cas – même si ce n’est pas pour tous les cas – dans lesquels nous nous en servons, le mot ‘signification’ se peut définir ainsi: la signification d’un mot, c’est son utilisation dans le langage» (1953: § 43; cf. 1930-1933: § 29; 1933-1934: 127). Ce que Wittgenstein veut dire, c’est surtout que lorsqu’on demande ce que signifie un mot, on veut savoir le plus souvent comment il est utilisé; et une explication de la signification consiste généralement à proposer des exemples d’utilisation. Mais alors surgit immédiatement le problème de savoir comment est-il possible de connaître la signification d’un mot, étant donné qu’il semble impossible de «saisir d’un coup [son] utilisation complète» (1953: § 191). De ce problème naîtra la discussion sur l’idée de«suivre une règle» dont nous ne nous occuperons pas ici dans la mesure où elle dépasse très largement le domaine de la philosophie du langage (Kripke, 1981; Andronico, Marconi et Penco, 1988: 199-201). L’issue de la discussion, pour ce qui concerne le langage, semble être que connaître un langage, c’est maîtriser une technique (comme une habileté artisanale ou sportive), et doit être décrit plus comme un savoir-faire que comme un savoir.

Il est clair que les concepts d’utilisation et de grammaire ne sont que les faibles prémices d’une «théorie du langage»: l’indication de décrire l’utilisation, ou d’éclaircir la grammaire d’une expression linguistique ne nous dit pas grand-chose des propriétés ou des relations de l’expression qu’il nous faut prendre en considération. Mais Wittgenstein n’éprouvait pas un grand intérêt pour la théorie du langage en ce sens: de son point de vue, l’indication a surtout une valeur négative et thérapeutique. Veiller à l’utilisation, c’est, avant tout, ne pas présumer de savoir déjà – par exemple par la tradition philosophique – quel type de signification a un mot (par exemple qu’il «exprime un concept» ou une «détermination de l’être», ou désigne «une opération de l’esprit», ou un «processus intérieur», etc.). En second lieu, veiller à l’utilisation, c’est ne pas généraliser à tout le langage un seul modèle sémantique, par exemple celui de la dénotation, en cherchant dans chaque cas quelque chose qui aille à l’expression en question comme, disons, les chiens vont au mot ‘chien’.

Dans les Recherches philosophiques, et dans d’autres écrits de la seconde période, Wittgenstein combat sans relâche deux thèses, ou attitudes philosophiques, dénommées toutes deux: mentalisme. La première est une thèse psychologique: celle à laquelle nous avons déjà fait allusion, selon laquelle les termes de la psychologie «naïve» (‘désirer’, ‘s’attendre à’, ‘avoir l’intention de’, etc.) sont des noms d’états ou processus mentaux. La seconde est une thèse sémantique: à savoir que les significations des mots sont, en général, des entités mentales. Il s’agit de deux thèses distinctes, non seulement au sens où l’on peut être d’accord avec la première sans pour autant l’être avec la seconde (qui est plus générale), mais aussi dans le sens où soutenir que l’intention est un état mental (le mot ‘intention’ est le nom d’un type d’état mental) et soutenir au contraire que la signification du mot ‘intention’ – comme de tous les autres mots – est une entité mentale (disons l’idée d’intention), quel que soit son rapport avec la chose même (à savoir l’intention), sont deux choses bien différentes. Contre la thèse psychologique, les arguments de Wittgenstein sont nécessairement particuliers, parce qu’il s’agit de faire voir, dans chaque cas, que les termes psychologiques ne fonctionnent pas dans le langage comme des noms d’états ou processus mentaux. Wittgenstein soutient, par exemple, que la compréhension du langage n’est pas un processus psychique (1953: § 154): les expériences vécues, les phénomènes psychiques conscients qui accompagnent de manière caractéristique la compréhension (à supposer qu’il y en ait) ne sont pas la compréhension. Wittgenstein ne nie pas que l’on puisse faire référence à des «mécanismes» mentaux – ou cérébraux – de la compréhension (Ibidem: § 154, 158), même s’il est sceptique quant à l’efficacité explicative de telles références; mais il soutient que l’emploi que nous faisons de mots comme ‘comprendre’ n’est pas fondé sur la présence ou l’absence de tels mécanismes hypothétiques (nous ne disons pas que quelqu’un a compris en fonction du fait que nous avons relevé le fonctionnement d’un tel mécanisme).

C’est contre la thèse sémantique que Wittgenstein aura recours à l’une de ses machines argumentatives qui le rendront célèbre: il s’agit du fameux «argument contre le langage privé» (1953: § 243 sq.; voir Bouveresse, 1976: chap. 4). Wittgenstein essaie d’imaginer un langage dont les expressions assument une signification, dans la mesure où elles sont associées à des expériences vécues par le sujet (admettons que ce soit moi) qui institue le langage: par exemple, l’expression ‘S’ est introduite comme nom d’une de mes sensations déterminées. Un langage de ce genre serait privé non pas au sens où l’est un code secret (qui peut être rendu public à notre gré), mais pour des raisons de principe: les significations de ses expressions ne seraient accessibles à personne d’autre qu’à moi. Wittgenstein montre que quiconque se proposerait de communiquer (avec lui-même) dans un tel langage ne disposerait d’aucun critère pour déterminer si son emploi de ses expressions est correct (Ibidem: § 258): il n’aurait aucun moyen de savoir s’il les utilise correctement, ou s’il ne fait que croire les utiliser correctement: «Ce qui veut dire seulement que dans ce cas on ne peut parler de ‘correction’» (Ibidem). Mais s’il n’est pas possible d’appliquer le concept d’‘utilisation correcte’, on ne peut même pas dire que les expressions de mon langage privé présumé aient véritablement été dotées d’une signification. Le «langage privé» n’est pas un langage. Il semble découler de cet argument que la signification (le fait de signifier) d’une expression linguistique ne puisse être identifiée à sa connexion avec une entité mentale: une telle connexion, en effet, ne peut constituer un critère de correction d’utilisation, ni servir de base à un tel critère. Mais il n’y a pas de signification, s’il n’est pas possible de faire de différences entre des utilisations correctes et incorrectes d’une expression linguistique. Il semble s’ensuivre, en outre, que la compréhension du langage ne puisse être une opération mentale, ou en tout cas qu’elle ne peut consister en la reconnaissance de la connexion entre une expression du langage et une entité mentale déterminée (par exemple dans la «récupération» d’une entité mentale à laquelle l’expression est reliée): dans la mesure où la connexion n’est pas soumise à un contrôle, nous ne pourrons jamais savoir si nous avons véritablement compris; ou, en paraphrasant Wittgenstein, nous ne pourrons pas faire de distinction entre comprendre et croire comprendre, et nous ne pourrons dès lors plus parler de compréhension. L’argument contre le langage privé a de nombreuses conséquences, dans différents domaines de la philosophie. Pour la philosophie du langage, il constitue une difficulté pour les théories du langage mentalistes (au second sens), comme pour celles avancées par les cognitivistes (voir infra § 33); et, en effet, il a été critiqué et rejeté par Fodor (1975: 70-71) pour ne citer qu’un exemple. L’image du langage qui est certainement impliquée, et peut-être même présupposée, par l’argument contre le langage privé est celle d’une collection d’outils intrinsèquement publics, pour lesquels la possibilité d’être utilisé de manière incorrecte est essentielle, non pas par rapport à des valeurs fonctionnelles préétablies (l’efficacité communicative, par exemple), mais par rapport à une norme déposée dans l’utilisation d’une communauté. (Pour une exposition plus développée, mais encore introductive des idées sur le langage du «second» Wittgenstein, cf. Penco, 1992).

Le philosophe anglais M. A. E. Dummett (né en 1925) a tenté une médiation complexe entre les instances du paradigme dominant et certains aspects de la pensée du second Wittgenstein. Du paradigme dominant, il retient surtout le projet d’une théorie de la signification (dont Wittgenstein contestait l’utilité et l’idée même, cf. § 19); et il tire essentiellement de Wittgenstein les qualités qu’une telle théorie doit satisfaire. En premier lieu, pour Dummett, une théorie de la signification doit répondre à la question: «En quoi consiste comprendre la signification d’un énoncé?» et doit être – en ce sens – une théorie de la compréhension. La signification, en effet, n’est rien d’autre que ce qu’une personne qui parle connaît d’une expression, du fait qu’elle la comprend. En second lieu, la théorie doit rendre compte du caractère public de la signification: elle doit représenter la connaissance de la signification comme une compétence contrôlable, qui doit donc se manifester dans des comportements publics, c’est-à-dire dans l’utilisation. L’idée que la connaissance de la signification d’une expression doit pouvoir se manifester pleinement dans l’utilisation découle, pour Dummett, à la fois de l’élaboration du slogan wittgensteinien «la signification c’est l’utilisation», et de la réflexion sur une thèse de Frege connue comme principe de contextualité, selon laquelle «un mot est donné pour quelque chose uniquement dans le contexte d’un énoncé» (Dummett, 1973b: 192-196). Selon Dummett, la thèse est justifiée par le fait que l’énoncé est l’unité linguistique minimum permettant d’accomplir un acte de langage (voir § 25), c’est-à-dire un acte concret de communication; du reste, l’acquisition de la signification d’un mot advient en observant des exemples de son utilisation dans des énoncés, et la connaissance du sens d’un mot ne peut être démontrée qu’en l’utilisant (c’est-à-dire en montrant que l’on est en mesure de formuler des énoncés dans lesquels il est utilisé correctement). Donc la thèse de la contextualité est étroitement liée à l’idée du caractère public de la signification, qui, à son tour, forme un tout avec la thèse de la manifestabilité dans l’utilisation (sur cet entrelacs théorique, voir Santambrogio, 1986: 10-18).

Dummett adhère au paradigme dominant également de par son insistance sur le caractère systématique de la théorie de la signification. La compréhension du langage a une nature compositionnelle (§ 6): notre capacité à comprendre une infinité d’énoncés que nous n’avons jamais rencontrés auparavant ne peut que provenir de la maîtrise de principes concernant la manière dont chaque mot contribue à déterminer la signification des énoncés dans lesquels il apparaît. La théorie de la signification doit rendre compte de ces principes. Et Dummett se range du côté du paradigme dominant, et contre Wittgenstein – ou contre une interprétation diffuse de Wittgenstein – également du fait qu’il considère comme indispensable la distinction frégéenne entre sens et force (§ 6). Si l’on admet, en effet, que la signification d’un mot, c’est sa contribution à la signification des énoncés dans lesquels il apparaît, mais si l’on refuse la distinction entre sens et force, il s’ensuit que «les mots d’un énoncé impératif [doivent] avoir une signification de type complètement différent de celle que les mêmes mots ont quand ils apparaissent dans un énoncé optatif; ce qui est absurde» (Dummett, 1978: 449). Si – comme Wittgenstein – on se refuse à reconnaître que la signification conventionnelle d’une assertion, d’un ordre, d’une question etc. dépend (également) de principes généraux qui concernent les assertions, les ordres, les questions en tant que tels, on perd un aspect important de la systématicité et l’on finit par mettre sur le même plan des composants très différents du contenu communicatif d’un énoncé.

Une théorie de la signification est donc constituée d’une théorie du sens (qui en constitue le noyau) et d’une théorie de la force (qui s’occupe des conditions auxquelles un énoncé constitue une assertion, une question, un ordre, etc.). Comme nous le savons, Frege et le paradigme dominant ont considéré que la notion centrale de la théorie du sens, c’est celle de la vérité : le sens d’un énoncé s’identifie avec ses conditions de vérité. La contribution principale de Dummett consiste à se demander si, et éventuellement en quel sens, cette conception est compatible avec les qualités qu’une théorie de la signification doit satisfaire: avant tout l’idée qu’elle doive rendre compte de la compréhension du langage, et le caractère public de la signification (qui implique la manifestabilité de sa connaissance).

D’un point de vue frégéen, la compréhension d’un énoncé s’identifie avec la connaissance de ses conditions de vérité (une connaissance qui, pour diverses raisons, doit être considérée comme largement implicite). Cette connaissance peut toutefois consister en un ensemble d’états ou de dispositions mentales privées: pour le réquisit de la manifestabilité, la connaissance du sens doit pouvoir s’exprimer en actes publics de reconnaissance, que les conditions de vérité d’un énoncé soient satisfaites ou ne le soient pas. En d’autres termes, celui qui est en mesure de reconnaître qu’un énoncé est vrai (quand il l’est) ou qu’il n’est pas vrai (quand il ne l’est pas), démontre qu’il comprend un tel énoncé. Or, il y a des énoncés dont nous ignorons s’ils sont vrais ou faux, et pour lesquels nous ne disposons d’aucune méthode pour l’établir: des énoncés contenant des quantifications sur des domaines infinis («Il existe au moins un nombre parfait impair»), des énoncés au passé («Le 6 juillet 1467, il y avait 92 maraîchers sur la place du marché à Clichy»), des conditionnels contrefactuels («Si Chirac avait gagné les élections législatives, Philippe Séguin n’aurait pas été élu président du RPR»). Pour Frege (§ 6) et les défenseurs de la conception «classique», ou réaliste, de la vérité, les conditions de vérité de ces énoncés sont en tout cas parfaitement déterminées; et, quoi qu’il en soit, une éventuelle connaissance de telles conditions de vérité ne pourrait d’aucune manière s’exprimer en actes de reconnaissance de la vérité ou fausseté de ces énoncés. Si le concept de vérité pertinent pour la théorie du sens est celui classique (réaliste, frégéen), une théorie du sens qui voudrait être une théorie de la compréhension – pour laquelle, les conditions de vérité doivent être connaissables, ne serait-ce qu’implicitement – viole le réquisit de manifestabilité.

Par conséquent, soit le concept de vérité n’est pas le concept central de la théorie du sens, soit il doit être conçu différemment de la manière dont le concevait Frege (et avec lui le paradigme dominant). Dummett choisit la seconde voie, et propose d’identifier la vérité avec l’assertabilité (sur l’exemple de la conception de la vérité mathématique soutenue par les intuitionnistes): la connaissance du sens d’un énoncé s’identifiera alors avec la connaissance de ses conditions d’assertabilité. Comprendre un énoncé ce n’est pas connaître la condition qui le rendrait vrai dans le sens du réalisme; c’est, au contraire, savoir dans quels cas nous serions disposés à asserter l’énoncé, c’est-à-dire qu’est-ce qui vaudrait, pour nous, comme justification de l’énoncé. Toutefois, un énoncé peut être justifié pour des raisons très diverses: la conception de Dummett (qu’il appelle antiréalisme) entraîne le risque du holisme sémantique, c’est-à-dire que l’on puisse faire dépendre le sens d’un énoncé du langage tout entier auquel il appartient. Dummett refuse le holisme, qu’il juge par ailleurs incompatible avec la manière dont le langage est acquis; sa position semble donc soutenable à la seule condition que la justification d’un énoncé soit toujours reconductible à une justification qui reflète la structure de l’énoncé (dans le sens ou, par exemple, ‘p et q’ est justifié sur la base de p et de q), c’est-à-dire à un «procédé argumentatif dont la compréhension est immédiatement contenue dans notre compréhension de la signification de l’énoncé en question» (Moriconi, 1992: 282). C’est un réquisit très fort, qui semble difficile à satisfaire (sur cette difficulté voir Moriconi, 1992, et Picardi, 1992: 305 sq.).