Qu’est-ce que la « rationalité » ?

Dans ces articles, ce sera :

1. La rationalité épistémique : croire, et modifier ses croyances, de façon à minimiser la distance entre votre carte et le territoire. L’art d’avoir des croyances qui correspondent autant que possible à la réalité. Dans le langage courant, cette correspondance est appelée « vérité » ou « exactitude », et nous ferons de même.
2. La rationalité instrumentale : la réalisation de vos valeurs. « Vos valeurs » ne signifie pas forcément quelque chose d’égoïste ou d’individualiste ; il s’agit de tout ce dont vous vous souciez. Choisir vos actions dans le but de guider l’avenir dans une direction que vous considérez supérieure aux alternatives. Sur LessWrong, on appelle parfois ça « gagner ».

Si cette définition vous convient, vous pouvez vous arrêtez là. Sinon, continuez votre lecture.

Parfois, des chercheurs en psychologie découvrent des bizarreries dans les raisonnements humains. Par exemple, les gens ont tendance à croire que la probabilité que « Bill joue du jazz » est plus faible que la probabilité que « Bill est un comptable qui joue du jazz ». Ça parait insensé, puisque tout « comptable qui joue du jazz » est évidemment joueur de jazz. Mais d’où nous viens la légitimité qui nous permet de déclarer cette croyance fausse ?

Les chercheurs en psychologie font appel à deux solides arguments : la théorie des probabilités et la théorie de la décision. Une loi universelle des probabilités dit que P(A) ≥ P(A & B), et donc qu’il est faux de croire que P(« Bill joue du jazz ») < P(« Bill joue du jazz » & « Bill est un comptable »).

Pour être précis, on dira que ce jugement de probabilité est non-bayésien. Les croyances qui suivent une distribution de probabilité cohérente, et les décisions qui maximisent l’espérance probabiliste d’une fonction d’utilité cohérente, sont dites « bayésiennes ».

Ceci n’élucide pas complètement le problème du sens du mot « rationalité », pour deux raisons :

Premièrement, la quantité de calcul nécessaire à l’application des formalismes bayésiens à des problèmes du monde réel est démesurée. Personne ne peut vraiment appliquer toutes ces lois mathématiques, de même qu’aucun physicien ne peut déduire les cours de la bourse à partir de la trajectoire des quarks.

C’est pour ça qu’il y a tout un site appelé LessWrong [Moins Faux], et qu’on ne se contente pas d’y énoncer les axiomes en vous laissant faire le calcul. C’est tout un art que d’extraire la vérité et de réaliser ses valeurs à partir d’un esprit humain. Il nous faudra étudier nos défauts, triompher de nos biais, nous empêcher de nous mentir à nous-mêmes, nous maintenir en forme émotionnellement, etc. etc.

Deuxièmement, parfois, le sens même des mathématiques est remis en question. Par exemple, les règles de la théorie des probabilités se heurtent aux problèmes anthropiques, où le nombre d’observateurs est incertain. Les règles de la théorie de la décision sont remises en cause par leproblème de Newcomb, où d’autres agents pourraient prédire vos décisions.

Dans de tels cas, prétendre régler le problème en redéfinissant « rationnel » et en affirmant qu’une chose est rationnelle par définition est une perte de temps ; il vous reste à prouver que votre définition a un quelconque intérêt. La théorie des probabilités est plus que la Sainte Parole du grand Laplace. Les techniques bayésiennes de modification de croyance (avec des aprioris d’Occam) servent à rendre nos croyances plus exactes, à rapprocher notre carte du territoire. (Pour en savoir plus sur l’inutilité des arguments « par définition », voir ici et ici.)

Et il reste des questions auxquelles la théorie des probabilités ou la théorie de la décision ne répondent pas, comme par exemple ce que la vérité est censé nous faire ressentir. On peut se choisir une définition de « rationalité » en fonction de la réponse qu’on donne à cette question, mais pas le contraire.

Extrait de Douze Vertus de Rationalité :

Comment accroitre votre compréhension de la rationalité ? Pas en vous répétant « c’est mon devoir d’être rationnel. » Ce ne serait qu’entériner votre mécompréhension. Peut-être votre compréhension de la rationalité vous dit-elle qu’il est rationnel de croire les paroles du Grand Maitre. Lors, le Grand Maitre affirme « Le ciel est vert », et vous levez les yeux et observez un ciel bleu. Si vous vous dites « Le ciel a l’air bleu, mais pour être rationnel il faut croire aux paroles du Grand Maitre », vous perdez votre chance de découvrir votre erreur.

Ne demandez pas si faire l’une ou l’autre chose est « la Voie ». Demandez plutôt si le ciel est bleu ou vert. Qui trop discourt de la Voie, jamais ne l’atteint.

Vous pouvez attribuer aux grands principes des noms tels que « la carte qui reflète le territoire » ou « l’expérience de succès et d’échecs » ou « la théorie bayésienne de la décision ». Mais peut-être employez-vous les mauvais mots pour décrire ces vertus sans noms. Comment découvrir vous votre erreur ? Non pas en comparant votre description avec elle-même, mais en la comparant avec ce qui est décrit.

Nous ne sommes pas là pour débattre d’une définition, pas même de la définition du mot « rationnel ». Si l’on associe des séquences de lettres à des concepts spécifiques, c’est pour permettre à deux personnes de communiquer, c’est-à-dire pour permettre le transfert d’idées d’un esprit à l’autre. On ne peut pas changer la réalité, ni prouver une idée, en changeant les sens qu’on associe aux mots.

Si donc vous comprenez en gros ce que je veux dire par « rationalité » et par les expressions « rationalité épistémique » et « rationalité instrumentale », nous avons communiqués. Le but de cet article est accompli. Ce qui reste à discuter, ce n’est pas le sens des syllabes « ra-tio-na-li-té », mais comment penser correctement.

Ceci étant dit, sachez que beaucoup d’entre nous sommes pour le moins sceptiques de toute définition de « rationalité » qui la rendrait non-normative. Par exemple, si vous dites « X est la croyance rationnelle, mais Y est la croyance vraie », vous utilisez probablement le mot « rationnel » dans un sens très différent du nôtre. (En particulier, certains d’entre nous attendent d’une « rationalité » qu’elle soit cohérente en auto-analyse, c’est-à-dire qu’on doit parvenir à la même conclusion lorsqu’on étudie « rationnellement » des éléments de preuve et lorsqu’on étudie « rationnellement » la façon dont notre esprit traite les éléments de preuve.) De même, si dites « X est la chose rationnelle à faire, mais ce qu’il faut faire c’est Y », votre usage du mot « rationnel » ou « faut » ne correspond pas au nôtre.

Dans ce cas, ou dans tout autre situation qui risque de basculer en dispute sémantique, vous devez utiliser des termes plus précis. « Le plus sûr pour moi serait de m’enfuir, mais moralement je dois risquer ma vie pour te sauver ». Ou encore « Selon la version classique de la théorie causale de la décision, je suis censé prendre les deux boites du problème de Newcomb, mais je préfère avoir un million d’euros. »

« X est rationnel ! » signifie en général « Je crois que X est vrai » ou « Je crois que X est bien » dit avec plus de conviction. Alors pourquoi ne pas simplement dire « vrai » ou « bien » ? Parce que l’on veut parler des méthodes permettant systématiquement d’accéder à la vérité et à la victoire.

Le mot « rationnel » peut être délicat à utiliser, mais dans de nombreuses situations il convient parfaitement pour communiquer un certain concept. De même pour « irrationnel ». Nous l’y utiliserons donc sans crainte.

Il faut toutefois prendre garde à ne pas surutiliser ce mot. Il n’y a aucun mérite à le claironner. Qui trop discourt de la Voie, jamais ne l’atteint.

 

Original : What Do We Mean By “Rationality”? – Eliezer Yudkowsky, 16 mars 2009

Séquence : Carte et territoire