Philosophie Digitale

Posté par alpheccar le21 Jui 2005 à 19:45 CEST

Chaque époque a son paradigme dominant. Après Newton, ce fut la mécanique et l’on essayait de donner une explication mécanique pour tout. A tel point que l’on dit, et je ne sais pas si c’est seulement une légende, que Maxwell utilisa un modèle mécanique pour établir ses fameuses équations de l’électromagnétisme.

Bien entendu, cela ne signifie pas que Maxwell pensait réellement que l’électromagnétisme avait un fondement mécanique mais seulement qu’il a utilisé un langage avec lequel il était plus familier.

Notre époque n’échappe pas à ce phénomène et de nos jour le paradigme dominant c’est le digital : information, ordinateurs, algorithmes. La philosophie digitale c’est le courant de pensée qui tente de réécrire notre vision du monde à partir de ces concepts.

En physique d’abord, les tentatives pour unifier la relativité générale et la physique quantique pointent toutes vers cette hypothèse : le monde n’est pas continu mais discret. Un volume d’espace ne peut contenir qu’une quantité finie d’information et cette quantité semble proportionnelle à la surface englobant ce volume. C’est la conjecture holographique. D’un point de vue informationnel, le monde ne serait que bidimensionnel. Les physiciens commencent à dire que, finalement, Dieu n’est pas un mathématicien mais juste un programmeur et que l’Univers dans son ensemble n’est qu’une machine de traitement de l’information.

En maths, la vision digitale force à remettre en cause la notion même de nombre réels et la vision platonique des mathématiques. Les maths ne seraient finalement qu’une discipline expérimentale.

En philo, le problème fondamental de l’acquisition du savoir semble être relié à la notion de compression de l’information.

Dans tous ces domaines, la notion de calculabilité joue un rôle de plus en plus grand. Alors, commençons pas voir ce que signifie ce terme et ses implications en mathématiques. Après, nous explorerons les implications philosophiques de cette idée.

Calculabilité

Une chose est calculable si elle peut être décrite par une suite finie d’étapes élémentaires simples. Se pose donc la question de savoir ce qu’est une étape élémentaire simple d’où l’existence de plusieurs définitions de la notion de calculabilité. Or, il se trouve que jusqu’à présent toutes les définitions proposées se sont révélées être équivalentes. Que ce soit une machine de Turing universelle, le lambda calcul, un ordinateur quantique ... : tout ce qui est calculable selon une des définitions l’est aussi selon les autres définitions. La différence entre ces définitions n’est donc pas théorique mais juste pratique : on a des implémentations différentes qui permettent d’exprimer plus ou moins facilement certains algorithmes ou de les exécuter plus ou moins rapidement.

Ainsi, on peut faire l’hypothèse, appelée thèse de Church-Turing, qu’il n’existe pas une définition de la calculabilité qui serait non équivalente à celles déjà proposées.

Une chose est donc calculable si elle peut être décrite avec un algorithme écrit dans un formalisme particulier ou implémenté par un processus physique particulier car un algorithme c’est une suite finie d’étapes élémentaires simples : une recette.

En quoi cette notion de calculabilité peut-elle bien remettre en cause la notion de nombre réel et quels liens peut-elle avoir avec la philo ?

Nombres réels

Un nombre réel c’est soit un entier, une fraction (nombre rationnel) ou un nombre irrationnel (qui ne peut s’écrire sous forme de fraction). Par exemple, la racine de 2 qui mesure la longueur de la diagonale d’un carré de coté 1 est un nombre irrationnel. C’est aussi un nombre dit algébrique car il est solution d’une équation algébrique à coefficient rationnels : x^2-2=0.

Mais, la plupart des nombres réels sont en fait transcendant (comme pi ou e) : ils ne sont solution d’aucune équation algébrique à coefficients rationnels. Quand je dis la plupart cela signifie avec une probabilité 1 : si vous choisissez au hasard un nombre réel vous obtenez avec une probabilité 1 un nombre transcendant.

Les nombres réels sont non dénombrables donc vous ne pouvez donner un nom à chacun d’entre eux. Donc, les nombres que vous utilisez en pratique, que vous pouvez nommer, constituent une partie infinitésimale des nombres réels. Ces autres nombres réels dont l’existence a été prouvée à partir des axiomes utilisés par les mathématiciens sont pour la plupart transcendants. Mais, ils sont bien plus étranges encore.

Ils sont aussi non calculables avec une probabilité 1. Un nombre réel est non calculable s’il n’existe aucun algorithme qui peut générer toutes ses décimales.

Pire, ces nombres réels sont aléatoires avec une probabilité 1 : un nombre réel est aléatoire s’il n’existe aucun algorithme pour calculer ses N premières décimales et qui puisse s’exprimer de façon bien plus concise qu’en listant ces N décimales. Autrement dit : il n’y a pas de structure identifiable dans les décimales du nombre et qui permettrait de le décrire de façon plus concise.

Ainsi, la plupart des nombres réels ne peuvent être nommées, ne peuvent être calculés et sont aléatoires.

On peut commencer à mettre en doute la notion de nombre réel : en quoi peut-on dire que des entités aussi insaisissables sont réelles.

Ce qui vient d’être dit pour les réels peut être transposé dans le monde des théorèmes et démonstrations. Un système formel ce sont des règles de syntaxe, d’orthographe + des axiomes + des règles de grammaires permettant de produire des théorèmes à partir des axiomes. Autrement dit, un système formel c’est un algorithme de production de théorèmes écrit dans un langage particulier.

Or, il y a des assertions vraies mais qui sont non calculables : ce ne sont pas des théorèmes. Et, il y a des assertions vraies qui sont aléatoires : elles sont vraies “par hasard”. Elles ne peuvent donc pas être compressés. Il n’existe pas d’ensemble d’axiomes permettant de redémontrer la vérité de l’assertion et qui soient plus concis que l’assertion elle-même alors autant rajouter l’assertion à la liste d’axiomes puisqu’on ne pourra jamais la redériver à partir de structures plus simples.

Ainsi, rechercher la vérité s’apparente à une science expérimentale : je teste la valeur de vérité de certaines assertions sur des exemples. Je conjecture que l’assertion est vraie. Mais, il se peut que cela ne puisse être démontré avec les axiomes dont on dispose (non calculabilité) et que quel que soit le choix de mes axiomes je sois obligé d’avoir quelque chose d’aussi complexe que l’assertion elle-même pour pouvoir la démontrer (caractère aléatoire). Mais alors, en quoi ma compréhension a-t-elle progressé si mes nouveaux axiomes sont aussi complexes que ce que je cherche à démontrer ? Autant décider de rajouter l’assertion à ma liste d’axiomes et supposer qu’elle est vraie : je ne pourrais pas le démontrer à partir de quelque chose de plus simple. Ainsi, les maths sont donc forcément une science expérimentale par l’existence même d’assertions vraies “par hasard”.

Se pose donc le problème de savoir ce qui me donne l’impression que j’ai compris une chose ?

Epistémologie

Dans l’exemple précédent, on voit que le mathématicien semble avoir compris quelque chose lorsqu’il peut le redémontrer à partir d’éléments plus simples : les axiomes. Il n’est pas satisfait lorsque ses axiomes sont aussi complexes que ce qu’il cherche à démontrer car alors il a l’impression de ne pas avoir progressé. Ainsi, la compréhension semble être de la compression ! J’ai compris quelque chose lorsque je peux le redériver algorithmiquement à partir de concepts plus simples. Cette remarque ne s’applique pas seulement au monde des maths. Dans la vie de tous les jours c’est la même chose : on a compris quelque chose quand on peut le ramener à des concepts plus simples.

Détaillons un peu plus ce processus de compression/compréhension. Un processus aléatoire dans le monde réel peut être décrit en transmettant une information qui pourra être codée avec des 0 et des 1. On a donc un certain nombre de bits pour décrire le processus aléatoire (si ce processus est une suite de nombres alors on peut se contenter de communiquer simplement cette liste même si ce n’est pas optimal car il y a souvent une certaine redondance qui peut être facilement éliminée).

Mais, d’autre part on peut essayer de regénérer ce processus en utilisant un algorithme. Cet algorithme nécessite des bits pour sa description et le résultat de cet algorithme sera une approximation du processus. L’erreur de description résiduelle devra être décrite à son tour. Le cas précédent correspond à l’absence d’algorithme, à l’absence de compression où l’on donne les données brutes. L’erreur de prédiction y est maximum car il faut décrire totalement le processus.

Au total, la complexité du processus aléatoire est donné par le nombre total de bits : algorithme + description de l’erreur résiduelle.

Si l’on a beaucoup de bits pour l’algorithme et peu pour l’erreur résiduelle alors le processus est sur-spécifié. On a un algorithme très complexe, trop complexe.

Sinon, on a une sous-spécification : un algorithme simple mais trop simple ce qui fait que l’erreur résiduelle de prédiction est grande.

L’idéal est donc d’avoir un algorithme simple et une erreur résiduelle faible : on a alors une très bonne description du processus à partir de quelque chose de simple.

Acquérir du savoir, apprendre, avoir l’impression de comprendre ce serait donc être capable d’encoder un processus de la manière précédente en utilisant un nombre de bits largement inférieur à la description brute du phénomène. Comprendre c’est compresser l’information et apprendre c’est construire le processus de compression.

C’est bien l’hypothèse de Solomonoff et de sa fameuse induction : si vous avez une séquence de nombres a,b,c,d. Comment prédire le nombre le plus probable qui vient ensuite ? Solomonoff nous dit qu’il faut considérer tous les processus algorithmiques qui génèrent des suites de nombres dont les premiers termes sont a,b,c,d et attribuer ensuite une probabilité à chaque algorithme cette probabilité dépendant de la longueur de l’algorithme.

Il faut ensuite utiliser cette probabilité pour calculer le nombre le plus probable à venir dans la suite.

L’idée de cette induction c’est que la compression c’est la compréhension. Si j’ai une description d’un phénomène qui est très longue (beaucoup de bits) alors j’ai une grande flexibilité et je peux produire n’importe quoi : je n’ai pas vraiment compris le phénomène. Ce type de description ne m’apporte rien et ne me permet pas de prédire correctement ce qui est susceptible d’advenir dans le futur car je n’ai identifié aucune structure dans le phénomène. Donc, ces descriptions longues se voient attribuer une probabilité faible. Et, réciproquement, les descriptions courtes se voient attribuer une forte probabilité. Ce qui est nouvelle expression du fameux principe d’Ockham.

Mais, l’induction se ramène-t-elle seulement à de la compression ? N’y a-t-il pas autre chose ?

En fait, Solomonoff postule une probabilité pour les algorithmes. Le seul moyen de comprendre d’où vient cette probabilité est de se replacer dans le cadre de la théorie Bayesienne des probabilités. Dans cette théorie, une probabilité n’est pas une fréquence : c’est une plausibilité. Une sorte de généralisation des valeurs de vérité ; une logique floue. Cette théorie Bayesienne est une traduction de la façon dont fonctionne notre esprit. C’est une traduction du principe de non contradiction sur lequel repose nos interactions avec le monde extérieur.

Dans cette théorie, toute chaîne d’induction commence avec un état de non-savoir absolu : un vide informationnel. L’induction de Solomonoff nous dit comment on peut acquérir de nouvelles informations par l’observation mais elle ne nous dit pas comment commence la chaîne et d’où proviennent les probabilités initiales.

Ces probabilités initiales proviennent des symétries du vide informationnel. Comme en physique quantique, ce vide n’est pas le néant et il a une structure. Lorsque l’on démarre une chaîne d’induction on part toujours d’une représentation du monde qui possède des symétries et qui encodent ce que l’on ne sait pas.

Par exemple, si je considère un dé à six faces, peu importe si les faces se nomment 1,2,...,6 ou a,b,...,f ou si je change l’ordre des chiffres sur le dé. Tous ces états sont équivalents pour moi si je n’ai aucune information me permettant de différencier un état d’un autre (une face d’une autre). C’est bien cette absence d’information qui rend le problème symétrique et qui me force à donner une probabilité de 1/6 à chaque face ce qui n’est que la traduction de mon indifférence initiale vis-à-vis de chaque face.

Solomonoff fait la même chose avec les algorithmes. Ainsi, la notion d’algorithme, de calculabilité n’est pas suffisante à elle seule même si elle nous enseigne quelque chose d’intéressant sur les mécanismes d’apprentissage et de compréhension.

On peut aller plus loin et essayer de réduire le problème de l’attribution initiale des probabilités: les lois de probabilités encodent l’information que l’on a sur le monde réel et permettent d’inférer des observations. En théorie Bayesienne, on peut imaginer un moteur d’inférence probabiliste qui ne s’appliquerait plus au monde réel mais au moteur d’inférence précédent. Ainsi, on aurait des lois de probabilités qui permettent de faire des inférences sur les lois de probabilités à utiliser pour faire des inférences sur le monde réel : ce sont les distributions dites A^p (a priori). Avec cette approche, le problème n’est pas simplement repoussé mais il est simplifié. En effet, toutes les symétries traduisant notre indifférence vis-à-vis de différentes situations dans le monde réel proviennent en fait de l’utilisation de différentes distributions A^p (différents a priori sur le monde extérieur) et ces distributions A^p proviennent d’un état d’indifférence interne dont les symétries sont beaucoup plus restreintes. Ainsi, l’attribution des probabilités initiales pourrait peut-être être fixé ou se faire dans un espace plus réduit en considérant plusieurs niveaux d’inférence.

Conclusion

La philosophie digitale est un terme générique utilisé pour nommer cette nouvelle vision du monde tournant autour des notions d’algorithmes, de calculabilité et d’information. Cela couvre non seulement la philo mais aussi la physique et tous les domaines où finalement ces notions peuvent être utilisées (exemple : biologie).

Il faut probablement être prudent et ne pas imaginer, comme cela se produit à chaque changement de paradigme dominant, que ce nouveau va résoudre tous les problèmes. Mais, il ne faut pas non plus rejeter ses résultats qui sont souvent profonds.

Tags informatique théorique | philosophie | physique | mathématiques