J'ai vu des dizaines de chercheurs et de passionnés d'intelligence artificielle s'enfermer pendant des mois dans des débats stériles, pensant qu'ils allaient craquer le code de la conscience subjective en empilant des couches de neurones artificiels. Ils finissent par produire des rapports de 200 pages qui ne sont que du vent, car ils ignorent le cœur du problème soulevé par Thomas Nagel. On ne compte plus les projets de recherche qui ont englouti des budgets de 50 000 euros ou plus pour tenter de simuler une expérience vécue, alors qu'ils n'ont même pas compris la barrière fondamentale posée par What Is It Like To Be A Bat. Si vous pensez qu'ajouter de la puissance de calcul suffira à transformer une fonction mathématique en un ressenti personnel, vous êtes sur le point de commettre l'erreur la plus coûteuse de votre carrière.
L'illusion de la réduction physique totale
L'erreur la plus fréquente consiste à croire que si l'on décrit chaque synapse, chaque décharge électrique et chaque réaction chimique dans le cerveau d'un organisme, on a expliqué son expérience. C'est le piège du réductionnisme facile. J'ai accompagné une équipe qui tentait de modéliser le système sonar d'un chiroptère en pensant qu'en reproduisant les ondes et le traitement du signal, ils comprendraient la perception de l'animal. Ils ont passé trois ans à peaufiner des algorithmes de traitement spatial pour finalement se rendre compte que la structure physique ne leur donnait aucune information sur la qualité du ressenti.
Le problème n'est pas un manque de données. C'est un fossé conceptuel. Vous pouvez cartographier le cerveau d'un animal avec une précision de 1 nanomètre, vous n'aurez toujours que des faits objectifs vus de l'extérieur. L'expérience subjective, elle, est irrémédiablement liée à un point de vue unique. En ignorant cela, vous dépensez des ressources pour construire un miroir alors que vous essayez de voir ce qu'il y a derrière le mur.
Le danger de l'anthropomorphisme dans le concept de What Is It Like To Be A Bat
Quand on essaie d'imaginer la vie d'une autre créature, on fait presque toujours la même erreur : on s'imagine soi-même avec des ailes ou un sonar. C'est l'échec central que dénonce l'article de 1974. Si vous vous demandez ce que ça vous ferait à vous de passer vos nuits pendu par les pieds, vous ne faites que de la fiction. Vous n'atteignez pas la réalité de l'autre.
Dans le cadre du développement de produits technologiques, cette erreur se traduit par des interfaces "intuitives" qui ne le sont que pour leur concepteur. J'ai vu une start-up perdre tout son capital d'amorçage parce qu'elle refusait d'admettre que ses utilisateurs n'avaient pas le même modèle mental que ses ingénieurs. Ils pensaient avoir compris l'expérience utilisateur, mais ils ne faisaient que projeter leur propre subjectivité. La solution ne réside pas dans l'imagination, mais dans la reconnaissance des limites de notre propre structure mentale. Nous sommes prisonniers de notre propre équipement sensoriel et cognitif.
L'erreur de croire que l'IA va résoudre le fossé explicatif
Il existe une croyance naïve selon laquelle une IA suffisamment complexe finira par "sentir" quelque chose. C'est une confusion entre performance et présence. Une machine peut battre n'importe qui aux échecs ou rédiger des poèmes sans jamais éprouver la moindre émotion ou sensation. Dans mon expérience, les ingénieurs qui ignorent la philosophie de l'esprit finissent par créer des systèmes qui simulent la conscience de manière superficielle, ce qui conduit à des erreurs de sécurité majeures ou à des attentes irréalistes de la part des investisseurs.
La distinction entre le "quoi" et le "comment"
Le "comment" est une affaire d'ingénierie : comment les signaux sont transmis, comment l'information est stockée. Le "quoi", c'est-à-dire l'effet que cela fait, reste inaccessible par les méthodes classiques de la science dure. Si votre stratégie repose sur l'idée que la conscience émergera comme un effet secondaire gratuit de la complexité, vous naviguez à vue sans boussole. J'ai vu des architectures logicielles s'effondrer sous leur propre poids parce que les concepteurs cherchaient à reproduire une "âme" numérique au lieu de se concentrer sur des fonctions vérifiables.
Pourquoi votre approche de What Is It Like To Be A Bat est probablement biaisée
L'article original de Nagel nous force à affronter le caractère subjectif de l'expérience, mais la plupart des gens essaient de contourner cette difficulté en la transformant en un problème de langage. Ils pensent que s'ils trouvent les bons mots, ils pourront transmettre le ressenti. C'est faux. Le langage est un outil de communication de faits objectifs ou de conventions partagées. Il ne peut pas transporter la qualité brute d'une sensation d'un cerveau à un autre si ces deux cerveaux n'ont pas la même structure de base.
Pour corriger ce tir, il faut accepter que certaines vérités ne sont pas accessibles de manière universelle. Dans la gestion de projet, cela signifie qu'il faut arrêter de chercher un consensus absolu sur des éléments qualitatifs. Au lieu de cela, concentrez-vous sur ce qui est mesurable et reconnaissez explicitement les zones de subjectivité pure comme étant hors de portée de vos outils de contrôle.
Comparaison pratique : l'approche naïve contre l'approche pragmatique
Prenons l'exemple d'une entreprise développant un système de vision nocturne pour les secouristes.
L'approche naïve (le gouffre financier) : L'équipe décide d'essayer de "reproduire la vision du chat". Ils passent des mois à étudier la physiologie féline, installent des capteurs qui imitent la courbure de l'œil du chat et tentent de créer un rendu d'image qui "semble" animal. Ils organisent des sessions de brainstorming pour imaginer comment un chat perçoit le mouvement. Résultat : deux ans de recherche, un prototype coûteux, une image floue et peu pratique, et une utilité nulle pour les secouristes sur le terrain. Ils ont tenté de résoudre le problème phénoménologique au lieu du problème technique.
L'approche pragmatique (le succès réel) : L'équipe admet d'emblée qu'elle ne saura jamais ce que ressent un chat. Elle se concentre sur les besoins spécifiques des secouristes : détection de chaleur, contraste élevé dans l'obscurité totale et réduction du bruit visuel. Elle utilise des technologies éprouvées comme le LiDAR et l'infrarouge thermique, sans chercher à "imiter" une conscience animale. Elle livre un produit fonctionnel en six mois pour une fraction du coût. Ils ont respecté la barrière de la subjectivité en se concentrant sur les faits physiques et les résultats objectifs.
La différence ici n'est pas seulement technique, elle est philosophique. La première équipe a poursuivi un mirage, la seconde a construit un outil.
Le piège de la phénoménologie de comptoir
Beaucoup de gens pensent que parce qu'ils ont lu quelques articles sur la conscience, ils peuvent intégrer ces concepts dans leur stratégie d'entreprise ou de développement. C'est ainsi que l'on se retrouve avec des départements de "Bonheur au travail" ou des "Expériences Immersives" qui n'ont absolument aucune base solide. J'ai vu des consultants facturer des milliers d'euros pour des ateliers sur l'empathie radicale basés sur l'idée que l'on peut se mettre "totalement" à la place de l'autre.
C'est une erreur de jugement dangereuse. L'empathie a ses limites physiques. Vous pouvez comprendre la situation d'un collaborateur, mais vous ne vivrez jamais sa douleur ou sa fatigue. En prétendant le contraire, vous créez des attentes déçues et un management hypocrite. La solution est de remplacer cette fausse proximité par un respect des structures et des processus qui protègent l'individu, précisément parce que son expérience interne nous est fermée.
Réalité brute : ce qu'il faut pour vraiment intégrer ce sujet
Soyons honnêtes. Si vous cherchez une méthode pour briser la barrière de la subjectivité et enfin savoir ce que cela fait d'être autre chose que vous-même, vous perdez votre temps. Il n'existe aucun outil, aucune drogue et aucune technologie qui permette cela à l'heure actuelle. La science n'a même pas de théorie consensuelle sur ce qu'est la conscience, alors prétendre la manipuler ou la reproduire est au mieux audacieux, au pire malhonnête.
Ceux qui réussissent dans les domaines liés à la perception, à l'IA ou à la psychologie sont ceux qui acceptent ce vide. Ils ne cherchent pas à le combler avec des théories fumeuses. Ils travaillent autour. Ils savent que la seule façon d'avancer est de traiter les systèmes (humains ou machines) comme des "boîtes noires" dont on peut observer les entrées et les sorties, sans jamais prétendre posséder la clé de la boîte.
Si vous voulez économiser de l'argent et éviter des années de frustration, suivez ces principes :
- Cessez de financer des projets dont le succès dépend de la résolution d'un problème philosophique vieux de plusieurs siècles.
- Méfiez-vous des experts qui utilisent un jargon complexe pour masquer le fait qu'ils ne font que deviner ce que ressentent les autres.
- Investissez dans le mesurable : les comportements, les résultats, les réactions physiologiques. Laissez la subjectivité pure aux romanciers.
- Rappelez-vous que la structure physique limite les possibilités mentales. Vous ne pouvez pas faire tourner un logiciel de conscience humaine sur un matériel qui n'a pas la même complexité biologique.
La réussite ne vient pas de la résolution du mystère de la conscience, mais de la capacité à agir efficacement malgré ce mystère. Acceptez que vous resterez toujours de votre côté de la barrière. C'est en reconnaissant cette limite que vous deviendrez enfin un professionnel sérieux dans ce domaine. Tout le reste n'est que littérature et budgets gaspillés.
