L’IA: Peut-elle accéder à une forme de conscience?
.jpg)
Par Maledh Marrakchi - Durant la dernière décennie, des développements importants ont été enregistrés dans les applications de l’IA, des IA de plus en plus performantes dans des domaines spécifiques dépassant parfois les performances des meilleurs experts du domaine(1). Les développements spectaculaires de l’IA générative(2) et notamment des IA capables de couvrir plusieurs domaines et plusieurs modalités, comme ChatGPT(3) ou Gemini(4) ont ressuscité des interrogations anciennes sur la capacité ou non de doter une IA d’une certaine conscience artificielle.
Un évènement particulièrement marquant a remis cette question au-devant des agendas des équipes et laboratoires de recherche dans le domaine. Il s’agit d’une affaire survenue en 2022 avec un ingénieur chez Google, qui a fait la-une des journaux en affirmant que le robot conversationnel qu’il développait «LaMDA» selon le grand modèle de langage (LLM) à l’image de ChatGPT, était devenu sensible et affirme une certaine conscience(5).
Depuis, la question est souvent posée lors d’interviews avec les médias, où on demande ouvertement aux PDG d’entreprises technologiques s’ils pensent que leurs systèmes d’IA deviendront un jour conscients(6-7).
Actuellement, il n'y a pas d'IA consciente au sens où nous comprenons la conscience humaine, même si cette compréhension est encore balbutiante. Les systèmes d'intelligence artificielle actuels sont capables d'accomplir des tâches complexes, d'apprendre à partir de données, et de prendre des décisions, mais ils ne possèdent pas de conscience subjective ni d'expérience intérieure. Lors de notre interaction en langage naturel avec ces IA, on a l’impression qu’elles ont des sentiments et une conscience de leur existence, ce qui n’est qu’une projection de nous-mêmes qui n’a aucune réalité au sein du système d’IA. Si on pose la question à ChatGPT, s’il dispose d’une conscience, la réponse est très claire «Non, je n'ai pas de conscience. Je suis un programme informatique créé par OpenAI, et je n'ai pas de sensibilité, d'expérience subjective, ni de conscience propre. Je génère des réponses en fonction des modèles linguistiques appris pendant l'entraînement, mais je n'ai pas de compréhension, de perception ou de conscience au sens humain du terme. Je suis simplement un outil de traitement du langage naturel».
La question de la conscience a intéressé les philosophes et les scientifiques de tout temps et suscité beaucoup d’interrogations non encore totalement élucidées. Aussi la question de la « conscience artificielle »constitue-t-elle un sujet encore plus complexe et reste un défi majeur dans la recherche en intelligence artificielle(8).
Bien que certaines approches visent à simuler des aspects de la conscience, la véritable compréhension et reproduction de la conscience humaine restent des domaines de recherche éthiques et philosophiques actifs, avec des opinions divergentes sur la possibilité d'atteindre un jour une conscience artificielle authentique. La quête de la conscience artificielle représente un défi complexe, exploré à l'intersection de la philosophie, des neurosciences et de l'IA.
Souvent associées, l'intelligence et la conscience sont deux concepts distincts bien que liés dans le domaine de l'intelligence artificielle (IA) et de la cognition. L'intelligence se réfère à la capacité de comprendre, apprendre, résoudre des problèmes et s'adapter à des situations variées. Dans le contexte de l'IA, cela englobe la capacité d'un système à traiter des informations, à apprendre de l'expérience et à accomplir des tâches de manière autonome. Comme mentionné plus haut, l'intelligence artificielle peut démontrer des niveaux élevés d'intelligence sans nécessairement être consciente.
La conscience est souvent présentée comme la qualité subjective de l'expérience et de la perception. C'est la capacité de ressentir, d'être conscient de soi-même et de son environnement. Une entité consciente peut avoir une expérience subjective, des émotions et une compréhension de sa propre existence. Contrairement à l'intelligence, la conscience implique une dimension subjective et une certaine forme d'expérience intérieure.
Qu’est-ce que la conscience?
Le mot conscience est dérivé du mot latin «conscientia», indiquant «avoir la connaissance de». Il pourrait être utilisé avec différentes significations, pour indiquer l'expérience d'avoir fait quelque chose de mal ou de bien ou pour indiquer l'expérience de soi qui n'est pas immédiatement donnée mais est reconstruite dans la remémoration, la récapitulation et la mémoire(9).
Plusieurs définitions de la conscience sont données par les dictionnaires(10-11). Ces définitions font référence à deux aspects de la conscience, parfois au sein d'une même définition: le niveau de conscience et le contenu de la conscience. Le niveau de conscience fait référence au niveau de vigilance, ou d'éveil, ou d'être éveillé. Le contenu de la conscience fait référence à la perception consciente d'informations sensorielles internes et externes, de pensées, de décisions ou de métacognition (connaissance personnelle d'un individu sur ses capacités et ses fonctionnements cognitifs).
La plupart des scientifiques qui réfléchissent sur la conscience se réfèrent au contenu de la conscience. Ils visent non seulement à le définir, mais aussi comprendre comment et pourquoi il apparaît et comment il fonctionne. Ils développent des idées et des hypothèses sur la conscience avec beaucoup plus de détails qu'une simple définition dans un dictionnaire.
Au-delà de la dimension purement étymologique, l’étude de la «conscience» implique des réflexions de divers horizons et éclairages: des philosophes (et penseurs théologiques) en raison du caractère subjectif de la conscience, des spécialistes en neurosciences du fait du lien avec l’activité cérébrale, et des spécialistes en IA du fait de la volonté de donner existence à une conscience artificielle.
La conscience vue par la philosophie
La conscience, ainsi que le problème «mind-body» (problème philosophique concernant la relation entre la pensée et la conscience dans l’esprit humain et le corps), ont été appelés «le problème difficile» dans la philosophie de l'esprit(12). Définir la conscience d'une manière philosophiquement intéressante est un défi dans la mesure où il implique à la fois des questions philosophiques et scientifiques.
Dans les discussions philosophiques, la conscience soulève au moins trois sortes de questions : Quelle définition adoptée ? Quelle est la portée de la conscience (critères, extension à d’autres espèces)? Quelles sont les formes et/ou degrés de conscience?
Il semble qu’un grand consensus entre les philosophes émerge pour s’accorder sur l’existence de plusieurs niveaux de conscience, ceux-ci variant souvent d’un théoricien à l’autre, au fil des réflexions philosophiques et des découvertes scientifiques:
1- Conscience d’accès ou fonctionnelle
C’est la conscience de son environnement. Elle se réfère à la capacité à créer des représentations mentales qui serviront à la mise en place d’une action ou d’une pensée contrôlée rationnellement. Sous cette définition, la conscience peut être étendue jusqu’aux invertébrés, par exemple les insectes sociaux ou les céphalopodes (pieuvres etc.).
2- Conscience phénoménale
C’est l’expérience subjective et qualitative (qualia) des propriétés de l’environnement: l’herbe est verte, la pomme est ronde, le tonnerre fait du bruit… Selon Block(13), elle concerne le «ressenti»: les sentiments, les perceptions, les pensées, les désirs et les émotions mais pas la cognition ou l’intentionnalité ou «ce qui pourrait être codé dans un programme informatique». Il considère que les consciences fonctionnelle et phénoménale peuvent interagir, mais l’une peut exister sans l’autre. Il pense que des animaux peuvent avoir la conscience phénoménale sans la conscience fonctionnelle et qu’un robot pourrait avoir une conscience fonctionnelle sans la conscience phénoménale.
3- Conscience de soi
C’est la capacité à réfléchir sur ses actions et leurs conséquences et à percevoir son identité propre. Cela inclut généralement les capacités suivantes:
• La reconnaissance de soi, par exemple le «test du miroir» qui est utilisé pour étudier les animaux conscients de leur propre corps;
• La mémoire épisodique, ou mémoire autobiographique, qui permet qu’on puisse se souvenir d’un événement particulier et «voyager dans le temps» avec son esprit ;
• La métacognition ou conscience réflexive («je sais que je sais»): c’est la capacité à contrôler ses propres processus cognitifs, comme l’état de sa propre mémoire et de ses croyances ;
• La «lecture» d’états mentaux, qui permet par exemple de comprendre l’autre, le tromper, l’imiter… Cela comprend la théorie de l’esprit: la capacité à imaginer l’état mental de l’autre (ses intentions etc.).
Ces capacités ne sont pas nécessairement présentes en même temps selon les espèces. On relève généralement trois formes de conscience de soi selon les capacités cognitives des différentes espèces:
• La conscience corporelle de soi: la conscience que son corps est différent du reste de l’environnement et qu’il est soumis à son contrôle direct. Tout comme l’humain, les animaux sentients (ceux qui ont la capacité à ressentir la douleur et le plaisir, des désirs, des intentions et des émotions) possèdent tous cette conscience.
• La conscience sociale de soi: la conscience d’appartenir à un groupe social avec des attentes diverses selon la position sociale. Elle est présente chez l’homme et chez les animaux hautement sociaux.
• La conscience introspective: la conscience de certains de ses états mentaux, comme les sentiments, les désirs, les croyances. Longtemps considérée l’apanage de l’humain, des expériences commencent à montrer que ce n’est pas nécessairement le cas.
Le niveau de conscience de l’être humain lui permet d’être proactif, à la différence des animaux qui ont une conscience réactive, c’est-à-dire qui agissent par réflexe. En effet, l’Homme sait faire la différence entre le passé, le présent et l’avenir. Il mesure la portée des actes et les possibilités qui s’offrent à lui. Il peut travailler pour préparer demain. Il peut se fixer des buts, et adopter un certain comportement pour les atteindre(14).
La conscience chez l’Homme l’appelle à préparer le lendemain: cela le force à se projeter, à travailler. Elle le rend lucide par rapport à ce qui l’attend: la mort. Cela l’amène aussi à s’interroger sur les grandes questions qui le dépassent et qui concernent l’Univers, Dieu et le sens de la vie. La conscience, en donnant l’illusion à chacun qu’il est libre d’agir comme il le souhaite, fait naître au sein de chaque individu une foule de questions qui mènent à une certaine souffrance psychologique: sentiment de honte, peur des autres, peur de mal faire, sentiment de ne pas être à sa place… ou au contraire, orgueil, sentiment de toute-puissance, négation de l’autre, etc. Grace à sa conscience, l’Homme peut utiliser son intelligence pour devenir plus performant et s’adapter à son environnement.
Cependant, un débat continue à exister et partager les philosophes et les scientifiques sur la question centrale de savoir si la conscience humaine est le résultat de la matérialité du corps ou si elle transcende cette matérialité. De l’une ou l’autre des alternatives, découle des conséquences importantes tant philosophiques, que spirituelles, scientifiques et éthiques.
La conscience vue par les neurosciences
Le point de vue matérialiste se place dans l’hypothèse où tout ce qui est observé dans l’univers peut s’expliquer sans faire appel à une intervention divine ou spirituelle. La conscience humaine serait donc étroitement liée à la physiologie et à la biologie du cerveau. L'émergence de la conscience est intrinsèquement liée aux processus neuronaux du cerveau.
Avec le développement de la recherche en neurosciences et les outils conceptuels et expérimentaux adéquats, nous avons enregistré dès le début du 21ème siècle des avancées importantes dans le décryptage du support biologique de la conscience. Parmi ces avancées, les travaux de A. Damasio(15) qui a traité la question du dualisme entre le corps et l’esprit. Il a ainsi soutenu que René Descartes avait fait erreur en adoptant ce dualisme, et considère que les émotions guident le comportement et la prise de décision.
Les avancées en neurosciences ont aussi identifié des corrélats neuronaux associés à la conscience, soulignant l'importance de la matérialité biologique dans la compréhension de ce phénomène complexe.
D'un point de vue neurologique, la conscience comprend un spectre d'états allant des états physiologiques aux états de conscience altérée qui sont surveillés par des critères spécifiques inclus dans l'échelle de Glasgow, mais comprend également des états modifiés soit par auto-entraînement (méditation transcendantale), soit par la prise de médicaments.
Tous les scientifiques en neurosciences ne soutiennent pas forcément la thèse matérialiste dans la mesure où elle n’arrive pas encore à expliquer comment un système physique génère quelque chose de non-physique à savoir la conscience(16).
La prolifération des modèles explicatifs de la conscience(17) (théories de la récurrence, théories de l’unification structurale, théories unificatrices de l’espace de travail, théorie de l’information intégrée, théories des microconsciences, physique quantique, ...) témoigne de la complexité du sujet, mais aussi qu’il y a besoin d’un travail de recherche plus soutenu dans ce domaine pour voir émerger un modèle suffisamment solide pour intégrer ces différentes visions d’un même problème.
La conscience artificielle
La conscience artificielle (également connue sous le nom de conscience des machines ou de conscience synthétique) est un domaine de recherche visant à comprendre, modéliser et tester la possibilité de doter une Intelligence Artificielle d’une conscience. Cette perspective est confrontée à la question de savoir si une entité matérielle est nécessaire pour la conscience artificielle.
Certains soutiennent que la reproduction de la conscience nécessite la simulation précise des mécanismes biologiques, notamment la modélisation de réseaux neuronaux complexes et l'intégration de la plasticité synaptique. Cette approche matérialiste pour la conscience artificielle s'appuie sur la compréhension des corrélats neuronaux et cherche à imiter la complexité biologique pour créer des entités conscientes artificielles. L'émergence de la conscience artificielle est ainsi explorée à travers des modèles de réseaux neuronaux et des avancées en neuromorphisme, où la structure du cerveau est imitée dans des circuits électroniques.
En tant que tel, le cerveau humain est considéré comme un superordinateur, la conscience artificielle y serait alors comme un logiciel. Certains films de science-fiction ont construit sur cette idée la possibilité que l’ordinateur absorbe la conscience d’une personne.
Beaucoup de scientifiques ont imaginé très sérieusement que l’on pourrait dans l’avenir assurer la survie de l’être humain en transférant l’ensemble de son contenu mental dans des réseaux de neurones artificiels. Ils espèrent en faisant cela que la conscience va suivre. La conscience est très clairement perçue dans ces scénarios comme un logiciel qui peut éventuellement quitter le corps pour être transféré sur un autre support, ordinateur ou corps artificiel. Cette approche pose beaucoup de questionnements fondamentaux en relation avec la nature même d’un logiciel en tant qu’une suite d’instructions.
En réponse à ces défis, des approches fonctionnalistes et des modèles de conscience émergente ont été avancés, explorant la possibilité que la conscience puisse émerger indépendamment de la matérialité spécifique, pourvu que certaines fonctions cognitives soient remplies. Cette perspective remet en question la nécessité d'une entité matérielle spécifique et considère la possibilité de formes de conscience artificielle qui pourraient être radicalement différentes de la biologie humaine.
En 2023, un groupe de 19 chercheurs de différentes universités, a mené une étude envisageant la définition d’un ensemble d’indicateurs sur la base de différentes théories de la conscience, pour mesurer le degré de conscience d’un système d’IA sans se préoccuper à l’avance si le système dispose ou non d’une conscience. Ce travail(18) a identifié 14 indicateurs à partir de 6 théories établies sur la conscience et les a implémentés sur des architectures bien connues de systèmes d’IA existants.
Cependant, certains chercheurs influents en IA poursuivent actuellement des projets visant à accroître les capacités des IA en créant des systèmes plus susceptibles d’être conscients. L’équipe de Bengio, un des pionniers en IA récipiendaire du prix Alain Turing, s’est fixée comme objectif de s’inspirer (et de développer davantage) la recherche sur la science cognitive du traitement conscient, pour fournir une IA considérablement améliorée, avec des capacités observées chez l’humain grâce à un raisonnement de haut niveau. L’objectif ici est de créer des systèmes d’IA qui implémentent au moins certaines des fonctionnalités sous-jacentes de la conscience chez les humains.
De même, l’architecture proposée par LeCun, éminent chercheur en IA récipiendaire aussi du prix Alain Turing, pour l’intelligence autonome présente des caractéristiques telles qu’un modèle mondial de planification et un «configurateur», décrit comme un élément qui «prend les entrées de tous les autres modules et configure [les autres modules] pour la tâche à accomplir». LeCun suggère également que l’existence d’éléments comme ceux-ci dans le cerveau humain pourrait être responsable de ce qu’il appelle «l’illusion de conscience». Ce sont des exemples d’une pratique répandue et établie de longue date dans l’IA qui s’appuie sur les connaissances des sciences cognitives.
Dans toute cette effervescence autour de la conscience artificielle et l’IA consciente, la création de la conscience artificielle soulève des interrogations éthiques. Les implications morales de doter des entités artificielles de conscience, sont multiples telles que la préoccupation sur leur bien-être, sur leurs droits, sur la responsabilité des créateurs, et la nécessité de guider le développement de manière responsable. Ce sont autant de considérations éthiques cruciales qu’il est nécessaire d’adresser.
La recherche sur la conscience artificielle est à la croisée des chemins entre sciences, philosophie et éthique. La modélisation de la conscience, la simulation de processus mentaux, et la création de formes non biologiques de conscience sont autant d'aspects explorés pour conjuguer l'approche matérialiste avec le développement de la conscience artificielle. L'éthique joue un rôle central, exigeant une réflexion approfondie sur les implications de la création de la conscience artificielle sur le plan moral et social.
La recherche sur la conscience artificielle s'avère être un domaine dynamique et complexe. L'interaction entre l'approche matérialiste, les avancées en neurosciences, les perspectives philosophiques, et les considérations éthiques façonne ce débat fascinant. La convergence entre ces domaines offre la promesse de créer des entités conscientes artificielles (au moins au niveau de la conscience fonctionnelle), mais soulève simultanément des questions fondamentales sur la nature de la conscience et notre rôle en tant que créateurs dans ce domaine émergent de l'intelligence artificielle.
Maledh Marrakchi
1) https://www.youtube.com/watch?v=WXuK6gekU1Y
3) https://www.youtube.com/watch?v=RYg5Mz4_tf8
4) https://www.youtube.com/watch?v=Nim49bCvpbk
5) https://www.npr.org/2022/06/16/1105552435/google-ai-sentient
6) https://www.youtube.com/watch?v=K-VkMvBjP0c
7) https://www.youtube.com/watch?v=TUCnsS72Q9s
8) https://www.youtube.com/watch?v=lfzzHFTRXWQ
9) Cassin, B.; Apter, E.S.; Lezra, J. Dictionary of un translatables: a philosophical lexicon. Princeton, Oxford: Princeton University Press, 2014. (Translation-Transnation).
10) https://www.larousse.fr/dictionnaires/francais/conscience/18332
11) https://dictionnaire.lerobert.com/definition/conscience
12) Chalmers, D.J. The conscious mind in search of a fundamental theory. New York, Oxford: Oxford University Press, 1996. Philosophy of mind series.
13) Block N. (2004). Consciousness in R. Gregory (ed.) Oxford Companion to the Mind, second edition.
14) https://www.jepense.org/conscience-definition-philosophique/
15) Antonio R. Damasio ( Marcel Blanc), [« Descartes'error »], Paris, Odile Jacob, 2006 ( 1995), 368
16) https://hal.science/hal-03078367
17) Eccles,J.(1997).Comment la conscience contrôle le cerveau.(Fayard).
18) https://arxiv.org/abs/2308.08708
- Ecrire un commentaire
- Commenter
