Peu de temps après que l’apocalypse soi-disant prophétisée par les Mayas n’ait pas eu lieu en 2012, un autre scénario d’horreur est devenu populaire : la domination mondiale des « Terminator », c’est-à-dire des machines intelligentes, qui, pendant longtemps, ont fait l’actualité chaque jour pire moment. La mesure dans laquelle la peur des superordinateurs est répandue est démontrée par une enquête menée par la Society for Innovative Market Research (GIM) commandée par le groupe Bosch.

Selon l’étude, publiée en 2020, 82 % des citoyens allemands craignent une surveillance généralisée par l’intelligence artificielle (IA). Un nombre similaire (79 %) pense que les systèmes techniques prendraient des décisions contraires à l’éthique, et trois répondants sur quatre voient notre sécurité menacée par la puissance croissante des machines à action autonome. Le fait que « Big Brother » surveille notre salon et notre chambre est pour la plupart une réalité ressentie depuis longtemps. La maîtrise des bits et des octets est-elle imminente?

Cette question soulève une question technique : l’IA est-elle, en principe, capable de faire quelque chose comme ça ? D’une certaine manière, oui. Des algorithmes intelligents sont déjà utilisés, par exemple, comme outils d’espionnage et de manipulation, par des individus et des organisations poursuivant différents objectifs. Cependant, cela ne signifie pas que l’IA elle-même aspire à quelque chose de proche de la domination.

Les philosophes de la technologie discutent de cette question sous le terme « intentionnalité », c’est-à-dire la qualité d’exécution d’actions délibérées et orientées objet. De nombreux auteurs considèrent l’intentionnalité comme une composante permanente de la conscience.

L’intentionnalité est principalement attribuée aux états mentaux, tels que les perceptions, les croyances ou les désirs. L’idée sous-jacente est que nous pouvons toujours nous adresser à des objets individuels sélectionnés, mais jamais au monde dans son ensemble. Lorsque nous pensons ou ressentons, nous utilisons une sorte de « réflecteurs » qui éclairent des sections limitées du monde ; pas tout à la fois, comme le fait le Soleil. Ce qui entre dans notre conscience (perceptions, pensées, sentiments ou autres contenus d’expérience) a dans chaque cas des propriétés expérientielles subjectives, également appelées qualia (par exemple, la sensation de douleur ou la perception de la La couleur rouge).

Bien que le concept soit issu de la scolastique médiévale, le débat moderne sur l’intentionnalité remonte au philosophe et psychologue Franz Brentano (1838-1917). Dans son livre Psychology from the Empirical Point of View (1874), il soutient que l’intentionnalité est la caractéristique essentielle de tous les actes de connaissance : ils sont toujours référés à l’objet, c’est-à-dire dirigés vers quelque chose.

Pour Brentano, une caractéristique fondamentale du mental est de s’adresser ou de se référer à un objet. Par exemple, si je pense que « la pomme est sur la table », cela fait référence aux objets pomme et table, ainsi qu’à leur relation spatiale entre eux. En ce qui concerne cet état de choses, la pensée peut être vraie ou fausse. Brentano considérait donc l’intentionnalité comme quelque chose d’exclusivement psychique : « Aucun phénomène physique ne montre quoi que ce soit de semblable.

En revanche, les matérialistes réduisent les états mentaux – et donc intentionnels – aux états physiques. De son point de vue, penser à une table ou à une pomme dépend de certaines circonstances physiques de mon cerveau. Que ceux-ci puissent également être attribués à l’intentionnalité est une question ouverte.Les matérialistes assimilent les pensées à des événements neuronaux. D’autres, au contraire, soutiennent qu’un processus dans le cerveau n’est intentionnel que si le sens, les motifs et la vérité peuvent être expliqués également sans états mentaux (par exemple, en faisant allusion au fait qu’ils se produisent simplement dans le langage des neurones ou de machines). De ce point de vue, l’IA (surtout celle basée sur les structures neuronales) aurait une intentionnalité.

Mais comment une telle caractéristique de l’intelligence artificielle pourrait-elle être confirmée ? Qu’est-ce qui pourrait servir de preuve ? Déjà en 1950, le mathématicien Alan Turing (1912-1954) mettait au point le test qui porte aujourd’hui son nom : le test de Turing. Dans celui-ci, une personne est assise devant un ordinateur et communique avec deux interlocuteurs inconnus. L’un est un être humain; l’autre, un ordinateur. La personne pose des questions auxquelles répondent à la fois l’humain et l’ordinateur. Si vous ne savez pas si les réponses proviennent d’une personne ou d’un ordinateur, ce dernier a réussi le test. Selon Turing, il faut alors reconnaître que la machine possède une intelligence au même sens que son partenaire humain.

Google a présenté une nouvelle interprétation du test de Turing lors d’une conférence des développeurs en 2018 avec son système Duplex. Cette IA est capable de passer des appels téléphoniques avec une voix humaine, de sorte que l’utilisateur peut à peine reconnaître qu’il ne s’agit pas d’une personne. Cependant, cela a certaines limites : dès que vous souhaitez parler à Duplex d’autre chose que des prises de rendez-vous qu’il gère, l’IA ne fonctionne pas. Cependant, dans le cadre défini, les humains et les IA ne se distinguent pas facilement. Alors, Duplex a-t-il réussi le test de Turing?

Une critique évidente de cette procédure est que le test de Turing repose sur la prémisse que la pensée et l’intentionnalité d’un ordinateur peuvent être confirmées par une évaluation humaine. Le philosophe John Searle l’a déjà remis en question dans son article « Minds, Brains and Programs » de 1980.

Pour ce faire, il proposa l’expérience mentale de la chambre chinoise. Supposons qu’une personne se trouve dans une pièce remplie de livres. Maintenant, une feuille de papier avec des caractères chinois écrits dessus est passée sous la porte. Les livres dans la pièce expliquent dans la langue maternelle de la personne quels caractères de la feuille doivent être « répondus » avec quels autres symboles. Sans connaître un seul des symboles, c’est-à-dire sans rien comprendre du tout, la personne parvient à écrire des réponses significatives sur papier. Quelqu’un qui parle couramment le chinois à l’extérieur de la pièce devrait supposer que la personne à l’intérieur connaît la signification des caractères.

Avec cette analogie, Searle a souligné un fait simple : les ordinateurs suivent des instructions sur la façon dont les signes doivent être manipulés et comment réagir de manière appropriée selon certaines règles. Ainsi, un mouvement de souris sur un écran peut signifier que la formule du binôme est appliquée ou que des expressions dans un chat sont reconnues comme discours de haine et bloquées. Mais l’ordinateur « sait-il » ce qu’il fait? Non. Il ne comprend rien du tout.

Les systèmes des machines ne connaissent pas les liaisons mécaniques, ni communicantes ou autres. Le sens de leurs réactions ne relève que de l’intentionnalité humaine. En d’autres termes : si un véhicule autonome freine pour éviter de heurter un piéton, cet « arrêt » vient de l’être humain. Les raisons et considérations juridiques, sociales ou morales ne sont connues que de nous.

Pour Searle, l’intentionnalité ne repose pas uniquement sur la compréhension du sens. Elle est plutôt liée à certains « actes de langage ». Dans la théorie des actes de langage de Searle, les actes de communication doivent être interprétés comme des actions. Le langage humain, au-delà de la grammaire et du sens, a toujours un but intentionnel, absent des systèmes de signes mécaniques.

Avec Paul Grice et d’autres théoriciens, Searle a développé la thèse selon laquelle l’intentionnalité ne se manifeste que dans la capacité d’utiliser le langage de manière dirigée. Cela survient lorsqu’une personne poursuit une intention qui la fait parler. Par exemple, une mère et Amazon Alexa peuvent répondre avec les mêmes mots lorsqu’un enfant crie « Aïe ! » : « Oh, désolé, je peux t’aider ? » Le contenu de sens, cependant, pourrait difficilement être plus différent: empathie et attention, d’une part ; une simple formule de courtoisie programmée, d’autre part.

Certains apologistes de l’IA soutiennent que cela n’est vrai que pour «l’IA faible», car elle ne peut offrir que les résultats qui lui ont été précédemment fournis. Tel est le cas des IA existantes à ce jour : que ce soit pour sélectionner un candidat, pour diagnostiquer un cancer ou pour la conduite autonome (toutes les décisions dont de tels systèmes sont capables sont basées sur des routines de calcul que l’homme a imaginées). .

Une autre chose est « l’IA forte ». Ici, les humains ne donnent que la poussée initiale. Tous les schémas de structuration et de réaction ultérieurs sont générés par l’IA elle-même. Par conséquent, disent-ils, il pourrait également développer une intentionnalité propre – cependant, cette possibilité n’est jusqu’à présent qu’une hypothèse. Toutes les dystopies selon lesquelles de tels systèmes pourraient soumettre ou exterminer l’humanité sont de la pure science-fiction.

Pourtant, les prédictions les plus prudentes sur la façon dont l’IA changera notre monde valent plus que la peine d’être prises en compte. Une étude de l’Institute for the Future of Humanity, d’Oxford, publiée en 2018, prévoyait qu’au cours des années 2020 de nombreux métiers seraient assurés par des machines : de la traduction de textes à la conduite de camions. L’IA pourrait même conquérir les palmarès des best-sellers avec ses propres chansons ou écrire des nouvelles et des best-sellers. Vu comme ça, il semble pénétrer les zones humaines originelles.

Au vu des possibilités techniques sans cesse croissantes, on se dit que l’IA va bientôt conquérir le dernier bastion de l’humain : l’intentionnalité. Mais l’attribution de cela est le résultat d’un besoin humain primordial. En tant qu’êtres sociaux, nous dépendons autant de ne pas perdre de vue nos propres intentions que nous les attribuons également à nos partenaires respectifs.

Une société sans intentionnalité qui lui sert de fondement serait non seulement dysfonctionnelle, mais aussi dénuée de sens : seule elle me permet de comprendre la personne dans le miroir comme « moi ». Comme l’ont montré des psychologues du développement dans les années 1970, les bébés reconnaissent après quelques mois de vie qu’un point rouge dans une image miroir provient d’un point similaire sur leur front. Ils renvoient le point à eux-mêmes.

Puisqu’il n’existe actuellement aucune autre méthode comparable pour prouver l’intentionnalité, il est très difficile de l' »interroger » en IA. L’intelligence, en revanche, est plus facile à mesurer. Une équipe de chercheurs chinois a développé en 2016 une méthode qui pourrait rendre comparables les QI des systèmes artificiels et naturels. L’IA assistante de Google n’a donc marqué que 50 (environ le niveau d’un tout-petit). Cependant, cette attribution est, au mieux, une indication faible, et en aucun cas suffisante, pour prouver l’intention d’une IA.

Ceci n’est peut-être qu’un autre exemple de la manière dont notre propre pensée influence notre vision de la réalité. Que nous attribuions l’intentionnalité à l’IA est un acte d’anthropomorphisation et, par conséquent, d’humanisation. Nous, les humains, considérons l’IA comme intentionnelle parce que nous le sommes nous-mêmes.

Les doutes quant à la capacité des machines à développer l’intentionnalité se nourrissent également d’une autre source : la logique. Étant donné que calculer et penser sont des processus fondamentalement différents, il faut supposer que ce n’est qu’à partir du premier que l’on n’arrive jamais au second. Les opérations de calcul ne vont pas au-delà des prémisses établies pour elles ; l’esprit humain, par contre, grâce à l’intentionnalité, a la capacité de se réfléchir.

L’intentionnalité constitue une faculté humaine originelle. Elle crée la possibilité de reconnaître le sens, auquel nous seuls avons accès en tant qu’êtres pensants et sociaux. La domination mondiale de l’IA devrait donc rester un cauchemar hollywoodien à l’avenir également.

Previous articleChips aux cils artificiels
Next articleMapas del calor urbano