La dimension technique

Que peut-on déléguer ?

Il y a au moins trois façons de répondre à la question de savoir ce qui peut – en principe ou en pratique – être délégué par les êtres humains à la machine. Bien évidemment, une telle question se continue dans le débat sur la possibilité d’une intelligence artificielle, la tâche à déléguer étant limitée par les capacités / performances de la machine censée l’accomplir. Deux de ces trois positions relèvent donc directement des discussions autour de cette vielle idée de l’automate pensant. La première façon de voir le problème est celle des représentants de l’intelligence artificielle classique [McCulloch / Pitts 1988 ; Turing 1950 ; McCarthy 1959 ; etc.], parfois appelée « IA forte » (strong AI) 131, dont la position consiste à regarder la question de l’intelligence, et donc aussi celle de la capacité / les performances de la machine dans un contexte fonctionnel plus précis, comme une question purement technique. Cette transposition se fait par le biais d’une conception de l’intelligence comme mouvement de résolution de problèmes d’ordre symbolique (problem-solving) qui avance par la formulation et l’exécution de plans, concept qu’on identifie à la notion d’algorithme [cf. Agre 1997]. Cette opération, plus sémantique que conceptuelle, permet par la suite de voir la quête d’intelligence comme l’accumulation de programmes toujours plus performants qui s’approchent davantage à chaque nouvelle étape de l’idéal incarné par l’être humain. Dans cette perspective – dont Agre [1997] à sûrement fait la critique la plus puissante et la mieux informée – la question de ce qui peut être délégué à une machine impose de diviser le champ des tâches à transférer en « déjà possible » et « pas encore possible ». Le passage du deuxième champ au premier, c’est-à-dire la simulation future de comportements encore hors de portée aujourd’hui, est perçu comme une simple question de temps. Nous avons déjà rencontrée cette position dans les articles de Turing [1950] et Licklider [1960] pour qui il ne fait aucun doute qu’un jour la machine sera au moins aussi intelligente que l’être humain. Alors, tout pourra lui être délégué et l’être humain sera obsolète. Bien que la conviction que ce but puisse être atteint bientôt soit peu répandue dans le champ de l’IA, des représentants de l’IA forte comme Ray Kurzweil [1999] et Marvin Minsky [2005] sont persuadés qu’à un moment donné, tous les problèmes seront résolus.Une deuxième perspective sur la question a été formulée dans le domaine philosophique et notamment autour du travail de deux auteurs. John Searle [1984] essaya de montrer dans sa fameuse expérience de la « chambre chinoise » qu’il n’est pas possible de réduire la sémantique à la syntaxe et qu’il faut un cerveau humain pour « produire » un esprit (mind).132 Hubert Dreyfus [1993] présenta une critique analogue de l’IA, mais en se concentrant sur la mise en cause du paradigme symbolicoinformationnel sur lequel repose l’approche informatique de la question de l’intelligence. Ces deux positions philosophiques affirment que les ordinateurs sont fondamentalement différents des êtres humains et ne pourront, de ce fait, jamais simuler une intelligence qui recourt aux fonctions mentales les plus avancées. Selon ces deux auteurs, même les expériences qui suggèrent qu’une intelligence existe dans la machine ne peuvent pas invalider le fait qu’une machine ne produit jamais de « vraie » intelligence mais uniquement des comportements prédéfinis par de malins programmeurs. Dans une telle optique, il semble possible de déléguer certaines tâches simples, mais dès qu’une analyse un peu plus « sémantique » devient nécessaire, l’être humain paraît définitivement irremplaçable. La différence entre ces deux positions parfaitement antithétiques se fonde sur l’opposition directe et complète de leurs conceptions respectives de l’être humain. La première prétend que toute la pensée est réductible à une question de traitement symbolique tandis que la deuxième souligne que le paradigme « cognitif » est naïf et réducteur, qu’il n’aboutira jamais à ce qu’il recherche car il se base sur une méconnaissance complète de la nature humaine. Cette nature ne se résumerait pas en un traitement par processus mais comprendrait des phénomènes psychiques, sociaux, culturels et émotionnels complexes dont la simulation ne pourrait qu’échouer. Les deux positions se rejoignent pourtant par leur posture essentialiste. Elles ont chacune une idée très forte de l’être humain et, par conséquent, du phénomène de l’intelligence. Chacune avance donc des affirmations musclées et dogmatiques sur un terrain qui reste cependant en grande partie en dehors de la connaissance humaine. 

La morphologie des actions

Dans « The Shape of Actions. What Humans and Machines Can Do. » (La forme des actions. Ce que les êtres humains et les machines peuvent faire.), Collins et Kusch choisissent une approche très différente des perspectives classiques que nous venons de résumer schématiquement. Le sous-titre de l’ouvrage indique déjà son orientation pragmatique : les auteurs ne se proposent pas de définir ce que c’est l’intelligence, mais de donner un concept puissant mais flexible de « ce que les êtres humains et les machines peuvent faire ». Le point de départ est ainsi marqué et il ne consiste ni en une interrogation sur la cognition, ni en une contemplation de la nature du raisonnement (bien que ces deux dimensions aient joué leur rôle par la suite), mais en l’élaboration d’une morphologie des actions intentionnelles. Ce projet ne prend pourtant pas en compte les actions tout court, mais les étudie telles qu’elles se présentent à un observateur externe. Par le biais de la fonction de l’observateur les auteurs distinguent donc deux types fondamentaux : les actions mimeomorphes et les actions polymorphes. Au premier coup d’œil, la base qui supporte / soutient ces définitions paraît peu intuitive : la séparation se fait par rapport à la nécessité ou l’absence de nécessité d’être membre d’une culture pour reconnaître une action dans un comportement, c’est-à-dire un pur mouvement moteur. « La distinction entre les actions polymorphes et mimeomorphes peut être vue […] comme une distinction basée sur la question de savoir qui (en principe) est capable d’y voir de l’ordre ; qui est capable de former des jugements raisonnables à propos de la similitude des comportements qu’il perçoit. Dans le cas des actions polymorphes, seuls les membres d’une culture donnée peuvent voir la similitude correctement ; dans le cas des actions mimeomorphes, des observateurs non membres de cette culture pourraient la voir aussi. » [Collins / Kusch 1998, p. 29] Une action doit être qualifiée de mimeomorphe quand le comportement répété par quelqu’un qui n’en connaît pas la signification culturelle (p.ex. un extraterrestre) donnerait à quelqu’un qui la connaît l’impression que la personne est en train de la reproduire. Prenons un exemple : l’imitation purement comportementale de l’action « écrire son nom » (par quelqu’un qui ne sait pas ce qu’il est en train de faire) donnerait à quelqu’un qui sait ce que c’est l’impression qu’il s’agit bien de cette action ; elle est donc mimeomorphe. L’action « divorcer » par contre ne peut pas être reconnue à travers la seule imitation du mouvement corporel impliqué, c’est-à-dire la signature d’une série de documents juridiques ; il s’agit donc d’une action polymorphe. La distinction peut également se révéler à travers un deuxième « test » qui consiste à déterminer qui peut en principe reconnaître que deux actions sont similaires ou identiques. Encore un exemple : deux réalisations d’une action mimeomorphe comme « crier » peuvent être reconnues, pour quelqu’un qui n’est pas membre de la culture local, comme étant le même geste. Dans le cas d’« insulter quelqu’un » c’est tout de suite plus compliqué parce qu’il y a maintes façons de le faire. Mais un membre de la culture occidental peut tout de suite reconnaître que faire une grimace à quelqu’un ou traiter cette personne d’idiot sont deux émanations de la même action. Pour quelqu’un qui ne connaît pas les codes sociaux impliqués, il n’y a aucune similarité entre les deux et il serait impossible à cette personne de les classer dans le même registre. Voilà pourquoi une action polymorphe peut être réalisée, en principe, par un nombre illimité de comportements Métatechnologies et délégation – (mouvements ou gestes). Et inversement, le même comportement (p. ex. « signer ») peut faire partie d’un grand nombre d’actions polymorphes : écrire un chèque, dédier un livre, divorcer, etc. Dans le cas d’une action mimeomorphe, le rapport entre la dimension d’action et celle de comportement est plus étroit et la répétition exacte du mouvement musculaire peut même être recherchée : tout le secret du golf consiste pour le joueur à reproduire exactement la volée et tout artisan cherche à maîtriser ses gestes avec le plus de précision possible. Un constat s’impose et les auteurs le font explicitement : les ordinateurs peuvent évidemment très bien fonctionner dans le mimeomorphe mais sont incapables du polymorphe. En quoi cette perspective est-elle donc différente de celle proposée par Searle et Dreyfus ? Ne revient-elle également à installer une ligne de partage dure entre les êtres humains et les machines, une autre frontière essentialiste qui conteste à tout jamais la prétention des ordinateurs à l’intelligence ? Il est certainement vrai que Collins et Kusch ne font pas partie de ceux qui ramènent tout agir dans le registre de la planification et toute pensée dans celui du traitement d’information. Pour eux, une action se fait toujours dans un contexte culturel et sémantique. Il est aussi vrai que leur approche installe une frontière importante entre l’humain et le non-humain. Mais toute une série de subtilités intervient pour la rendre bien plus souple qu’elle ne paraît au premier abord. La séparation des deux genres d’actions est conceptuelle et non pas empirique. En « réalité », chaque action, chaque pratique, est composée de ces deux genres et Collins et Kusch conçoivent ces actions comme des arborescences dont la partie supérieure relève toujours d’un niveau « culturel » ou polymorphe, et la partie inférieure d’un niveau « moteur » ou mimeomorphe ; au milieu, il existe une épaisse zone intermédiaire où se mélangent les deux formes. Or, il y a dans chaque action polymorphe des actions mimeomorphes et chaque action mimeomorphe s’insère dans le contexte d’une vie sociale et culturelle, c’est-à-dire dans du polymorphe.