QUESTIONS ÉTHIQUES RELATIVES AUX USAGES DES CHATBOTS

QUESTIONS ÉTHIQUES RELATIVES AUX USAGES DES CHATBOTS

Les agents conversationnels sont de plus en plus intégrés dans différents aspects de la vie humaine. Leur utilisation soulève des tensions éthiques, ce qui pose la question de la responsabilité au sens de la philosophie morale. Celle ci est – et doit être – du ressort des êtres humains car la machine n’est pas un agent moral et ne doit en aucun cas être considérée comme une personne.

La responsabilité est ainsi partagée entre l’utilisateur d’un agent conversationnel, le concepteur (informaticien ou groupe d’informaticiens possédant des connaissances spécialisées), l’entraîneur La conception et l’utilisation des agents conversationnels actuellement déployés et de ceux qui le seront demain doit être interrogée à l’aune des questions éthiques.

Ainsi cet avis s’adresse-t-il aux chercheurs en informatique qui doivent s’interroger sur leurs méthodologies de conception et d’évaluation des agents conversationnels. Il s’adresse également aux industriels qui doivent prendre conscience des tensions d’éthique et de confiance, avec les conséquences qu’elles induisent sur le marché économique, et doivent soutenir des travaux permettant de les lever.

Enfin, cet avis s’adresse aussi aux autorités publiques qui doivent avoir la responsabilité d’accroître l’effort de formation et d’éducation, mais aussi d’évaluation des effets des agents conversationnels à court terme et des expérimentations à l’échelle de la société permettant de saisir leurs effets à long terme. L’approche de toutes ces parties prenantes doit se fonder sur la transparence et l’explicabilité pour garantir le respect des valeurs telles que l’autonomie humaine, la dignité et l’équité.

L’ensemble de leurs actions doit également correspondre au cadre « éthique par conception » préconisé par l’Union européenne. Le CNPEN a dégagé huit dimensions de réflexion éthique relatives aux usages des chatbots (chapitre II) et cinq dimensions relatives aux technologies (chapitre III), qui motivent les treize préconisations sur les usages, les dix principes de conception des chatbots et les onze questions de recherche formulés dans cet avis.

Parmi ces différents enjeux, les trois principales tensions concernent le statut des agents conversationnels, l’imitation du langage et des émotions par les chatbots et la prise de conscience par le public des capacités et limitations des agents conversationnels, y compris leur capacité à manipuler. La réalité technologique et les connaissances dans le domaine des agents conversationnels évoluent très rapidement.

De ce fait, la réflexion sur les enjeux d’éthique des agents conversationnels évoluera nécessairement pour prendre en compte les évolutions culturelles et technologiques induites. Cette réflexion devra être poursuivie à un horizon de trois à cinq ans. (individu ou groupe d’individus effectuant la sélection et le tri des données et l’optimisation du système d’apprentissage machine) et le fabricant (personne physique ou morale qui met un chatbot sur le marché).

Ce partage s’effectue au cas par cas, en fonction des aspects techniques et de l’implication de l’utilisateur, du concepteur et du fabricant dans chacune des situations qui provoquent des tensions éthiques. N’étant pas spécialistes en informatique, les utilisateurs ne connaissent que peu, voire pas du tout, les capacités des chatbots.

De plus, certaines capacités des agents conversationnels, encore au stade de développement et peu mises en œuvre, sont survendues par le marketing des technologies. Les croyances des utilisateurs sont souvent nourries par la fiction. Leur responsabilité peut toutefois être engagée dans certaines situations, notamment en cas d’usage malveillant ou maladroit.