PRINCIPES DE CONCEPTION DES CHATBOTS

PRINCIPE DE CONCEPTION  : « ÉTHIQUE PAR CONCEPTION » DES AGENTS CONVERSATIONNELS

Les concepteurs d’un agent conversationnel doivent analyser, en phase de conception, chacun des choix technologiques susceptibles de provoquer des tensions éthiques. Si une tension potentielle est identifiée, ils doivent envisager une solution technique visant à diminuer ou à faire disparaître la tension éthique, puis évaluer cette solution dans des contextes d’usage réalistes.

PRINCIPE DE CONCEPTION 2 :  RÉDUIRE LES BIAIS DANS LE LANGAGE

Pour réduire les biais dans le langage et tenter d’éviter les effets de discrimination, notamment culturels, les concepteurs doivent mettre en œuvre une solution technique à trois niveaux : dans la mise en œuvre de l’algorithme, dans la sélection des paramètres d’optimisation et dans le choix des données d’apprentissage et de validation pour les différents modules des agents conversationnels.

PRINCIPE DE CONCEPTION 3 : ÉNONCER LES FINALITÉS DU CHATBOT

Le concepteur doit veiller à ce qu’un agent conversationnel communique sa finalité à l’utilisateur de manière claire et aisément compréhensible au moment adéquat, par exemple au début ou à la fin de chaque conversation.

PRINCIPE DE CONCEPTION 4 : TRANSPARENCE ET TRAÇABILITÉ DU CHATBOT

L’agent conversationnel devrait pouvoir sauvegarder le contenu du dialogue à des fins de preuve en cas de litige. Cela introduit une tension entre les données privées et celles sauvegardées pour assurer la transparence des décisions du chatbot. L’architecture des chatbots, les connaissances utilisées et les stratégies de dialogue doivent être accessibles à toutes les parties concernées, notamment afin de faciliter le traitement d’éventuels problèmes juridiques. Cette préconisation pourrait déboucher sur une mesure d’ordre réglementaire définissant les conditions précises de son application.

 PRINCIPE DE CONCEPTION 5 : TRAITEMENT DES DONNÉES COLLECTÉES PAR LES AGENTS CONVERSATIONNELS

À l’image de l’encadrement existant des données de santé, il est nécessaire d’élaborer des règles éthiques et juridiques pour la collecte, le stockage et l’utilisation des traces linguistiques des interactions entre les agents conversationnels dans le respect du RGPD. PRINCIPE DE

CONCEPTION 6 :  INFORMER SUR LES CAPACITÉS DES AGENTS CONVERSATIONNELS Dans un souci de transparence, l’utilisateur doit être informé de manière adaptée, claire et compréhensible, oralement ou par écrit, de la collecte des données, des capacités de l’agent conversationnel liées à l’adaptation aux données qu’il collecte en cours d’utilisation et au profilage.

PRINCIPE DE CONCEPTION 7 : FAVORISER L’EXPLICABILITÉ DU COMPORTEMENT DU CHATBOT

Les concepteurs doivent développer des solutions favorisant la compréhension par les utilisateurs du comportement des agents conversationnels.

PRINCIPE DE CONCEPTION 8 :  RESPECTER LA PROPORTIONNALITÉ LORS DU DÉPLOIEMENT DES TECHNOLOGIES D’INFORMATIQUE AFFECTIVE DANS LES CHATBOTS

Pour réduire la projection spontanée d’émotions sur l’agent conversationnel et l’attribution d’une intériorité à ce système, le fabricant devrait respecter la proportionnalité et l’adéquation entre les finalités recherchées et le déploiement des technologies d’informatique affective, notamment la détection du comportement émotionnel des personnes et l’empathie artificielle du chatbot. Il doit également informer l’utilisateur des biais éventuels de l’anthropomorphisme