Les chatbots de demain : enjeux et perspectives pour l’administration publique française

Très récemment, le déploiement des chatbots dans le secteur public s’est accéléré et les potentialités ouvertes à l’avenir sont nombreuses. Les chatbots permettent en effet, de répondre de manière immédiate et réactive à une problématique de gestion des données de plus en plus prégnante.

Dans cet article, nous aborderons premièrement l’intérêt des chatbots pour le secteur public ainsi que les défis techniques à soulever. Ensuite, nous verrons que l’implémentation des chatbots soulève des enjeux majeurs qui doivent être adressés pour assurer l’efficacité et pérennité du service. Nous allons explorer quatre enjeux déterminants : l’interopérabilité, l’interaction, la sécurité et l’éthique sociale. Enfin, nous illustrerons les perspectives très prometteuses pour le secteur public en nous appuyant sur les premiers constats observés dans le domaine de la santé et qui peuvent être extrapolés à d’autres champs de la sphère publique.

Les chatbots d’aujourd’hui et de demain au service de l’administration publique française

Ces dernières années, l’administration publique française a vu le déploiement de plusieurs chatbots. En 2018, le CISIRH (Centre interministériel de services informatiques relatifs aux ressources humaines) a bénéficié du développement par Sopra HR Software du chatbot « Rebecca », en capacité de gérer les règles de gestion RH complexes inhérentes aux spécificités du secteur public. Parmi les utilisateurs de ce chatbot dans la sphère publique, figurent notamment les Ministères de l’Ecologie, de la Culture, de la Transition Ecologique et Solidaire ainsi que les Services du Premier Ministre. Citons également, la même année, le cas de l’AIFE (Agence pour l’informatique financière de l’Etat) qui n’a pas rencontré d’obstacles majeurs à la mise en œuvre de son chatbot « ClaudIA » ayant vocation à améliorer le support et l’expérience utilisateur dans le cadre de la prise en main du portail Chorus Pro.

Ces exemples démontrent la bonne capacité d’une partie de l’administration publique à s’emparer des bénéfices inhérents à la mise en place des chatbots.

Les chatbots déployés aujourd’hui ont pour objectif principal de répondre à des problématiques dont le scénario est relativement prédéfini et prévisible en amont (par exemple des difficultés de connexion pour ClaudIA ou encore des règles de gestion RH préexistantes pour Rebecca). Si ces chatbots permettent de se substituer à la fois à la réalisation de tâches fastidieuses avec un rapport de rigueur et de délai inégalable par l’homme et d’obtenir des résultats très satisfaisants, la marge de progression reste grande.

Pour les administrations et plus spécialement l’administration française, des travaux importants liés à la mise à disposition, à l’accessibilité et au nettoyage d’un volume massif de données sont à envisager. L’enjeu majeur repose sur la labellisation de ces données pour en permettre une utilisation optimale (fiabilité et facilitation de l’analyse).  En anglais, le terme data tagging fait référence à cette amélioration de l’efficacité liée à l’organisation de l’information par le biais de « tags » ou de mots clés. En effet, la connaissance de certaines informations comme la source, les niveaux de valeur et de fiabilité apparaît comme indispensable en amont de leur exploitation.  Ainsi cette bonne gestion des données permet d’envisager l’utilisation de techniques de data-mining (exploration des données) constituant la base de l’informatique cognitive (ou cognitive computing).

Les systèmes d’informatique cognitive permettent la construction de systèmes dits « apprenants » (technique du machine learning) qui améliorent les performances des algorithmes par renforcement, au gré des informations qu’ils intègrent. A un degré encore plus élevé d’analyse de la donnée, le deep learning permet l’apprentissage profond, basé sur des réseaux de neurones artificiels. Le chatbot Léonard développé par la société Chronopost (Groupe La Poste) utilise cette technique de machine learning, et nourrit son intelligence de ses interactions avec les utilisateurs. Au fil du temps, ces systèmes peuvent résoudre des problèmes de plus en plus complexes avec un degré de précision et de fiabilité croissant. Dès lors, on conçoit aisément les bénéfices supplémentaires (traitement automatique d’un nombre croissant de demandes et amélioration progressive de la satisfaction client) que les chatbots intégrant ces nouvelles technologies pourront apporter.

---

« Les chatbots sont aujourd’hui rentrés dans les mœurs. Trois enjeux majeurs restent cependant à adresser :

La verbalisation via l’amélioration et l’optimisation permanente de l’analyse sémantique qui représente un enjeu « sous-contrôle » avec un nombre important d’acteurs concernés par le sujet.

La conscientisation via l’entraînement des algorithmes pour répondre aux requêtes. Il est constaté une explosion des méthodes d’apprentissage non-supervisé avec pour objectif de combiner finesse de prédiction (Véracité) et échantillonnage de données (Vélocité)

Le Deep Knowledge avec un apprentissage qui doit prendre en compte la profondeur (variété, volumes) des schémas et des données requêtées. Cela implique des données clairement identifiées, structurées et gouvernées. Les meilleurs modèles ne produiront jamais rien sans des données organisées. »

Yves TUET, Associé, et Gilles TUET, Consultant, Artimon Data Management

---

Néanmoins, pour parvenir à mettre en œuvre ces technologies de manière la plus intégrée à son écosystème, l’administration publique sera confrontée à plusieurs enjeux de taille et amenée à supporter certains risques.

Les enjeux majeurs à relever pour l’implémentation des chatbots dans le secteur public en France

Nous avons identifié quatre enjeux majeurs inhérents à la mise en œuvre des chatbots de demain :

L’interopérabilité, prérequis indispensable à un fonctionnement optimal des technologies supportant les chatbots

Les technologies mises en œuvre pour accroître le potentiel des chatbots présentent comme prérequis l’accessibilité aux données. A notre époque, et le secteur public ne fait pas exception à la règle, l’enjeu se situe moins dans l’existence de la donnée que dans la capacité à la récupérer, la consolider et l’analyser.

Certains éditeurs de chatbots ont d’ores et déjà très clairement identifié cet enjeu d’interopérabilité et réfléchissent à la mise en œuvre d’interfaces communes (« data-trusts ») notamment entre plusieurs chatbots opérant dans une même organisation et s’adressant à une population identifiée (par exemple, les collaborateurs de l’entreprise). La problématique concerne donc la norme et les standards techniques des données utilisées. Au niveau étatique en France, où l’on ne comptait pas moins de quinze réseaux interministériels distincts auparavant, la mise en place du réseau interministériel de l’Etat (RIE), inauguré en 2015, a constitué une étape importante dans la construction d’un système d’information unifié.

Dès lors, dans une réflexion de déploiement à plus grande échelle des chatbots au service du citoyen et intégrant des technologies de plus en plus évoluées, l’interopérabilité entre les différentes sources de données est le prérequis qui permettrait de générer une valeur ajoutée la plus importante possible.  Dans la feuille de route 2019-2021 de la direction de programme TECH.GOUV de la DINUM (Direction interministérielle du numérique), nous retrouvons, parmi les 35 actions prioritaires, celle consistant à « Créer une plateforme d’échange de données inter-administrations ». Nul doute que la mise en œuvre de cette plateforme, prévue à échéance 2021, pourrait trouver ses applications concrètes dans le déploiement des chatbots de demain. Plusieurs actions ont également vocation à renforcer le réseau interministériel de l’Etat démontrant ainsi la nécessité de fluidifier les échanges entre les sources d’information.

L’interaction, fondement de la relation avec le chatbot

Si les technologies évoluent, le but ultime de la mise en place de techniques d’intelligence artificielle au sens large (où les chatbots peuvent être considérés comme des manifestations concrètes au service de l’humain), reste de chercher à atteindre la « perfection », à savoir la reproduction de ce qui n’est pas reproductible par nature : la cognition humaine. Cela concerne plus spécialement certaines des caractéristiques de la cognition sociale humaine et notamment ce qui est peut-être regroupé sous le terme de théorie de l’esprit (« la capacité de se représenter et attribuer à autrui des intentions, désirs, émotions et plus généralement un état mental qui permet de comprendre le comportement d’autrui mais aussi de l’anticiper », Montel 2016) ainsi que l’empathie. Plus qu’ailleurs, dans le service au public, la transposition de ces compétences, au plus haut niveau possible, doit être recherchée. Cela est d’autant plus vrai dans notre pays où la notion de service public est élevée au rang de « mythe » (Chevallier, 2005). La mise en place d’agents conversationnels en lieu et place de certains agents devra ainsi garantir la conservation d’un degré de satisfaction des citoyens aussi élevé que celui existant. Dans le secteur public, les échanges citoyen-agent touchent fréquemment la sphère très personnelle voire intime (santé, emploi, logement, situation administrative, financière et familiale) et les enjeux à adresser se situent au croisement de ces différentes dimensions d’empathie et émotion, fortement corrélées. Ainsi, la force des chatbots résiderait dans leur capacité à saisir ces éléments (via l’interaction) et à faire des liens entre les données disponibles. A terme, l’objectif est d’aller encore plus loin que la seule réponse à la requête utilisateur et parvenir à faire des prédictions.             

Fin janvier 2020, Google a dévoilé son nouveau chatbot, baptisé Meena, reposant sur le modèle du deep learning, et qui présente apparemment un degré de pertinence, fiabilité et sensibilité langagière jamais égalé. Ses applications concrètes seront suivies de près…

Un autre aspect apparaissant intéressant à apprivoiser pour les organisations publiques, dont la raison d’être est de développer des services user-centrés, s’inscrit dans la théorie de l’expansion des canaux (Carlson et Zmud, 1999) : l’expérience d’un média augmente sa richesse perçue. C’est donc bien la relation dynamique entre l’objet-média et l’utilisateur qui donne sa valeur au média. Cette relation n’est donc ni objective (elle dépend du rapport de chacun à l’objet) ni fixe (elle s’enrichit au fil du temps). Les études menées à ce sujet démontrent que, dans le cadre de leurs interactions avec les institutions, les citoyens ont tendance à utiliser un type ou un autre de canal selon la nature de la finalité attendue (qui peut aller de la simple édition d’un formulaire électronique au traitement d’une demande beaucoup plus personnalisée et complexe) (Madsen & Kraemmergaard, 2015). Quatre critères sont susceptibles de varier pour définir la richesse d’un média : la vitesse de réaction, la variété des canaux disponibles, la personnalisation possible ainsi que la richesse du langage (Draft et Lengel, 1984).

Lors de la mise en place d’un chatbot, ces caractéristiques liées à la fois à la nature de la demande et à l’attente du citoyen constituent des paramètres cruciaux dans la prise de décision de déploiement ou non d’un chatbot et dans le type de technologie retenue.

La sécurité, au centre de la gestion des données

Fin 2019, la CNIL (Commission nationale de l’informatique et des libertés) a publié un guide de sensibilisation au RGPD à destination des collectivités territoriales. Ce guide attire l’attention sur le fait que si « le développement de services en ligne constitue un levier majeur de la modernisation de l’action publique … respecter les règles de protection des données est un facteur de transparence et de confiance à l’égard des administrés et des agents ». Il s’agit là du volet relatif aux données personnelles, mais l’enjeu portant sur la sécurité est large. En effet, les perspectives multiples de partage des données soulèvent de nouvelles problématiques.

A titre d’exemple, dès 2001 le gouvernement estonien a mis en place la technologie X-Road pour sécuriser le partage des données entre systèmes d’information. Les différentes organisations publiques utilisant la technologie peuvent accéder aux données souhaitées dans le respect total des critères de confidentialité (la donnée reste sur son support de stockage), d’intégrité, de traçabilité (par l’identification de l’auteur de chaque action) et d’interopérabilité des données.

La technologie de la Blockchain apparaît également comme une potentielle opportunité pour faire face à ces enjeux. Elle repose sur un protocole de distribution de la donnée au sein duquel la responsabilité de la détention est partagée entre plusieurs acteurs. Elle se caractérise également par une consignation inaltérable de chaque transaction. Ainsi, la technologie crée de la confiance de manière inhérente à son principe de fonctionnement.

Par ailleurs, il faut également considérer que si le déploiement de technologies basées sur l’intelligence artificielle peut être source d’angoisse pour les organisations qui en sont propriétaires et/ou utilisatrices, elles peuvent également être un support au développement d’outils de cybersécurité (en permettant la détection précoce des intrusions et du vol d’informations).

L’éthique sociétale

Les enjeux éthiques ne sont pas nouveaux en ce qui concerne le déploiement des chatbots. Néanmoins, la sensibilité à ces derniers est d’autant plus élevée dans le secteur public et dans un pays comme la France où le respect de certains principes (dignité humaine, respect de la vie privée) est fondateur et doit continuer à être considéré comme non négociable. Ainsi, la mesure de la valeur dégagée par la mise en place de ces chatbots doit reposer sur une méthodologie holistique (notamment pour les chatbots opérant dans la sphère de la protection sociale), intégrant dans la mesure du possible le maximum de dimensions possibles (prise en compte du profil de l’utilisateur – âge, géographie, etc.-, choix du ton à donner, limites dans la complexité des cas à gérer, etc.) et n’en négligeant aucune. Personne n’a oublié le cas d’école du chatbot « Tay » de Microsoft déployé sur Twitter et dont les failles l’avaient conduit à proférer des propos sexistes et racistes.

Il convient d’être particulièrement prudent sur les utilisations de ces chatbot dont les conséquences pourront être non négligeables sur la vie des personnes impliquées dans les décisions. Plusieurs entreprises ont identifié le domaine de la justice comme étant porteur pour la mise en place de chatbot. En effet, l’exploitation de l’« open data » de la jurisprudence pourrait permettre de gagner un temps conséquent dans l’analyse des contentieux et conduire à prendre a priori des décisions plus égalitaires. Cependant, l’Estonie, qui apparaît comme précurseur en la matière avec la mise en place de « robots-juges » a d’ores et déjà alerté sur le fait que l’utilisation de ces chatbots ne pourra se faire sans l’économie d’une supervision humaine.  L’utilisation du logiciel Compas aux Etats-Unis comme aide à la décision pour les juges a été décrié, dû à sa propension à conduire à des analyses racistes dans l’évaluation du risque de récidive.

Pour le secteur public, la ligne de conduite à suivre et à intégrer avant la mise en œuvre, réside dans le fait que l’éthique et l’empathie ne devraient jamais être reléguées au second plan sous couvert de garantie d’une efficacité aussi élevée soit-elle. C’est la base du principe d’éthique « by design ». De nombreux pays ont d’ores et déjà anticipé ces enjeux sociétaux en institutionnalisant la discipline. Ainsi, en 2018 le Royaume Uni a créé un conseil de l’IA, dans le cadre du lancement d’un Artificial Intelligence Sector Deal (porté par le bureau de l’Intelligence Artificielle) et qui a vocation à garantir le déploiement des technologies reposant sur l’Intelligence Artificielle dans une optique bénéfique pour la société. D’autre part, les Emirats Arabes Unis sont le premier pays à s’être doté en 2017 d’un ministère de l’intelligence artificielle. En France, l’ANSSI (Agence nationale de la sécurité des systèmes d’information) et la CNIL font partie des régulateurs mais le dialogue avec les autorités sectorielles pourrait être renforcé (Villani, 2018). Il pourrait également être imaginé la création d’un coordinateur interministériel sur le sujet (Villani, 2018).

Des perspectives prometteuses pour l’administration publique française : exemple d’application dans le domaine de la Santé

A l’été 2019, la DINSIC (ex-DINUM) et la DITP (Direction interministérielle de la transformation publique) ont dévoilé les différents projets lauréats du deuxième appel à manifestation d’intérêt « Intelligence artificielle ». Les expérimentations touchent des domaines variés qui vont de la santé à la gestion d’informations administratives, en passant par l’environnement, la justice et la géographie des territoires mais également la sécurité intérieure ou encore la sûreté nucléaire. Les domaines d’application sont multiples et ne semblent pas devoir être limités.

La santé apparaît comme étant un champ d’application particulièrement propice au déploiement des chatbots, avec un accompagnement du citoyen qui pourrait se faire tout au long de son parcours de vie et sur des dimensions variées (prévention, diagnostic, soins, suivi des constantes médicales, prise en charge de la dépendance, etc.). Dans ce domaine, les quatre enjeux exposés précédemment sont cruciaux et repris dans le rapport « Accélérer le virage numérique » publié dans le cadre du plan MaSanté2022. Les éléments de diagnostic de ce dernier font entre autres état d’une offre de service riche mais très morcelée, d’une nécessité de prendre en compte l’éthique dès sa conception et de problématiques identifiées d’interopérabilité.

A travers de nombreuses applications existantes (Dossier Médical Partagé, Portail Ameli, messageries des professionnels de santé, etc.), les institutions de santé détiennent un nombre très important d’informations sur le parcours de santé de chacun d’entre nous. Au regard du potentiel des technologies qui peuvent être implémentées au sein des chatbots à l’avenir, et qui est fortement corrélé au volume d’informations accessibles, c’est bien l’accès à cette exhaustivité qui doit être recherché en priorité.

L’administration publique française fait état d’autres domaines révélant des caractéristiques similaires au secteur de la santé et qui pourraient bénéficier de la mise en place des chatbots. C’est notamment le cas de l’éducation nationale, de la protection sociale au sens large (emploi, aides diverses, logement, etc.) ou encore de la sécurité, secteurs qui se situent au carrefour de multiples sources d’information dont les liens restent à exploiter.

Concernant la nature de l’interaction avec le citoyen-patient et considérant que ce dernier est potentiellement en situation de vulnérabilité et/ou d’urgence vitale au moment de ces interactions, l’empathie humaine n’est probablement pas substituable. Néanmoins, la capacité du chatbot à « intuitionner » de manière la plus proche possible de l’humain tout en lui garantissant des garde-fous scientifiques pourrait lui permettre d’être au service du patient ou du professionnel de santé de manière remarquablement efficace. Il a même été démontré un impact fort de la personnalité simulée par le chatbot sur la nature des interactions (Tay B, Jung Y & Park T., 2014) suggérant la profondeur de la réflexion qui peut être nécessaire lors de l’implémentation d’un chatbot en santé. Si le domaine de la santé peut être considéré dans un premier abord comme s’appliquant au plus près de la sensibilité et de l’intimité du citoyen, toute interaction avec un être humain (sur quelque sujet qu’elle puisse porter) met en jeu la complexité et la subjectivité qui lui est propre. Ainsi, de nombreuses recherches dans le domaine de l’éducation (et plus particulièrement de l’apprentissage) mettent en évidence l’efficacité d’une méthode d’apprentissage adaptée au profil d’apprentissage de son utilisateur. Dans le secteur des transports, le chatbot OUIbot de la SNCF intègre ces dimensions de chaleur et d’agréabilité. Le succès d’un chatbot, dès lors qu’il aura vocation à servir le citoyen, ne pourra advenir qu’en prenant en compte la diversité et la variabilité de l’être humain.

Dans le champ de la sécurisation des données, les enjeux en santé sont également prégnants. Les problématiques d’information du patient, d’anonymisation, de partage et de stockage des données ne peuvent être occultées s’il est souhaité garantir le respect du cadre législatif en vigueur et développer la confiance de l’utilisateur (patient comme professionnel de santé). Cette confiance est indispensable à gagner lorsque l’on garde en tête que le chatbot n’est qu’une machine s’enrichissant à mesure de son fonctionnement et du volume de données fiables engrangé. Par ailleurs, en santé plus qu’ailleurs, la coopération patient/professionnel de santé basée sur une relation de confiance constitue un paramètre essentiel du recueil d’une information au plus proche de la réalité vécue et scientifique. Elle doit donc être conservée dans la relation qui s’établira entre le chatbot et ses utilisateurs.

Enfin, les principes éthiques applicables en médecine (l’autonomie, la bienfaisance, la non-malfaisance et la justice), peuvent également s’appliquer à toutes technologies mises en œuvre au service du citoyen dans le domaine de la santé, comme le rappelle le rapport « Accélérer le virage numérique ».

Ces derniers enjeux de sécurité des données et d’éthique sont applicables à l’ensemble des domaines publics qui pourront être concernés par le déploiement des chatbots. Pour que le déploiement des chatbots apporte à l’administration publique française des atouts à la hauteur de l’investissement, elle devra être en capacité de prouver, en toute transparence, que la confidentialité des données utilisées sera respectée et plus encore que le but recherché est bien uniquement celui qui se situe au croisement de l’intérêt individuel et du bien commun.

L’administration publique française est parvenue à s’approprier les chatbots à travers de premiers déploiements et expérimentations réussis. Le potentiel lié aux nouvelles technologies (machine learning, deep learning) qui se sophistiquent et pourront s’intégrer dans les chatbots de demain est important pour le secteur public. Cela est valable aussi bien en termes de service délivré aux usagers que d’amélioration du suivi des politiques publics (budget et performance notamment). Dans le domaine de la santé ou encore de la justice, c’est la notion de prédictivité qui est en jeu en automatisant les analyses et en croisant les informations.  Certains prérequis doivent cependant être respectés avec en premier lieu l’interopérabilité entre les différentes sources d’information, qui permettra d’accéder à l’exhaustivité des informations disponibles. En effet, les nouvelles technologies évoquées placent la donnée au centre de leur modèle. Par ailleurs, l’interaction, au fondement de la relation de service public, constitue un point crucial à considérer pour assurer l’adoption des chatbots par les citoyens. La sécurité et l’éthique peuvent être considérés comme risques et entraves potentiels mais il apparaît indispensable de les concevoir également comme leviers de l’adoption des chatbots par les citoyens, leur conférant ainsi un rôle de clé du succès.

La mise en place des chatbots dans l’administration publique française présente également un potentiel important du fait de la diversité des domaines que ces derniers pourront adresser et du nombre de citoyens qui seront potentiellement concernés. Il n’en reste pas moins que cette amplitude en fait également un champ dans lequel les enjeux d’interopérabilité (multiplicité des sources d’information), d’interaction (caractère fondamental de la relation de confiance), de sécurisation de la donnée (criticité et confidentialité de l’information) et d’éthique sociale (aucun droit à l’erreur) sont particulièrement complexes à adresser. L’exemple du secteur de la santé, étant donné la sensibilité des informations qu’il recouvre, illustre parfaitement l’attention à apporter à ces enjeux.

---

Bibliographie :

Livre blanc chatbot, du Lab-esante , 19 février 2020

Anticiper les chatbots de demain, GFI World , 5 février 2020

Cognitive Computing In The Next Decade Of AI  de Thomas Caldwell, Forbes, Février 2020

Expérience collaborateur » et « Expérience client » : comment l’entreprise peut-elle utiliser l’Intelligence Artificielle pour progresser ?  de Soufyane Frimousse et Jean-Marie Peretti. 2019. Question(s) de management n° 23(1): 135‑56.

Guide de sensibilisation au RGPD pour les collectivités territoriales, CNIL

How and Where Is Artificial Intelligence in the Public Sector Going ? A Literature Review and Research Agenda ». 2019. Government Information Quarterly 36(4): 101392.

Understanding Artificial Intelligence Ethics and Safety: A Guide for the Responsible Design and Implementation of AI Systems in the Public Sector Leslie, David. 2019. Zenodo. (10 février 2020).

Les sept profils d’apprentissage : Pour former, enseigner et apprendre de Michel, J.-F. (2013). Editions Eyrolles.

AI for the Public Sector: Opportunities and Challenges of Cross-Sector Collaboration de Slava Jankin Mikhaylov, Marc Esteve, et Averill Campion. RoyalSocietyPublishing. 2018.

Why Chatbots Need Blockchain. Aurosikha Priyadarshini. 2019. Medium (18 février 2020).

TECH.GOUV : Stratégie et feuille de route 2019-2021 , 18 février 2020.

TECH-GOUV_2019-2021.pdf , 18 février 2020.

Transforming the Communication between Citizens and Government through AI-Guided Chatbots . 2019. Government Information Quarterly 36(2): 358‑67.