L’intelligence artificielle (IA) se situe à la région cruciale des territoires techniques et éthiques. C’est pourquoi, SAP, société européenne d’envergure internationale, a défini dès 2018 des grands principes directeurs devant guider l’utilisation de l’IA dans ses solutions. Force est de constater que l’établissement de tels principes est aujourd’hui une condition sine qua non de l’injection de l’IA dans le secteur public ; c’est-à-dire dans les mécanismes de prise de décision publique.
La confiance ne se décrète pas. Être en mesure de justifier l’apport et l’efficacité de l’intelligence artificielle dans une perspective d’action publique impose de démontrer qu’une IA, quelle que soit sa force, reste explicable, et que ses modèles d’apprentissage reposent sur des démarches d’élaboration contraintes par un horizon éthique clair, susceptible de générer une forme de consensus social.
À titre d’exemple : l’explicabilité, la capacité à expliquer un modèle, ses objectifs, ses logiques, ses mécanismes, et ses résultats, voire ses biais admis, soit, tout ce qui permet de comprendre comment les systèmes d’IA prennent des décisions, s’impose comme un prérequis naturel à toute utilisation de l’IA dans le secteur public. La mise en place de normes d’assurance qualité et de sécurité, de modèles de surveillance et de mécanismes de gouvernance, incluant des tests approfondis tout au long du cycle de vie de l’IA, permettra d’éviter les dérives et d’évaluer les résultats.
Il devra exister demain un corpus permettant aux citoyens d’obtenir des informations sur les systèmes d’IA actifs à l’occasion d’une prise de décision publique les affectant.
La sagesse devrait imposer d’exclure tout système d’IA qui serait lui-même exclusif d’une intervention humaine, sauf à vouloir s’affranchir à l’avenir de tout horizon d’auditabilité pour des pans entiers de décisions publiques. Dans le secteur public, l’explicabilité et la transparence doivent aller au-delà de la traçabilité technique des systèmes d’IA. Ils doivent demeurer intègres et directement accessibles à l’intelligence humaine.
Au même titre qu’il existe aujourd’hui des règles encadrant la transmission de documents publics aux citoyens, il devra exister demain un corpus frère permettant aux citoyens d’obtenir des informations sur les systèmes d’IA actifs à l’occasion d’une prise de décision publique les affectant.
SAP a toujours placé les personnes et les processus au cœur de son développement. Les systèmes d’IA qu’elle développe sont transparents : il est possible de comprendre comment les inférences sont générées et pourquoi des recommandations sont émises, tout en garantissant un niveau élevé de sécurité des données. En entraînant ses systèmes d’IA à partir de données secteurs et métiers étendues, SAP a fait le choix délibéré de développer une IA anthropocentrée, dans une perspective d’aide à la décision humaine et non de prise de décision.
