L’Institut Henri Fayol est fier d’annoncer que son projet dénommé ACCELER-AI (Co-construction adaptative et pérenne de l’éthique pour une IA de confiance) a été retenu par l’ANR.
L’objectif d’ACCELER-AI est de permettre la co-construction adaptative de l’éthique dans et pour un système intelligent pérenne répondant aux exigences présentées ci-après.
Les porteurs du projet partent du constat que les applications de l’IA peuvent avoir un impact bénéfique/néfaste sur les humains et qu’un débat existe sur la manière d’y intégrer des capacités éthiques. Cela incite les chercheurs à développer des systèmes compatibles avec des valeurs éthiques, en passant de « l’éthique de conception » à « l’éthique par conception » offrant la capacité de produire un comportement éthique grâce à l’intégration du raisonnement et de l’apprentissage de l’éthique.
Pour ce faire, des exigences non fonctionnelles sont à satisfaire : Interopérabilité : faire face à l’hétérogénéité inhérente aux systèmes ; Pérennité : faire face à l’évolution durable des systèmes intelligents et de leur environnement ; Fiabilité : acceptablilité par la société.
Ce projet soulève 3 défis : IA centrée sur l’humain: comment le système atteint son objectif tout en suivant les principes éthiques et les valeurs humaines ; IA sûre: comment s’assurer que le système fonctionne dans des limites spécifiées tout en étant autonome pour apprendre l’éthique et s’adapter en réponse à l’évolution du contexte/des objectifs; IA adaptative: adaptation à la fois sur le plan technique (ouverture) et sur le plan sociétal (apprentissage tout au long de la vie, évolution des attentes des valeurs/normes morales acceptées).
ACCELER-AI propose une recherche multidisciplinaire et adopte une perspective centrée sur l’humain pour investiguer la co-construction de « modèles éthiques » en couplant dynamiquement 3 processus adaptatifs: 1) injection de « données éthiques humaines » via une interaction « Humain-Agent » non invasive continue ; 2) apprentissage mutuel humain-machine tout au long de la vie d’un comportement éthique adaptatif ; 3) processus de régulation normative pour délimiter l’apprentissage de l’éthique.