ETHICAA retenu par l’ANR lors de l'AAP CONTINT 2013

ETHICAA retenu par l’ANR lors de l'AAP CONTINT 2013. « ETHICs and Autonomous Agents » ou ETHICAA, est un projet qui a été présenté à l’Agence Nationale de la Recherche (ANR) lors de l’appel à projet CONTINT 2013 (Contenus numériques et interactions).

« ETHICs and Autonomous Agents » ou ETHICAA, est un projet qui a été présenté à l’Agence Nationale de la Recherche (ANR) lors de l’appel à projet CONTINT 2013 (Contenus numériques et interactions).

Le consortium ETHICAA réunit le GREYC (Groupe de Recherche en Informatique, Image, Automatique et Instrumentation de Caen), ARMINES - FAYOL (Institut Henri Fayol de l'Ecole des Mines de Saint-Etienne), l’Onera, le Laboratoire d'Informatique de Paris 6 (LIP6), l’équipe de recherche ETOS de Télécom Ecole de Management (Institut Mines-Télécom) et Ardans. ​

Le 24 juin 2013 l’ANR a annoncé sa sélection1 et ETHICAA fait partie de la liste des 19 projets retenus sur les 109 déposés. Nous vous proposons de mieux connaître ce projet de 48 mois dans le résumé qui suit. 

ETHICAA ou « ETHICs and Autonomous Agents » : 

A l'heure actuelle, les machines et les agents artificiels deviennent de plus en plus autonomes et, par conséquent, agissent de plus en plus sans être contrôlés par des utilisateurs ou des opérateurs humains. Toutefois, et en particulier lorsque les machines autonomes interagissent directement avec des humains, il est de première importance de s'assurer qu'elles ne peuvent les blesser, ni menacer leur propre autonomie. C'est pourquoi, la question de doter les agents autonomes de comportements éthiques régulés et ou contrôlés se pose. Les discussions à ce sujet dans la littérature mettent alors en lumière ce besoin. 

L'objectif du projet ETHICAA est de définir ce que devrait être une entité autonome pouvant gérer des conflits éthiques, aussi bien au niveau individuel qu'au niveau collectif. Les conflits éthiques que nous considérons sont susceptibles de survenir ; au sein d'un agent, entre un agent et les règles éthiques de son système d’appartenance, entre un agent et un utilisateur ou un opérateur humain, entre plusieurs agents incluant ou non des êtres humains. Les conflits éthiques sont caractérisés par le fait qu'il n'existe pas de « bonne » manière de les résoudre. Quoi qu'il en soit, lorsqu'une décision doit être prise, elle devrait être une décision informée se fondant sur l'évaluation des arguments qui la soutienne et des conséquences qu'elle produit. Le projet ETHICAA, en produisant des modèles, des méthodes et des outils, proposera un cadre méthodologique pour définir et gérer des agents autonomes dotés de comportements éthiques.  

Les deux domaines d'application proposés par ETHICAA sont la robotique et la gestion de la vie privée. Ils ont été retenus pour les questions de société qu'ils soulèvent en termes de confiance, d'acceptation et éthique. Dans le domaine de la robotique, le cadre ETHICAA sera utilisé pour gérer les conflits éthiques qui surviendraient lors de la coopération entre un agent artificiel et un opérateur humain dans le contexte du contrôle conjoint d'un UAV (Unmanned Air Vehicle). Supposons que cet UAV doive être écrasé dans une situation d'urgence, les deux seules options sont le crash près du quartier général de l'opérateur (où ses collègues et lui-même travaillent) et un petit village. Dans ce contexte, l'opérateur pourrait désirer épargner ses collègues, tandis que l'agent artificiel pourrait être programmé pour limiter les pertes en vies humaines. Quelle décision doit alors prendre l'agent autonome ? Comment l'opérateur humain se comportera-t-il alors ? Quels conflits éthiques peuvent alors survenir ?

Dans le domaine de gestion de la vie privée, les conflits éthiques peuvent survenir entre plusieurs agents artificiels et plusieurs utilisateurs humains. Par exemple, considérons un réseau social dans lequel des agents éthiques artificiels contrôlent et gèrent les politiques de vie privée de leurs utilisateurs humains. Supposons alors que deux utilisateurs, en raison d'une dispute, diffusent chacun des données personnelles concernant l'autre au sein d'un même groupe de connaissances. Quelles doivent être la politique de vie privée de la société d'agents contrôlant le réseau ? Quelle doit être la politique des agents appartenant aux utilisateurs rivaux ? 

A partir de la définition et l'expérimentation de ces scenarii, le projet ETHICAA a pour objectif de fournir une représentation formelle des conflits éthiques et des objets sur lesquels ils portent, ainsi que des outils pour pouvoir les gérer. En conséquence, le résultat de projet ETHICAA est un cadre général pour concevoir des systèmes d'agents artificiels dotés de comportements éthiques, c'est-à-dire de concevoir les mécanismes de contrôles et de régulations de fonctions autonomes devant obéir à des règles éthiques dépendantes d'un contexte et devant tenir compte des conflits éthiques impliquant d'autres agents artificiels et des êtres humains, quel que soit leur comportement. 

Montigny-le-Bretonneux, le 3 juillet 2013,​

ARDANS

Créée en 1999, Ardans Sas s’est imposée en leader de l’ingénierie de la connaissance en France en proposant une offre de conseil, d’expertise IT & KM et d’éditeur d’outil dédié au KM.

Ardans Sas valorise le savoir-faire de ses clients au sein de leur système d’information.

Parmi ses références, on note : Andra, ACG Industrie, Air Liquide, ArcelorMittal, 3C-R, CEA, CNES, DCNS, Dexip & TES(GDFSUEZ), EADS, Egis, EdF, Michelin, Inserm, Orange, PSA Peugeot Citroën, RATP, SNCF, Société Générale, Total, Veolia, Vinci, Zodiac Aerospace, etc. 

ARDANS SAS entreprise « BPIFrance Excellence 2013 » est membre :

• de l’AFIA, l'Association Française d'Intelligence Artificielle,
• de EGC, l’Association Extraction et Gestion des Connaissances,
• de Cap Digital, le pôle de compétitivité des contenus numériques,
• d’ASTech, le pôle de compétitivité des industries Aéronautique, Spatial et Equipements associés,
• du Comité Richelieu, Association française des PME innovantes,
• du RAVI, le Réseau Automobilité et Véhicules en Ile de France. ​

Au sein d’ETHICAA, Ardans Sas aura principalement un rôle d’expert en ingénierie de la connaissance sur la formalisation des connaissances implantées dans les scenarii comme les règles d’éthique, le respect de la vie privée et leur expérimentation. Il reviendra aussi à ARDANS de développer un middleware entre les algorithmes et la plate-forme ETHICAA pour réaliser les expérimentations. ​

Contacts :

Alain BERGER                        Ardans                       ABerger at ardans.fr

Grégory BONNET                    GREYC                     Gregory.Bonnet at unicaen.fr

Olivier BOISSIER                    ARMINES                  Olivier.Boissier at emse.fr

Catherine TESSIER                ONERA                       Catherine.Tessier at onera.fr

Jean-Gabriel GANASCIA         UPMC LIP6                Jean-Gabriel.Ganascia at lip6.fr 

Pierre-Antoine CHARDEL        ETOS-Inst. Mines       Télécom Pierre-Antoine.Chardel at telecom-em.eu