ETHICAA retenu par l’ANR lors de l'AAP CONTINT 2013

ETHICs and Autonomous Agents ou ETHICAA, est un projet qui a été présenté à l’Agence Nationale de la Recherche(ANR) lors de l’appel à projet CONTINT 2013 (Contenus numériques et interactions).
Mercredi 3 juillet 2013

ETHICAA retenu par l’ANR lors de l'AAP CONTINT 2013. « ETHICs and Autonomous Agents » ou ETHICAA, est un projet qui a été présenté à l’Agence Nationale de la Recherche (ANR) lors de l’appel à projet CONTINT 2013 (Contenus numériques et interactions).

 

« ETHICs and Autonomous Agents » ou ETHICAA, est un projet qui a été présenté à l’Agence Nationale de la Recherche (ANR) lors de l’appel à projet CONTINT 2013 (Contenus numériques et interactions).

Le consortium ETHICAA réunit le GREYC (Groupe de Recherche en Informatique, Image, Automatique et Instrumentation de Caen), ARMINES - FAYOL (Institut Henri Fayol de l'Ecole des Mines de Saint-Etienne), l’Onera, le Laboratoire d'Informatique de Paris 6 (LIP6), l’équipe de recherche ETOS de Télécom Ecole de Management (Institut Mines-Télécom) et Ardans. ​

Le 24 juin 2013 l’ANR a annoncé sa sélection1 et ETHICAA fait partie de la liste des 19 projets retenus sur les 109 déposés. Nous vous proposons de mieux connaître ce projet de 48 mois dans le résumé qui suit. 

ETHICAA ou « ETHICs and Autonomous Agents » : 

A l'heure actuelle, les machines et les agents artificiels deviennent de plus en plus autonomes et, par conséquent, agissent de plus en plus sans être contrôlés par des utilisateurs ou des opérateurs humains. Toutefois, et en particulier lorsque les machines autonomes interagissent directement avec des humains, il est de première importance de s'assurer qu'elles ne peuvent les blesser, ni menacer leur propre autonomie. C'est pourquoi, la question de doter les agents autonomes de comportements éthiques régulés et ou contrôlés se pose. Les discussions à ce sujet dans la littérature mettent alors en lumière ce besoin. 

L'objectif du projet ETHICAA est de définir ce que devrait être une entité autonome pouvant gérer des conflits éthiques, aussi bien au niveau individuel qu'au niveau collectif. Les conflits éthiques que nous considérons sont susceptibles de survenir ; au sein d'un agent, entre un agent et les règles éthiques de son système d’appartenance, entre un agent et un utilisateur ou un opérateur humain, entre plusieurs agents incluant ou non des êtres humains. Les conflits éthiques sont caractérisés par le fait qu'il n'existe pas de « bonne » manière de les résoudre. Quoi qu'il en soit, lorsqu'une décision doit être prise, elle devrait être une décision informée se fondant sur l'évaluation des arguments qui la soutienne et des conséquences qu'elle produit. Le projet ETHICAA, en produisant des modèles, des méthodes et des outils, proposera un cadre méthodologique pour définir et gérer des agents autonomes dotés de comportements éthiques.  

Les deux domaines d'application proposés par ETHICAA sont la robotique et la gestion de la vie privée. Ils ont été retenus pour les questions de société qu'ils soulèvent en termes de confiance, d'acceptation et éthique. Dans le domaine de la robotique, le cadre ETHICAA sera utilisé pour gérer les conflits éthiques qui surviendraient lors de la coopération entre un agent artificiel et un opérateur humain dans le contexte du contrôle conjoint d'un UAV (Unmanned Air Vehicle). Supposons que cet UAV doive être écrasé dans une situation d'urgence, les deux seules options sont le crash près du quartier général de l'opérateur (où ses collègues et lui-même travaillent) et un petit village. Dans ce contexte, l'opérateur pourrait désirer épargner ses collègues, tandis que l'agent artificiel pourrait être programmé pour limiter les pertes en vies humaines. Quelle décision doit alors prendre l'agent autonome ? Comment l'opérateur humain se comportera-t-il alors ? Quels conflits éthiques peuvent alors survenir ?

Dans le domaine de gestion de la vie privée, les conflits éthiques peuvent survenir entre plusieurs agents artificiels et plusieurs utilisateurs humains. Par exemple, considérons un réseau social dans lequel des agents éthiques artificiels contrôlent et gèrent les politiques de vie privée de leurs utilisateurs humains. Supposons alors que deux utilisateurs, en raison d'une dispute, diffusent chacun des données personnelles concernant l'autre au sein d'un même groupe de connaissances. Quelles doivent être la politique de vie privée de la société d'agents contrôlant le réseau ? Quelle doit être la politique des agents appartenant aux utilisateurs rivaux ? 

A partir de la définition et l'expérimentation de ces scenarii, le projet ETHICAA a pour objectif de fournir une représentation formelle des conflits éthiques et des objets sur lesquels ils portent, ainsi que des outils pour pouvoir les gérer. En conséquence, le résultat de projet ETHICAA est un cadre général pour concevoir des systèmes d'agents artificiels dotés de comportements éthiques, c'est-à-dire de concevoir les mécanismes de contrôles et de régulations de fonctions autonomes devant obéir à des règles éthiques dépendantes d'un contexte et devant tenir compte des conflits éthiques impliquant d'autres agents artificiels et des êtres humains, quel que soit leur comportement. 

Montigny-le-Bretonneux, le 3 juillet 2013,​

ARDANS

Créée en 1999, Ardans Sas s’est imposée en leader de l’ingénierie de la connaissance en France en proposant une offre de conseil, d’expertise IT & KM et d’éditeur d’outil dédié au KM.

Ardans Sas valorise le savoir-faire de ses clients au sein de leur système d’information.

Parmi ses références, on note : Andra, ACG Industrie, Air Liquide, ArcelorMittal, 3C-R, CEA, CNES, DCNS, Dexip & TES(GDFSUEZ), EADS, Egis, EdF, Michelin, Inserm, Orange, PSA Peugeot Citroën, RATP, SNCF, Société Générale, Total, Veolia, Vinci, Zodiac Aerospace, etc. 

ARDANS SAS entreprise « BPIFrance Excellence 2013 » est membre :

Au sein d’ETHICAA, Ardans Sas aura principalement un rôle d’expert en ingénierie de la connaissance sur la formalisation des connaissances implantées dans les scenarii comme les règles d’éthique, le respect de la vie privée et leur expérimentation. Il reviendra aussi à ARDANS de développer un middleware entre les algorithmes et la plate-forme ETHICAA pour réaliser les expérimentations. ​

Contacts :

Alain BERGER                        Ardans                       ABerger at ardans.fr

Grégory BONNET                    GREYC                     Gregory.Bonnet at unicaen.fr

Olivier BOISSIER                    ARMINES                  Olivier.Boissier at emse.fr

Catherine TESSIER                ONERA                       Catherine.Tessier at onera.fr

Jean-Gabriel GANASCIA         UPMC LIP6                Jean-Gabriel.Ganascia at lip6.fr 

Pierre-Antoine CHARDEL        ETOS-Inst. Mines       Télécom Pierre-Antoine.Chardel at telecom-em.eu

12/05/2023 + Ardans sponsor de l'événement PFIA 2023 organisé par ICube, Université de Strasbourg et l'AfIA
Ardans acteur de l'événement PFIA 2023 avec deux articles retenus dans deux conférences!
11/05/2023 + Le KM Knowledge Management dans votre organisation
L’association Club Gestion des Connaissances propose un webinaire sur le KM Knowledge Management de 13h à 13h45 sur LinkedIn le 11 mai 2023.
09/05/2023 + IA & Normes - Questions sur l'Intelligence Artificielle
Le Bulletin 120 de l’AfIA « IA & Normes » est une mise en lumière des questions récentes et cruciales pour l'intelligence artificielle.
25/04/2023 + Protéger les Compétences Clés de l'Entreprise - Knowledge Management
La perte de compétence clés d'une entreprise due au départ de collaborateurs peut avoir de lourdes conséquences. Il faut l'anticiper avec une démarche de gestion des connaissances ou Knowledge Management
20/04/2023 + Ardans au cœur de SQY-IT ! l'événement en terre d'innovation au Vélodrome National
SQY IT ! l’événement des Innovations et des Talents se déroule au vélodrome national de Saint-Quentin-en-Yvelines les 19 et 20 avril 2023 : Ardans répond présent !
02/01/2006 - Formaliser le patrimoine métier VPC Service Plus
VPC Service Plus : Formaliser le patrimoine métier pour améliorer la relation client en centre de contacts
01/01/2006 - Capitaliser les Connaissances en Bureau d'Etudes - ARDANS
PSA Peugeot Citroën : Capitaliser les connaissances en bureau d’études : élaborer le référentiel métier
07/11/2005 - Salon SisQual 2005 - Ardans au CNIT
ARDANS sera présente au salon SisQual 2005 du CNIT La Défense sur le stand F15 et animera la conférence 1A sur différents thèmes de Knowledge Management ou gestion des connaissances.
29/09/2005 - Knowledge Management & Efficacité Collective 2005
La société ARDANS spécialisée dans l’ingénierie de l’information et la gestion de la connaissance sera présente au Salon Knowledge Management & Efficacité Collective 2005 stand C3.
10/03/2005 - Capitalisation des connaissances PSA Peugeot Citroën
Ardans a élaboré un référentiel métier pour PSA Peugeot Citroën afin d’assurer la capitalisation de connaissances sectorielles au sein des bureaux d’étude notamment du secteur étanchéité.
08/03/2005 - Choisir un système d’aide au diagnostic industriel
Comment choisir un système d’aide au diagnostic industriel ? Ardans propose d’initier une mémoire en continu. Découvrez les principaux enjeux qui président à la mise en place d’un tel système.
01/03/2005 - Base de connaissances pour améliorer la relation client
Afin d'améliorer performance et service vis-à-vis des clients ou adhérents, VPC Service Plus, qui assure la relation clientèle de plusieurs clubs, a capitalisé son savoir-faire dans base de connaissances.
02/09/2013 - Table ronde Formation de la PFA animé par ARDANS
Michel Rollier, Président de la Plateforme de la Filière Automobile (PFA), vous invite à participer aux Ateliers de la Filière Automobile les 2 et 3 octobre 2013 à l'Espace Cap 15, Paris 15ème
09/06/2013 - Journées Big Data & Visualization avec ARDANS
2ème édition des journées communes Big Data & Visualization des Groupes de Travail EGC et AFIHM, ARDANS aborde le thème : Représentation et visualisation des connaissances expertes.

ARDANS SAS

ARDANS SAS
Le Campus - Bâtiment B1
78180 MONTIGNY-le-BRETONNEUX, FRANCE
FR
+33 1 39 30 99 00
ardans@ardans.fr