Post-doctorant de 2 ans en éthique de l’IA neuro-computationnelle

Contexte :
Le projet européen CAVAA ( https://cavaa.eu/ ) propose de réaliser une théorie de la conscience instanciée sous la forme d’une architecture informatique intégrée et de ses composants pour expliquer la conscience dans les systèmes biologiques et l’ingénierie dans les systèmes technologiques. Dans un monde régi par des états cachés, la conscience permet d’affronter « l’invisible », depuis les environnements inexplorés (passés et futurs contrefactuels) jusqu’aux interactions sociales qui dépendent des états internes des agents et des normes morales. En particulier, nous étudierons la capacité et la propension de ces agents d’architecture cognitive à raisonner, à prendre des décisions ou à revisiter des expériences passées, mais également à réfléchir à ce qui était bien ou mal compte tenu de certaines normes morales, et quels états futurs possibles pourraient être bons ou mauvais. . L’ingénierie de sensibilisation de CAVAA s’accompagne d’un cadre éthique envers les utilisateurs humains et les artefacts conscients dans le spectre plus large de l’IA digne de confiance, prenant en compte les objectifs partagés, les contrefactuels et les projections vers de nouveaux scénarios futurs, ainsi que la prédiction de l’impact des choix. CAVAA vise à offrir une meilleure expérience utilisateur en raison de son explicabilité, de son adaptabilité et de sa lisibilité.

Localisation et environnement : 
Le poste de post-doc sera situé à l’Institut des Systèmes Intelligents et de Robotique (ISIR, http://www.isir.upmc.fr ), Paris, France. L’ISIR appartient à Sorbonne Université, au CNRS et à l’INSERM, et est situé au centre de Paris, donc à quelques pas de la Seine, d’autres institutions académiques (La Sorbonne, Collège de France, Muséum d’Histoire Naturelle, Ecole Normale Supérieure, Université Paris Cité, Hôpital la Pitié Salpétrière), et de monuments célèbres (Notre Dame, Conciergerie, Panthéon, Théâtre du Châtelet, Institut du Monde Arabe). Parler ou comprendre le français n’est pas obligatoire. Ce travail sera réalisé en étroite collaboration avec des philosophes, des ingénieurs et des neuroscientifiques computationnels du consortium CAVAA.

Mission :
Les travaux post-doctoraux porteront sur le raisonnement éthique à travers la virtualisation, la délibération et l’alignement avec les valeurs humaines. Le cadre théorique sera ancré sur l’apprentissage par renforcement basé sur des modèles probabilistes, étendu pour inclure les valeurs homéostatiques, épistémiques et sociales, y compris les conventions sociales et les normes morales comme point de départ. La recherche examinera l’apprentissage par l’interaction avec l’environnement et avec d’autres agents, la prise de décision sociale, la simulation mentale et le raisonnement contrefactuel pour informer les humains sur les conséquences potentielles à long terme des actions. Le modèle sera confronté à des données expérimentales sur la prise de décision humaine face à divers dilemmes sociaux et moraux. Le modèle sera intégré à l’architecture cognitive CAVAA et appliqué à des agents artificiels et à des robots dans des scénarios virtuels et réels impliquant la navigation spatiale et l’interaction sociale.