HAPPI - Human-aware PGMs and Probabilistic Inference via Lifted Model Reconciliation (HAPPI)

Basic data for this project

Description

Bei diesem Projekt geht es darum, die Kommunikation zwischen KI-Systemen und Menschen zu verbessern. In KI-basierten Systemen werden häufig Modelle aus Daten gelernt. Diese Modelle können zwar auch Wissen von Expertinnen und Experten beinhalten, sind aber häufig durch die gelernten Informationen aus den Daten nicht mehr einfach zu erklären. In dem Projekt wird dort angesetzt, indem Methoden erforscht werden, wie solche gelernten Modelle mit den Erwartungen von Expertinnen und Experten in Übereinstimmung gebracht werden können und Mensch und System sich gegenseitig ihre Wissenslücken erklären können. Auf lange Sicht sollen diese Systeme zum Beispiel in Medizin oder Geisteswissenschaften ihre Vorschläge erklären können.