Fraunhofer-Institut für Graphische Datenverarbeitung IGDModerne biometrische Systeme nutzen Methoden des sogenannten Deep Learnings. Dies führt dazu, dass die so automatisch trainierten Modelle zwar sehr genau, aber auch hochkomplexe sind. Dadurch sind sie nur sehr schwer zu interpretieren und nachzuvollziehen. Aber genau diese Erklärbarkeit und Nachvollziehbarkeit von Entscheidungen sind notwendig, um das Vertrauen der Nutzer zu stärken und mögliche Probleme frühzeitig zu erkennen. Gerade durch die Verarbeitung von sensiblen, personenbezogenen Daten und der zunehmenden Verbreitung in immer mehr Bereichen, haben biometrische Systeme häufig einen direkten Einfluss auf das Leben von Menschen. Die rein automatisierte Verarbeitung und eine fehlende Nachvollziehbarkeit lässt hier schnell ethische Fragen aufkommen.
Um mehr Informationen bei einem biometrischen Verifizierungssystem wiederzugeben, als nur eine Übereinstimmungs- oder Nicht-Übereinstimmungs- Entscheidung entwickelten wir eine Methode, welche zusätzlich die (Un-)Sicherheit des Modells bei der Entscheidung wiedergibt. Damit ist es Anwendern möglich, unsichere Modellentscheidungen zu erkennen und gegebenenfalls menschlich gegenzuprüfen.
