Genau hier setzt das Projekt „UnrEAL“ an und entwickelt Methoden, um die Unsicherheit von KI zu erkennen und zu quantifizieren, um wenig Bedarf an manuell erzeugten Annotationen (aktives Lernen) zu haben und um Fehler in manuell erzeugten Bildannotationen zu detektieren. Dazu wird zuerst der Informationsfluss in tiefen neuronalen Netzen gemessen und analysiert. Anschließend werden Methoden entwickelt, die eine gleichzeitige Annotation und Modellbildung betreiben (aktives Lernen). Dabei wird ein Verfahren entwickelt, das es erlaubt, Bildregionen für die Annotation vorzuschlagen. Dieses wird dann in einen Annotationsprozess integriert, der immer die Bilder oder Bildregionen vorschlägt, welche besonders wichtig für die weitere Klassifikation sind. Dadurch kann die benötigte Anzahl von Daten reduziert werden. Weiterhin werden Ansätze erforscht, die Annotationsfehler entdecken. Dazu werden zuerst Vergleichsdatensätze aufbereitet, bei denen die Annotationsfehler bekannt sind. Dann werden verschiedene Methoden erprobt, die diese bekannten Fehler vorhersagbar machen.