ACONITE

Künstliche Kognitive Bildgebung: Verstehen und verbessern, wie KI-Systeme ihre Umwelt wahrnehmen

Motivation

Die KI-Forschung und -Anwendung haben ihren Aufschwung in den letzten Jahren insbesondere methodischen Verbesserungen im Bereich des Maschinellen Lernens zu verdanken, z. B. bei Architekturen, die auf tiefen neuronalen Netzen basieren. Enorme Fortschritte wurden erzielt, mit KI Bilder und Texte zu analysieren und zu generieren sowie komplexe Entscheidungsprobleme zu lösen. Obwohl die Vorteile immens sind, sind aktuelle Verfahren insofern noch limitiert, dass die Netzwerke sehr viele annotierte Trainingsbeispiele benötigen und ihre Funktionsweise bzw. Problemlösungsstrategie nur schlecht nachvollziehbar bzw. erklärbar sind.

Ziele und Vorgehen

In einem interdisziplinären Ansatz hat die KI Nachwuchsgruppe „ACONITE“ sich zum Ziel gesetzt, neurowissenschaftliche Methoden und Konzepte aus dem Bereich des Repräsentationslernens bei Menschen und Tieren in der KI zu etablieren. Im Gegensatz zu aktuellen künstlichen neuronalen Netzen sind biologische neuronale Netze in unserem Gehirn sehr geschickt darin, aus nur wenigen Beispielen zu lernen. Der Fokus des Vorhabens ist deshalb, ein tieferes Verständnis der Struktur und Erklärbarkeit gelernter Repräsentationen zu erlangen, indem sogenannte kognitive Karten erstellt und analysiert werden. Des Weiteren sollen KI-Agenten in virtuellen Umgebungen untersucht werden, um zu lernen, wie die neuronalen Repräsentationen entstehen. Diese Grundlagen sollen dazu dienen, effizientere, interpretierbare und sicherere KI-Verfahren für Anwendungen zu entwerfen, die mit wenig annotierten Daten auskommen und in ihrer Funktionsweise erklärbar sein müssen.

Innovationen und Perspektiven

Durch neue Erkenntnisse und Impulse aus den Kognitionswissenschaften inspiriert das grundlagenorientierte Vorhaben neue Ansätze zur Lösung aktueller Herausforderungen der KI Forschung. Im Rahmen des Vorhabens ist u. a. geplant, eine Visualisierungsplattform zur standardisierten Überprüfung der gelernten Repräsentationen von neuronalen Netzen aufzubauen. Dies könnte besonders für medizinische und technische Anwendungsfelder von großer standardisierter Bedeutung sein, in denen Ergebnisse und Abläufe gewährleistet sein müssen.

Projektinformation

Projektleitung

Max-Planck-Institut für Kognitions- und Neurowissenschaften
Stephanstr. 1A
04103 Leipzig

Volumen

0,74 Mio. €

Laufzeit

07/2026 – 07/2026