AIM-SAFE

AIM-SAFE entwickelt ein europäisches Multi-Agenten-Framework für vertrauenswürdige generative KI in der klinischen Entscheidungsunterstützung, das die Herausforderungen der Patientensicherheit im Polypharmazie-Management und bei der Optimierung onkologischer Behandlungen angeht.

Die modulare, lokal bereitgestellte Architektur nutzt containerisierte, SLM-gestützte Agenten (Small Language Models), die bei abgegrenzten klinischen Funktionen zusammenarbeiten – wie etwa der Vorhersage unerwünschter Arzneimittelwirkungen, der Unterstützung beim Absetzen von Medikamenten (Deprescribing), dem pharmakogenomischen Schließen und der Modellierung von Phänokonversion. Dabei agieren sie innerhalb von Krankenhausumgebungen unter strengen Datenschutzkontrollen, kontinuierlichen föderierten Lern-Workflows (Federated Learning) und erklärbarer Intelligenz, welche vollständig im Einklang mit den europäischen Gesetzen zur Daten-Governance (z. B. DSGVO, AI Act, EHDS) stehen.

Über die reine Modellentwicklung hinaus rüstet AIM-SAFE Forscher und medizinisches Fachpersonal mit dem Wissen, den Werkzeugen und den Governance-Frameworks aus, um generative KI verantwortungsvoll und effektiv in der Praxis anzuwenden. AIM-SAFE liefert Open-Source-Toolkits, FAIR-Datensätze und „Safety Co-Pilot“-Module, um vertrauenswürdige KI im Gesundheitswesen voranzutreiben und dabei Ethik, Transparenz und Patientensicherheit zu gewährleisten.

Zu den Hauptkomponenten zählen die föderierte Lernplattform CAFEIN, erklärbare KI-Engines – die durch Feedbackschleifen des Reinforcement Learning from Human Feedback (RLHF) optimiert werden – sowie eine integrierte Sicherheits-Governance durch das RUC2-Framework. Dieser Ansatz ermöglicht eine datenschutzwahrende Datenharmonisierung zwischen den klinischen Partnern. So wird sichergestellt, dass sensible Daten unter lokaler Kontrolle bleiben, während sie gleichzeitig zu gemeinsamen Modellen beitragen.

Das System integriert multimodale biomedizinische Daten aus elektronischen Patientenakten (EHRs), pharmakogenomischen Profilen, Bildgebungs-Metadaten und europäischen Wissensdatenbanken.

Durch die Stärkung der europäischen digitalen Souveränität, die Verringerung der Abhängigkeit von Nicht-EU-KI-Anbietern und die Gewährleistung der vollständigen Einhaltung der ethischen, rechtlichen und regulatorischen Grundsätze der EU verwandelt AIM-SAFE die klinische Entscheidungsunterstützung in einen sicheren, erklärbaren und menschenzentrierten Ansatz. Dieser reduziert unerwünschte Arzneimittelwirkungen, verbessert die Patientenversorgung und trägt zu einer geringeren Sterblichkeit sowie niedrigeren Gesundheitskosten bei.

Weitere Informationen zum Projekt sind in u:cris verfügbar.

 

An diesem Projekt arbeiten folgende Expert*innen des Instituts: