Wenn die Software mitentscheidet: Künstliche Intelligenz in Medizinprodukten

Ein Algorithmus sichtet ein Hautfoto und schätzt das Risiko für Hautkrebs. Ein Programm liest ein EKG und schlägt Alarm, bevor ein Mensch die Auffälligkeit erkannt hätte. Eine Software wertet ein CT aus und markiert die Stelle, die sich der befundende Arzt genauer ansehen sollte. In all diesen Fällen trifft nicht mehr allein der Mensch die Entscheidung, sondern eine Maschine, die aus Daten gelernt hat. Für die Medizintechnik ist das ein Umbruch, und für die Zulassung solcher Produkte gelten Regeln, die sich von klassischer Software deutlich unterscheiden.

Warum lernende Systeme anders sind

Herkömmliche Medizinsoftware folgt festen Regeln. Ein Programmierer legt fest, was bei welcher Eingabe passiert, und das Ergebnis ist nachvollziehbar. Wer den Code liest, versteht die Entscheidung. Bei Systemen mit maschinellem Lernen ist das anders. Sie leiten ihr Verhalten aus Trainingsdaten ab, und der Weg von der Eingabe zum Ergebnis ist oft nicht mehr Schritt für Schritt erklärbar. Das Programm erkennt Muster, die kein Mensch ausdrücklich programmiert hat.

Genau das macht diese Systeme leistungsfähig und zugleich schwer zu prüfen. Wenn ein Algorithmus in neun von zehn Fällen richtig liegt, bleibt die Frage nach dem zehnten. Warum hat er sich geirrt? Lag es an einem untypischen Bild, an einer Patientengruppe, die im Training unterrepräsentiert war, oder an einem Fehler, der sich erst im Alltag zeigt? Solche Fragen muss ein Hersteller beantworten können, bevor sein Produkt auf den Markt darf. Beratungshäuser wie MEDITEC Consulting begleiten die Entwicklung von Medizinprodukten deshalb von Beginn an und klären früh, welche Nachweise ein KI-gestütztes System erbringen muss, damit die Zulassung nicht an ungelösten Grundsatzfragen scheitert.

Die Daten sind das Produkt

Bei einem lernenden System entscheidet die Qualität der Trainingsdaten über die Qualität des Ergebnisses. Ein Algorithmus, der überwiegend mit Bildern heller Haut trainiert wurde, erkennt Auffälligkeiten auf dunkler Haut womöglich schlechter. Ein System, das an Daten einer einzigen Klinik gelernt hat, funktioniert an einem anderen Standort mit anderen Geräten vielleicht nicht mehr zuverlässig. Solche Verzerrungen sind kein theoretisches Problem, sie sind in der Praxis wiederholt aufgetreten.

Für Hersteller bedeutet das eine ungewohnte Pflicht. Sie müssen dokumentieren, woher ihre Daten stammen, wie repräsentativ sie für die vorgesehene Anwendung sind und wie sie mit Lücken umgehen. Die Datensammlung wird damit zum regulierten Teil der Entwicklung, nicht zur Vorarbeit, die man nebenbei erledigt. Wer erst am Ende merkt, dass sein Datensatz eine wichtige Patientengruppe kaum abbildet, steht vor einem teuren Problem, denn ein Nachtrainieren verlangt neue Prüfungen.

Ein Produkt, das sich verändern kann

Die vielleicht größte Besonderheit betrifft die Frage, ob ein System nach der Zulassung weiterlernen darf. Ein klassisches Medizinprodukt ist nach der Freigabe fertig. Ein lernender Algorithmus könnte sich theoretisch mit jedem neuen Fall verändern und dabei besser oder schlechter werden. Ein Produkt, das sich selbst verändert, ist mit den bisherigen Zulassungsregeln kaum vereinbar, weil geprüft wird, was zum Zeitpunkt der Prüfung vorliegt.

In der Praxis gehen Hersteller deshalb meist einen vorsichtigen Weg. Das System wird eingefroren und lernt im laufenden Betrieb nicht weiter. Verbesserungen entstehen in einer kontrollierten Umgebung, werden dort geprüft und erst dann als neue Version ausgeliefert. Die Behörden arbeiten zugleich an Konzepten, die geplante Änderungen vorab beschreiben, sodass ein Hersteller festlegt, in welchem Rahmen sich sein System entwickeln darf, ohne für jede Anpassung ein komplett neues Verfahren zu durchlaufen. Dieser Ansatz ist vielversprechend, aber noch längst nicht überall Alltag.

Was der neue Rechtsrahmen fordert

Zur ohnehin anspruchsvollen Medizinprodukteverordnung kommt in Europa eine weitere Ebene hinzu. Für Systeme mit künstlicher Intelligenz gelten zusätzliche Anforderungen, die risikobasiert gestaffelt sind. Medizinische Anwendungen fallen dabei regelmäßig in die höheren Risikoklassen, weil ihre Fehlentscheidungen Menschen unmittelbar betreffen können. Das verlangt unter anderem eine belastbare Risikobetrachtung, Transparenz über die Funktionsweise und eine sinnvolle menschliche Aufsicht.

Der letzte Punkt ist wichtiger, als er klingt. Ein KI-System soll den behandelnden Menschen unterstützen, nicht ersetzen. Wer am Ende entscheidet, trägt die Verantwortung, und dafür muss er das Ergebnis der Maschine einordnen können. Ein System, das eine Diagnose ausspuckt, ohne dass jemand nachvollziehen kann, wie sie zustande kam, erschwert genau diese Aufsicht. Erklärbarkeit ist deshalb keine akademische Spielerei, sondern eine praktische Voraussetzung für den sicheren Einsatz.

Wer haftet, wenn die Maschine irrt?

Eine Frage, die in der Diskussion oft zu kurz kommt, betrifft die Verantwortung. Wenn ein Algorithmus eine Auffälligkeit übersieht und ein Patient dadurch zu Schaden kommt, wer trägt dann die Schuld? Der Arzt, der sich auf das System verlassen hat? Der Hersteller, der es entwickelt hat? Die Klinik, die es angeschafft hat? Eine einfache Antwort gibt es nicht, und die Rechtslage ist an vielen Stellen noch nicht abschließend geklärt.

In der Praxis läuft es darauf hinaus, dass die menschliche Aufsicht diese Lücke schließen soll. Solange ein Mensch die letzte Entscheidung trifft, bleibt er verantwortlich, und das System gilt als Werkzeug. Doch je besser die Algorithmen werden, desto größer wird die Versuchung, ihren Vorschlägen einfach zu folgen. Genau davor warnen Fachleute. Ein Werkzeug, dem man blind vertraut, ist kein Werkzeug mehr, sondern ein Entscheider ohne Verantwortung. Hersteller müssen ihre Produkte deshalb so gestalten, dass sie zur kritischen Prüfung einladen und nicht zum bequemen Durchwinken.

Die Chance und der nüchterne Blick

Es wäre falsch, in diesen Anforderungen nur eine Bremse zu sehen. Künstliche Intelligenz kann in der Medizin echten Nutzen stiften. Sie findet in Bilddaten Muster, die dem menschlichen Auge entgehen, sie entlastet überlastetes Personal bei Routineaufgaben, und sie kann in Regionen mit wenig Fachärzten eine erste Einschätzung liefern, wo sonst gar keine wäre. Die Technik ist kein Selbstzweck, aber sie löst reale Probleme.

Gleichzeitig gehört ein realistischer Blick dazu. Ein System, das im Test glänzt, kann im Versorgungsalltag enttäuschen, weil dort andere Geräte, andere Patienten und andere Arbeitsabläufe herrschen. Genau deshalb ist die Beobachtung nach der Zulassung bei KI-Produkten so wichtig. Der Hersteller muss verfolgen, wie sein System in der Breite abschneidet, und reagieren, wenn die Leistung nachlässt. Das ist aufwendig, aber es ist der Preis dafür, dass man einer Maschine medizinische Entscheidungen anvertraut.

Für Unternehmen, die in dieses Feld einsteigen, lautet die wichtigste Lehre deshalb schlicht: Wer ein KI-Medizinprodukt entwickeln will, sollte die regulatorischen Fragen nicht ans Ende stellen. Datenherkunft, Erklärbarkeit und der Umgang mit Änderungen entscheiden früh über den Erfolg. Ein Prototyp, der beeindruckende Trefferquoten liefert, ist ein guter Anfang. Zwischen ihm und einem zugelassenen Produkt liegt allerdings genau die Arbeit, die man am liebsten aufschieben würde.