IBM Watson ist eine der berühmtesten KI-Anwendungen im Bereich der Medizin. Im Jahr 2013 startete IBM in Zusammenarbeit mit dem MD Anderson Cancer Center der University of Texas ein ambitioniertes Projekt: Der Aufbau eines KI-basierten Beratungssystems für die Onkologie, das Ärzten helfen sollte, Einblicke aus Patientendaten und Forschungsdatenbanken zu gewinnen. Die Hoffnung war groß, dass dieses System, bekannt als IBM Watson for Oncology, ein Wendepunkt in der Krebsbehandlung sein könnte. Doch die Realität holte das Projekt bald ein. In diesem Blogbeitrag gehen wir der Frage nach, was schief lief.
Was war das Ziel von IBM Watson for Oncology?
Die anfängliche Vision für IBM Watson for Oncology war überaus ambitioniert: Laut einer Pressemitteilung sollte das System das MD Anderson Cancer Center in seiner Mission unterstützen, den Krebs zu besiegen. Die KI sollte Ärzten dabei helfen, die effektivsten Behandlungsstrategien zu identifizieren, indem sie tiefgehende Analysen von großen Datenmengen durchführte.
Was ging schief bei IBM Watson for Oncology?
Bis 2018 kamen jedoch ernüchternde Berichte ans Licht. StatNews veröffentlichte interne IBM-Dokumente, die zeigten, dass IBM Watson fehlerhafte und sogar gefährliche Krebsbehandlungsempfehlungen gab. Eines der gravierendsten Beispiele war ein Vorschlag von Watson, Patienten mit schweren Blutungen ein Medikament zu verabreichen, das den Zustand verschlimmern könnte.
Die Probleme wurden vor allem darauf zurückgeführt, dass die Software auf einer sehr geringen Anzahl von hypothetischen Krebspatienten trainiert wurde, statt auf echten Patientendaten. Zudem basierten die Empfehlungen auf dem Fachwissen weniger Spezialisten und nicht auf etablierten Richtlinien oder Beweisen. Diese fehlgeleitete Trainingsmethode führte zu unsicheren und inkorrekten Behandlungsvorschlägen.
Das Projekt wurde im Februar 2017 auf Eis gelegt, nachdem das MD Anderson Cancer Center mehr als 62 Millionen Dollar ausgegeben hatte, ohne die erhofften Ergebnisse zu erzielen.
Lehren und Ausblick
Dieser Fall unterstreicht die Bedeutung einer sorgfältigen und realitätsnahen Entwicklung und Implementierung von KI-Systemen in der Medizin. Es zeigt die Notwendigkeit, KI-Systeme mit realen Daten und nach medizinischen Standards zu trainieren. Zudem betont er die Wichtigkeit von Transparenz und ethischer Verantwortung bei der Entwicklung und Anwendung von KI-Technologien in der Gesundheitsversorgung.
Die Integration von KI in die Medizin ist daher eine komplexe Herausforderung ist, die sorgfältige Planung, ethische Überlegungen und eine enge Zusammenarbeit zwischen Technikern, Medizinern und Patienten erfordert. Die Technologie hat das Potenzial, die Medizin maßgeblich zu verbessern, doch ihr Einsatz muss verantwortungsbewusst und mit einem klaren Blick auf die tatsächlichen Bedürfnisse und Sicherheiten der Patienten erfolgen.