Folge #101 – Künstliche Intelligenz

So, jetzt sagst du uns ganz kurz, Renato, wie wir denn die Folge Künstliche Intelligenz aufgebaut haben oder aufbauen wollen. Ja, ist eine schwierige Gratwanderung, denn über künstliche Intelligenz könnte man wahrscheinlich einen ganzen eigenen Podcast machen. Und gibt’s tatsächlich auch eigene Podcasts über das Thema. Wir machen ja einen kleinen Ausschnitt daraus und fokussieren uns natürlich sehr auf die Medizin. Und werden auch da jetzt natürlich nicht vollständig sein können. Aber wir versuchen, so eine Einführung, so eine Übersicht zu machen. Wir machen am Anfang eine Einführung in das Thema, was ist das überhaupt, künstliche Intelligenz, wie grenzt sich das ab und so weiter. Dann stellen wir ein paar Verfahren vor und am Schluss besprechen wir noch potenzielle Probleme und Risiken. Und dann geben wir ganz am Schluss einen Ausblick, wo es hingehen könnte. 

Genau, dann würde ich einfach mal sagen, starten wir mal ganz klassisch mit so einem Definitionsteil und mit so einem Einführungsteil, was es überhaupt ist, künstliche Intelligenz — und das ist gar nicht so einfach zu definieren. Das fängt nämlich schon damit an, dass es gar nicht so einfach zu definieren ist, was überhaupt Intelligenz ist. Also da gibt’s ja auch schon verschiedene Intelligenz-Definitionen, fluide, kristalline Intelligenz, wie kann ich Intelligenz überhaupt messen und all diese Themen. Und das Ganze jetzt noch mal zu übertragen in die künstliche Intelligenz macht es natürlich nicht einfacher. Wir haben einfach mal ein paar Definitionen rausgesucht und dann kann man mal so ein paar Punkte anhand dieser Definition diskutieren. 

Es gibt eine relativ alte von John McCarthy: Ziel der künstlichen Intelligenz ist es, Maschinen zu entwickeln, die sich verhalten, als verfügten sie über Intelligenz. Da kann man natürlich drüber streiten, ob das dann schon ein echtes Intelligenzverhalten ist, wenn sie sich nur so verhalten, als ob. Da gibt’s irgendwie interessante philosophische Diskussion auch zu diesem Thema. Wenn ich irgendwelche selbstfahrenden Autos habe, die einfach nur durch so einen Abstandssensor sich gegenseitig ausweichen, dann sieht das natürlich irgendwie von Weitem so ein bisschen nach Intelligenz aus. Da steckt aber überhaupt nichts dahinter, und da kann man schon so ein bisschen eine Schwierigkeit bei der Definition sehen, nämlich zu sagen: Ab wann ist denn da wirklich eine Intelligenz, eine künstliche Intelligenz dahinter, und ab wann ist es vielleicht wirklich noch so eine einfache Regelabarbeitung? Und das werden wir bei den Verfahren sehen, das verschwimmt so ein bisschen sicherlich. 

Eine weitere Definition sagt: Die künstliche Intelligenz ist die Fähigkeit von digitalen Computern, Aufgaben zu lösen, die normalerweise mit höheren intellektuellen Verarbeitungsfähigkeiten von Menschen in Verbindung gebracht werden. Das ist aus der Encyclopedia Britannica, zeigt nochmal einen anderen Aspekt, also nicht nur so aussehen, als ob Intelligenz vorhanden wäre, sondern tatsächlich etwas machen, was schon eine enorme Leistung beim Menschen, also eine intellektuelle Leistung beim Menschen ist. Und damit in Verbindung gebracht werden kann, das ist sicherlich nochmal ein Schritt mehr und kann sicherlich auch als gute Definition herangezogen werden. 

Elaine Rich geht noch einen Schritt weiter, würde ich sagen, und sagt: Artificial Intelligence is the study of how to make computers do things at which at the moment people are better. Da geht es jetzt nicht darum, auf dasselbe Level zu kommen, sondern einfach Dinge zu tun, die momentan noch von uns Menschen viel besser gemacht werden können. Und das ist, glaube ich, eine gute Definition, auch wenn man sich künstliche Intelligenz im Gesundheitswesen anschaut. Da haben wir alle die ganz, ganz vielen Anwendungsfälle im Kopf und wir sehen sicherlich ein paar Fälle, wo es schon richtig gute Anwendung gibt. Und wir sehen auch ein paar Fälle, wo man sagen muss, da sind die Menschen einfach momentan besser, da gibt es richtig coole Lösungen, aber die Menschen sind immer noch besser. Und ja, diese Anwendungsbeispiele, die schauen wir uns mal an, was, Renato? 

Ja, genau, also die Anwendungsbeispiele: Wenn man KI sich im Allgemeinen anschaut, dann werden ja künstliche Intelligenzen sehr häufig eingesetzt, wenn es um Signalverarbeitung geht. Das ist dann zum Beispiel Sprachverarbeitung, also Verarbeitung von natürlichen Sprachen, jeder kennt Alexa, oder wenn es um Bildverarbeitung geht. Da sind künstliche Intelligenzen sehr stark, und das zeigt sich dann eben auch im Gesundheitswesen, gerade in der Radiologie wird immer mehr KI eingesetzt. Und da die Kardiologie auch sehr viele bildverarbeitende Prozesse hat, ist auch dort das Thema KI ganz weit vorne. Da ist dann auch die Hoffnung — und die wird aktuell eigentlich schon ziemlich gut genährt —, dass KI etwas vielleicht nicht unbedingt besser machen kann als ein ausgebildeter und langjähriger Radiologe, aber dass sie es zumindest genauso gut kann, aber was bei ihr eben der Vorteil ist: Sie kann es um Welten schneller. Also wenn ein Radiologe mehrere Minuten an der Diagnostik von einem Bild sitzt, dann macht das die KI vielleicht in ein paar Sekunden, oder wenn es darum geht, Werte auszurechnen in der Kardiologie, dann sitzen da Kardiologen manchmal, ja, Minuten, eine Viertelstunde, eine halbe Stunde dran, und die KI macht das in rasender Geschwindigkeit. Also da ist die Hoffnung im Moment auch sehr groß, dass KI sehr stark nach vorne kommt. 

Und die KI wird nicht müde, das ist auch einer der ganz spannenden Punkte, die da zusammenhängen. Wenn man viele dieser Untersuchungen sich ein bisschen näher anschaut, dann gibt es immer so Werte am Anfang, also die ersten drei, fünf oder sieben Tests, da sind häufig die Ärzte noch viel, viel besser. Und dann wird es irgendwie, wenn die das Ganze vier Stunden am Stück, sechs Stunden am Stück machen, dann flacht das so ein bisschen ab, wohingegen die KI natürlich durchweg konstant gut bleibt, weil es immer der selbe Algorithmus ist sozusagen, der dahintersteckt, und damit eine konstante Trefferchance, wenn es jetzt um Erkennen von irgendwelchen pathologischen Veränderungen geht, vorhanden ist. 

Ja, und konstant eben nicht nur über die Zeit, sondern konstant auch über die verschiedenen Ärzte. Studien haben gezeigt, dass KI sich durchaus mit guten Fachärzten messen kann. Manchmal sind die Fachärzte dann doch noch mal ein bisschen erfahrener und man merkt es dann auch, dass die manchmal doch noch die Nase vorn haben. Aber wenn man dann bedenkt, dass es ja in einem Krankenhaus auch immer wieder junge, unerfahrene Ärzte gibt, dann ist die KI in diesen Fällen bestimmt besser als die jungen Ärzte und als unerfahrene Ärzte. 

Wo die KI jetzt auch schon eingesetzt wird, aber, ich sage mal, noch nicht so ganz den Durchbruch geschafft hat, ist in der Diagnosestellung. Es ist vielleicht auch einfach dadurch zu erklären, dass die Daten, die in so eine Entscheidung reingehen, sehr heterogen sind und sehr breit gefächert. Und ein Arzt, der hat ja dann auch nicht nur seine, ich sage mal, seine Laborwerte oder irgendwas, sondern der guckt sich ja ganz viele verschiedene Aspekte an. Und deswegen sind dann Diagnose-Apps im Moment noch nicht so wirklich weit vorne. Da ist dann als Beispiel zu nennen Ada, die im Moment gerade sehr beliebt ist und sehr gehypt wird. Da sind auch schon sehr große Erfolge mit erzielt worden, aber ich wüsste jetzt nicht, dass Ada tatsächlich irgendwo schon routinemäßig als Arztersatz eingesetzt würde. 

Ja, vielleicht habe ich jetzt auch nicht den großen Überblick, was Ada jetzt alles schafft, aber da sind wir tatsächlich noch sehr am Anfang. Ein anderes Projekt — das ist tatsächlich auch schon mehrfach gescheitert, leider — das ist von IBM der Watson, der ist ja auch ein Diagnosestell-Tool, der bekannt wurde als Jeopardy-Champion. Ja, genau. Und wir werden das nachher nochmal besprechen, dass Watson so ein bisschen einen anderen Ansatz hat, aber dort, wo er eingesetzt worden ist, ist er ja meines Wissens nach auch schon relativ bald immer wieder abgesetzt worden, weil die Ärzte gesagt haben, das bringt uns nix. 

Genau, dann gibt es noch andere Ansätze, zum Beispiel eben Diagnose-Apps, die mit natürlichsprachlichen Sachen arbeiten, also sowas wie ein Chatbot, der Diagnosen erfragt, oder ein Chatbot in der Psychiatrie, der Therapien macht. Da ist natürlich auch KI hintendran. Es gibt auf Intensivstationen Warnmeldungen, die anschlagen sollen, wenn ein Patient bestimmte Merkmale überschritten hat, auch hier sind manchmal jetzt nicht nur rein regelbasierte Systeme am Werk, sondern es gibt da auch Systeme, wo KI hintendran steckt, und wir werden nachher nochmal sagen, was wir dann nochmal speziell unter KI verstehen. Wir haben jetzt bestimmt nicht alle Ansätze von KI im Gesundheitswesen genannt, bitte verzeiht uns, wenn wir jetzt vielleicht euer Start-up nicht genannt haben oder eure Start-ups, die ich genannt haben — aber es gibt eben schon viele Ansätze. Richtig durchgesetzt haben sich auf jeden Fall die Sachen in der Radiologie, in der Kardiologie, aber auch dort sind wir noch relativ am Anfang und die Kurve geht hier steil nach oben. 

Genau, das war jetzt mal so ein erster Einblick in die Möglichkeiten der KI in der Medizin und im Gesundheitswesen. Es sollte ja nur so beispielhaft zur Veranschaulichung sein, kein Anspruch auf Vollständigkeit hier gegeben — dafür, wir wollten zwar längere Folgen produzieren mit dem Erreichen der Hundert, aber jetzt zumindest noch in akzeptablen Gesamtlängen bleiben, es soll uns ja auch noch jemand hören. 

Genau, als nächstes wollen wir weitermachen mit verschiedenen Verfahren. Also wie gesagt, künstliche Intelligenz, da steckt ganz, ganz viel dahinter, wie kann man da so ein bisschen Struktur, so ein bisschen Ordnung reinbringen, und eine dieser Strukturen oder Ordnungen könnte eben sein: Welches Verfahren steckt eigentlich dahinter? Und da kann man ganz, ganz grob unterscheiden, es gibt Verfahren, die auf Logik basieren, den ganz, ganz großen Bereich der Statistik, und das, was man vielleicht als Erstes im Bereich der KI vermutet, so neuronale Netze. Und zu den Sachen wollen wir mal so ein paar einführende Worte verlieren, auch da wieder: Das kann nur so eine Idee sein, was man da ganz grob drunter versteht. Und dann müsste man sich eigentlich das nächste Buch schnappen oder den nächsten Link raussuchen, um das Ganze nochmal intensiv zu vertiefen. 

Ich starte einfach mit dem Bereich der Logik, das ist das, was wir von ganz, ganz vielen anderen Bereichen eigentlich auch kennen. Es gibt die Aussagenlogik, es gibt die Prädikatenlogik. Aussagenlogik, so: Wenn es regnet, ist die Straße nass, und wenn ich dann eben weiß, es hat geregnet, dann kann ich daraus folgern, die Straße ist nass. Das Ganze kann ich natürlich jetzt wunderbar übertragen auf Symptome und Diagnosen oder auf andere Fälle bei Laborwerten — das ist vielleicht ein bisschen einfacher. Das heißt, wenn ich einen sehr spezifischen Laborwert habe, dann könnte ich sagen: Wenn dieser Marker anschlägt, dann kann ich auf folgende Krankheit schließen — das wäre die allgemeine Regel — und dann stelle ich irgendwo im System fest, dieser Marker ist vorhanden oder ein bestimmtes, sehr eindeutiges Symptom ist vorhanden, dann kann ich eben daraus schließen, dann gilt auch eben die Folge. 

So ein logisches Schließen hat viele Vorteile, ich habe Aussagen, die sind überprüfbar auf ihren Wahrheitsgehalt, die sind entweder erfüllbar, sind entweder allgemeingültig oder vielleicht auch unerfüllbar. Ich kann das ganz strukturiert und logisch abarbeiten, kann die einzelnen Elemente miteinander verknüpfen, kann das auch deduktiv sozusagen herleiten, das kann ich sogar beweisen, warum das so ist, über verschiedene Operatoren. Die Logik hat sicherlich viele Vorteile, hat aber auch irgendwo Grenzen, diese Grenzen sind darin zu finden, dass ich eben eine widersprüchliche Wissensbasis aufbauen kann. Das heißt, ich habe eine Wissensbasis, die ergänze ich nach und nach um weitere Elemente in meiner Wissensbasis, und auf einmal kann ich widersprüchliche Ableitungen erzeugen. 

Das Ganze kann man an einem schönen Beispiel machen, das kommt aus dem Buch von Wolfgang Ertel, „Künstliche Intelligenz“, in mehreren Auflagen erschienen. Das sagt: Wir haben eine Wissensbasis und da wird gesagt, Tweety, das ist ein Pinguin, Pinguine sind Vögel und Vögel können fliegen. Und aus diesen drei einzelnen Aussagen könnte ich eben ableiten: Tweety ist ein Pinguin, der fliegen kann. Jetzt wissen wir, Pinguine können nicht so gut fliegen, dann könnte ich ja auf die Idee kommen, meine Wissensbasis zu ergänzen, nämlich mit einer solchen Aussage: Pinguine können nicht fliegen. Das ändert aber nichts daran, dass in meiner Wissensbasis nach wie vor diese anderen drei Aussagen drin sind — Tweety ist ein Pinguin, Pinguine sind Vögel, Vögel können fliegen — und somit auch ein wahrer Schluss nach wie vor möglich ist, dass Tweety fliegen kann, aber eben auch, dass er nicht fliegen kann, weil er ein Pinguin ist und Pinguine nicht fliegen können. Also ich komme mit Logik unter Umständen an eine widersprüchliche Wissensbasis und das könnte natürlich zu Problemen führen. 

Und wir haben natürlich die Schwierigkeit, dass wir eben nicht, wie in der Informatik so schön, im 0-1er-Denken drin sind, das ist eine wahre Aussage oder das ist eine falsche Aussage, und das hängt immer noch von ganz vielen anderen Komponenten ab. Und das ist natürlich auch der Grund, warum wir gleich noch auf das Thema Statistik eingehen, da spielen eben auch bestimmte Wahrscheinlichkeiten und solche Sachen eine Rolle, das kann ich eben nicht alles logisch herleiten. Oder auch mein eigenes Beispiel, das ich gerade genannt hatte, mit dem von Symptomen auf die entsprechende Diagnose schließen, das klappt in den seltensten Fällen als direkter logischer Schluss. Das kann ich vielleicht bei so einem super eindeutigen Symptom wie einer Pestbeule, da kann ich das machen, da kann ich sagen, okay, wer so was hat, der hat dann wahrscheinlich auch die Erkrankung Pest. Aber bei einem Symptom wie Fieber, was bei ganz, ganz vielen Erkrankungen vorkommt, da kann ich natürlich mit logischen Schlüssen, was dann daran hängen könnte, nicht viel weiteres machen. 

Ein Vorteil, den die Logik in der KI hat, ist, dass sie aber auch nachvollziehbar ist. Also wenn man jetzt zum Beispiel erklären muss, wie ist diese Diagnose zustande gekommen, dann gibt es eben Regeln, und dann kann man sich anhand dieses Regelbaumes am Schluss zur Diagnose hangeln. Dann kann man nachvollziehen, okay, die KI hat die Diagnose aus den und den Gründen gestellt. Und wir werden ja nachher noch sehen, dass das nicht selbstverständlich ist, dass es eben auch gerade bei den neuronalen Netzen zumindest aktuell häufig noch so ist, dass man die Entscheidung nicht mehr nachvollziehen kann. Aber das ist jetzt hier ein Vorteil dieses logischen Vorgehens. 

Dann kommen wir zu dem großen Teil der statistischen Methoden. Statistische Methoden sind ja jetzt schon relativ lange im Einsatz und etabliert. Und wir machen daher schon ziemlich lange damit rum, gerade in der medizinischen Informatik, das ist ja ein sehr etablierter Zweig da. Das Tool, dieses Standardwerkzeug, ist dann zum Beispiel das Verwenden der Bayes-Formel, also Bayes’sche Statistik, und darauf aufbauend dann ganz viele abgeleitete Verfahren, wo man dann mit einer gewissen Wahrscheinlichkeit sich für die richtige Diagnose entscheiden kann. Aufbauend auf diesen statistischen Methoden gibt es dann ein ganzes Potpourri an Möglichkeiten — aber die neuronalen Netze waren ja eigentlich auf deiner Liste. 

Genau, dann machen wir damit mal weiter. Das hast du so logisch mal angedeutet, das, was die allermeisten als Erstes im Sinn haben, wenn man über künstliche Intelligenz spricht: neuronale Netze, als ein ganz großes Thema. Was steckt dahinter? Dahinter ist eigentlich die Grundidee, ein mathematisches Modell des Neurons für Computer auch zu nutzen oder für Berechnungen zu nutzen. Neuronen kennen wir eben aus der neurologischen Forschung. Die Grundidee ist, dass ich da so eine Art Speicher habe, und der bei der Überschreitung eines Schwellenwerts, einer Spannung, die in diesem Speicher dann ankommt, sozusagen feuert. Und damit andere Neuronen aktiviert. Das Lernen auch in unseren Gehirnen funktioniert dann eben durch Anpassung der entsprechenden Neuronenverbindung durch diese Synapsen, so heißen diese Verbindungen. Das heißt, wenn da ganz oft auf einer bestimmten Ebene gefeuert wird, dann wird diese Verbindung verändert, diese Synapsen verändern sich. Und dadurch habe ich bestimmte Lernprozesse ermöglicht. Und diese Grundidee sollte eben in einen Computer übertragen werden. 

Und ich habe also, man kann es jetzt ganz grob vielleicht so vorstellen, dass ich einen Eingabe-Vektor habe und einen Ausgabe-Vektor habe. Und jetzt diese beiden irgendwie sozusagen, in einem einfachsten Fall, in einem Netz verbinde und irgendwie jetzt schauen muss, welche Kombination meines Eingabe-Vektors mit welchen Ausgabe-Vektoren assoziiert. Das heißt, dazwischen, wie er es gerade schon gesagt hat, stecken also weitere Variablen, Neuronen sozusagen, die künstlich modelliert sind, die diese Verbindung herleiten. Also ich kann das in verschiedenen neuronalen Netzen machen. Ich kann zweischichtige Netze aufbauen, ich kann dreischichtige Netze aufbauen. Ich kann diese Netze nur vorwärts durchlaufen, ich kann sie vorwärts und rückwärts durchlaufen. Es gibt rekursive neuronale Netze und eben auch verschiedene Netze, die mit den einzelnen Neuronen noch so ein bisschen rumspielen, dass sie etwas andere Eigenschaften haben. Aber die Grundidee ist immer gleich: Ich habe letzten Endes einen Eingabe-Vektor, einen Ausgabe-Vektor, und durch verschiedene Lernregeln versuche ich jetzt diese Verbindung anzupassen. Das heißt, wenn mein Eingabe-Vektor zum Ausgabe-Vektor nicht passt, dann muss ich eben die Stellschrauben in die richtige Richtung drehen. Das heißt, ich lasse alle meine Gewichte, so heißen die in einem Bereich der neuronalen Netze, so ein bisschen verändern, in die richtige Richtung zeigen. In der Hoffnung, dass es beim nächsten Durchlauf schon wieder etwas besser passt, und dann wird dieses Netz immer wieder weiter angepasst, durch zahlreiche Trainingsdatensätze lernt dieses Netz und irgendwann habe ich dann hoffentlich ein zufriedenstellendes Ergebnis. Wobei, auch da gibt es Unterschiede, es gibt Netze, die selbstlernend sind sozusagen, und Netze, die mit einem Lehrer trainiert werden. 

Einer der wichtigsten Anwendungsbereiche der neuronalen Netze ist eigentlich die Mustererkennung, gerade im Bereich Personen oder Gesichter, aber auch gesprochene Sprache, handschriftliche Texte, all diese Dinge. Da kann ich ganz, ganz viel mit Mustererkennung machen, ich kann ein Netz im Vorfeld trainieren, dass bestimmte Sachen erkannt werden, und das dann eben lernen lassen und weitere Elemente dann erkennen lassen. Ein Problem — also diese neuronalen Netze haben natürlich auch nicht nur Vorteile — könnte aber bei so einem Netz sein, dass es auch unter Umständen bekannte Muster wieder verlernt. Also wenn ich ein Netz habe, das ich dann sozusagen übertrainiere, ich versuche dem immer mehr beizubringen, dann kann natürlich irgendwann sein, dass die Stellschrauben so weit angepasst werden, dass bestimmte neue Muster nun erkannt werden, aber alte Muster, die schon lange bekannt waren, dann vielleicht nicht mehr erkannt werden. Das ist sicherlich eine der Schwierigkeiten im Bereich der neuronalen Netze. 

Okay, also wenn man jetzt die Verfahren nochmal zusammenfassen oder in Klassen zusammenfassen will, dann würde ich das jetzt mal hier in zwei große Bereiche einteilen. Einmal sind das so die regelbasierten künstlichen Intelligenzen, wo man als derjenige, der die KI programmiert, sich tatsächlich auf die Regeln fokussiert und sagt, okay, wenn dieser Wert kommt, dann geh in die Richtung, und wenn dieser Wert kommt, dann geh in die Richtung. Und es gibt das große Feld der datengetriebenen KI, wo wir die Regeln gar nicht selbst definieren, sondern wo wir sagen, okay, wir geben die Daten in die KI rein und die KI soll sich diese Regeln selbst zusammenschustern, ohne dass wir jetzt da in die Regeln eingreifen wollen. Und die ersten Verfahren, also die regelbasierten Verfahren, das sind diejenigen, ja, die sind eigentlich schon relativ alt, und die KI, die früher als KI bezeichnet wurde, die hatte eigentlich diese Regelbasierung im Fokus gehabt. Und so in den letzten Jahren ist das immer mehr in den Hintergrund gerückt und die datengetriebene KI hat sich in den Vordergrund gestellt. 

Jetzt kann man natürlich sagen, okay, die logischen Verfahren haben damit ausgedient und wir fokussieren uns auf die datengetriebenen Verfahren, aber diejenigen, die das schon seit Jahren und Jahrzehnten machen, die schwören trotzdem noch auf ihre Logik. Und die Verfahren, die wir vorhin genannt haben, Ada, Watson, die Verfahren in der Radiologie und Kardiologie, die lassen sich jetzt auch so ein bisschen einordnen. Also Ada, das ist zwar auch so ein bisschen mit neuronalen Netzen und mit KI gefüttert, aber da sind auch viele Regeln, die von Ärzten eingegeben werden. Also wo es tatsächlich Ada-Regeln gibt, das ist also keine rein datengetriebene KI, sondern das ist so ein Mischmasch aus beidem. Da ist jetzt meines Wissens nach gar kein datengetriebener Teil drin, sondern da wird versucht, dass man aus Journals, aus Veröffentlichungen sich Regeln raussucht und diese Regeln dann in Diagnostikregeln umwandelt. Hier sieht man auch schon, dass dieses Logikgetriebene, dieses Regelbasierte vielleicht nicht so wahnsinnig gut ankommt aktuell. Und die Sachen, wo es tatsächlich um Daten geht, Radiologie, Kardiologie, da scheint sich die KI durchzusetzen. 

Ja, dann schauen wir uns noch ein paar Probleme, Risiken, Potenziale an. Wo gibt’s denn hier Möglichkeiten, wo gibt’s Fallstricke? Da können wir da weitermachen, wo du gerade aufgehört hast, nämlich mit: In welchen Anwendungsfällen findet da tatsächlich eine Arbeitserleichterung statt? Das ist ja häufig das Ziel, das große Potenzial. Wir haben es in der Einleitung schon gesagt, eine KI wird nicht müde, eine KI ist bestimmt zuverlässig in einem bestimmten Bereich. Und da gab es beispielsweise einen schönen Forschungsartikel, das im Jahr 2017, von Jiang et al., „Artificial Intelligence in Healthcare: Past, Present and Future“, wo aufgezeigt wird, in welchen Bereichen die KI eingesetzt wird. Der größte Einsatzbereich ist das Diagnostic Imaging, also es passt eben zu dem, was du gerade gesagt hast, Renato, wo ich genau anhand der Daten versuche, irgendwie auffällige Elemente zu finden oder irgendwie Abweichungen von der Norm in irgendeiner Form in den Bildern, die da eigentlich nicht hingehören. Das ist hier der ganz, ganz große Anwendungsbereich. Was da eher kleiner ist und untergeht, sind eben die ganzen Bereiche mit „die passende Diagnose finden“ oder solche Sachen. Weitere Anwendungsbereiche, große Bereiche, sind genetische Algorithmen sozusagen, da im Bereich der Bioinformatik, auch da gibt es sicherlich viel, was man datengetrieben machen kann. 

Generell kann man sagen, das Potenzial ist vor allem eine Form der Arbeitserleichterung, eine Teilautomatisierung. Wenn man einfach wesentlich schneller bestimmte Elemente schon im Vorfeld automatisch erkennen kann, ohne dass der Arzt da richtig aktiv werden muss. Und weitere Potenziale sind sicherlich auch Generierung sozusagen von neuem Wissen, also dass ich auf bestehenden Elementen meine Wissensbasis dann selber erweitere, dadurch vielleicht irgendwie zu neuen Elementen beitragen kann, die jetzt noch gar nicht bekannt sind. 

Genau, aber es gibt ja nicht nur das Positive, sondern es gibt auch Probleme oder Sachen, an die man denken muss. Eine ganz wichtige Sache, gerade bei den datengetriebenen KI-Ansätzen, ist, dass man eben auch einen Riesen-Datenpool braucht. Also da reicht es dann nicht, vielleicht mal so 50 oder 100 Datensätze zu haben, sondern um wirklich gute und valide Ergebnisse zu ermitteln, braucht man teilweise 10.000 und 100.000 Datensätze, je nachdem, in was für einem Anwendungsbereich wir uns bewegen. Und an die Daten kommt man eben nicht immer so leicht dran. Es gibt so große Datenkraken wie Google, Facebook, die haben solche Riesen-Datenpools, und Apple, die sich jetzt auch sehr stark im Gesundheitssektor bewegen, die können auch auf solche große Datenmengen zugreifen, aber gerade diejenigen, die gerne forschen würden, die haben eben da das Nachsehen. 

Da kann man vielleicht auch noch mal ansetzen oder noch mal in Erinnerung rufen, das Patientendaten-Schutzgesetz. Ich habe jetzt extra nicht „Datenschutzgesetz“ gesagt, sondern „Patientendaten-Schutzgesetz“. Das sieht ja auch sowas wie Datenspenden vor. Und wenn man mit dem grundsätzlichen Ansatz d’accord läuft, dann sollte man sich später tatsächlich mal überlegen, ob man seine Daten spenden will. Die heutige Forschung ist absolut angewiesen auf große Datenmengen. Und ja, man muss dann natürlich auch Vertrauen haben, dass diejenigen, die mit den Daten umgehen, die auch wirklich anständig verwenden. 

Und ein weiteres Problem ist, dass man gerade bei diesen regelbasierten KI-Systemen ja eigentlich versucht, Regeln in der medizinischen Diagnostik in niedergeschriebene, in computerlesbare Regeln umzuwandeln. Und jetzt war zwar meine Ärzte-Tätigkeit nicht so lange, aber was ich häufig festgestellt habe, ist, dass man natürlich als Arzt die Regeln kennen soll. Und das ist natürlich auch so, dass die Ärzte die leidlich kennen und viel noch als theoretisches Wissen haben, aber dass es viele Entscheidungen gab, die gar nicht so sehr auf offensichtlichen Regeln passiert sind, sondern die auf Bauchgefühl-Regeln entstanden sind. Und Bauchgefühl ist ja sowas Ähnliches wie eine KI. Unser menschlicher Körper, unser Gehirn hat eine Situation, mehrere Situationen abgespeichert im Kopf. Und dann wird quasi in Sekundenbruchteilen, werden diese Erinnerungen gar nicht mehr ins bewusste Erinnern genommen, aber man merkt, okay, das ist jetzt die richtige Entscheidung. Und je länger und je älter ein Arzt ist und je mehr Erfahrung er gesammelt hat, desto mehr entwickelt er dieses Bauchgefühl, das überhaupt nicht in Regeln fassbar ist. Das ist vielleicht eher so eine Art datengetriebene KI, die er in sich selbst drin hat und die dann eben eher so funktioniert wie eben die datengetriebene KI. Man sitzt vor einer Situation, der Bauch merkt, okay, so eine ähnliche Situation hatte ich schon mal, hier muss ich absolut aufpassen, vielleicht ist bei der letzten Situation, wo das passiert war, ein Patient gestorben und das hat einen tief in die Krise getrieben. Und man hat das irgendwie noch verinnerlicht und dann fängt der Kopf an und sagt, okay, Achtung, hier muss ich noch mal ganz besonders tief gehen. Aber diese Regel, bei dieser Situation muss ich noch mal ganz, ganz genau tief gehen, die lässt sich nicht in ein Logiksystem überführen. Und deswegen scheitern vielleicht auch einige Logiksysteme daran, dass viele medizinische Entscheidungen gar nicht so wirklich regelbasiert passieren. 

Das Ganze gilt aber nicht nur für die Regeln, sondern das Ganze gilt sicherlich auch bei unterschiedlichen Referenzpopulationen. Also wenn es irgendwie eine wissenschaftliche Evidenz gibt, dann ist es häufig so, dass diese Evidenz an einer bestimmten Kohorte nachgewiesen wurde. Das heißt, es wurden irgendwelche Zusammenhänge gezeigt, das gilt aber noch lange nicht für beliebige Personengruppen. Und da gibt es eben auch Unterschiede zwischen Patienten, die gibt es inzwischen bei ganz, ganz vielen Erkrankungen. Bei den Erkrankungen, das macht die Diagnostik ja gerade ebenso schwer, jeder Mensch ist einzigartig. Er hat ein individuelles Spektrum an Gesundheitsparametern sozusagen, an eigener Vorgeschichte, an Belastung, aber auch an Schutzmechanismen sozusagen. Und das Ganze muss nun letzten Endes evaluiert werden, das heißt, nicht jegliches Ergebnis aus jeder Studie kann direkt eins zu eins übertragen werden. Und Dinge können falsch zitiert werden, es kann da auch die üblichen Fehler Richtung Publication Bias geben und so weiter. Und man muss eben gucken, lässt sich das, was man da gefunden hat, tatsächlich auch auf den konkreten Einzelfall sozusagen übertragen. Und ich glaube, das ist eigentlich so die wahnsinnige Leistung der Ärzte, also den Einzelfall zu betrachten und den dann entsprechend zu behandeln. 

Die Psychologen haben das in einem Artikel ganz schön klargemacht, der Artikel heißt „The weirdest people in the world?“ und macht nochmal deutlich, dass ein ganz, ganz großer Teil unserer Forschung mit Western, educated, industrialized, rich and democratic societies passiert. Das heißt, nahezu alle unsere Probanden in den wissenschaftlichen Studien kommen eben aus diesen Verhältnissen. Und das lässt sich sicherlich auf einige Aspekte übertragen, aber ich kann natürlich nicht logisch darauf schließen, dass das für alle anderen Gesellschaften genauso gelten muss. Das kann natürlich dann im schlimmeren Fall auch dazu führen, dass bestimmte Personengruppen dadurch diskriminiert werden, wenn sie eben damit nicht berücksichtigt werden bei solchen Geschichten. Also sicherlich ein größeres Problem beim Thema KI. 

Neben diesen Problemen gibt es natürlich auch ein paar Risiken. Es gibt viele Leute, die davor warnen, dass da irgendwie eine Superintelligenz entwickelt werden könnte, also eine KI, die irgendwann den Menschen übertrifft und selber eigene Ziele verfolgt. Dann müsste man da noch eingreifen, man müsste irgendwelche Kontrollmechanismen in die künstliche Intelligenz mit einbauen — also selbst große IT-Spezialisten oder Unternehmer warnen da hin und wieder. Das ist, glaube ich, vor ein paar Jahren richtig aufgepoppt, als es da irgendwie um Drohnenangriffe mit KI und so ging, dass man gesagt hat, also das ist etwas, da soll keine künstliche Intelligenz enthalten sein, wo Menschen ihr Leben verlieren oder solche Sachen. Und das Ganze lässt sich natürlich auch in vielen Bereichen aufs Gesundheitswesen übertragen. Auch da kann es zu Fehlern kommen, wie geht man dann mit solchen Sachen um, wer ist dann schuld, der Informatiker, der Arzt, das Krankenhaus, das es eingesetzt hat — also ganz, ganz viele Risiken, die da sicherlich mit verbunden sind. 

Dann macht’s gut, bis dann, tschüss! Bis dann!