Die US-amerikanische Krankenversicherung United Healthcare steht wegen der Diskriminierung von Patienten vor Gericht. Ein selbst entwickeltes KI-System soll unberechtigterweise Krankenkassen-Leistungen gekürzt haben.
Künstliche Intelligenz ist nach wie vor in aller Munde. Egal, ob Google, Microsoft oder OpenAI: Jedes Unternehmen bietet inzwischen eigene KI-Lösungen für Endverbraucher an. Doch die Digitalisierung birgt in diesem Bereich auch viele Risiken. So ist noch immer nicht abschließend geklärt, inwieweit Vorurteile und Diskriminierung innerhalb eines Algorithmus vermieden werden können.
Schließlich ist jeder Algorithmus nur so neutral, wie dessen Entwickler. In den USA bekamen kürzlich etliche Menschen zu spüren, wie eine dystopische KI-Zukunft aussehen könnte. Denn ein automatisiertes System beim größten Versicherer des Landes, United Healthcare, lehnte systematisch Leistungen für Versicherte ab.
KI kürz Krankenkassen-Leistungen und überstimmt Ärzte
Das System überstimmte etwa die Diagnose von Ärzten und enthielt älteren Patienten teils lebenswichtige Behandlungen vor. Auf diesem Weg kürzte der Versicherer seinen Kunden Reha- und Pflegeleistungen. Im Resultat verschuldeten sich viele Haushalte, um die lebenswichtige Versorgung aufrechterhalten zu können. Diese Vorwürfe sind der Grund, weshalb derzeit ein Verfahren gegen den Versicherer läuft.
Interne Dokumente und Gesprächsprotokolle stützen die Klage gegen United Healthcare. Außerdem befragte ein Nachrichtenportal ehemalige Mitarbeiter des Tochterunternehmens, das den Algorithmus für die Versicherung entwickelte. Dieser wurde 2019 eingeführt und übernimmt seither Entscheidungen rund um die Folgekosten nach dem Unfall eines Patienten. Darunter fallen etwa Pflege- oder Therapiekosten.
Diskriminierung durch KI auf Basis von Alter und Lebenssituation
Dabei ist vollkommen unklar, wie der Algorithmus seine Entscheidungen fällt. Die Quelldaten bezieht die KI aus einer internen Datenbank mit Informationen zu über sechs Millionen Patienten. Daneben spielen Alter, Lebenssituation und physischer Zustand wohl eine entscheidende Rolle. Dynamische oder individuelle Eigenschaften berücksichtigt das System hingegen nicht.
Das hat zur Folge, dass Patienten, denen normalerweise 100 Tage in einem Pflegeheim zustehen, nach 14 Tagen die Leistungen gestrichen werden. Auch das Urteil von Ärzten ignoriert United Healthcare. Ferner lehnte das Unternehmen Anfragen, ob Kunden Einsicht in den Algorithmus erhalten könnten, kategorisch ab. Der Ausgang der Klage dürfte daher wegweisend für KI im Medizinsektor sein.
Auch interessant:
Künstliche Intelligenz von Google soll Wetter genauer vorhersagen als je zuvor
Das sind die 10 größten Risiken von Künstlicher Intelligenz
Künstliche Intelligenz ist überhaupt nicht intelligent – sagen Forscher
KI-Studie: Reiseerlebnisse sind intensiver als der erste Kuss