Ein KI-System empfiehlt die falsche Medikamentendosis. Ein autonomer Chatbot gibt einem Kunden fehlerhafte Rechtsauskunft. Ein KI-gesteuertes Fahrzeug verursacht einen Unfall. Diese Szenarien sind nicht mehr hypothetisch – sie passieren. Und die zentrale Frage lautet: Wer haftet?
Die KI-Haftungsfrage ist 2026 eine der drängendsten rechtlichen Herausforderungen überhaupt. Das liegt daran, dass klassische Haftungskonzepte auf physische Produkte oder menschliches Handeln ausgelegt sind – nicht auf lernende Algorithmen, die selbstständig Entscheidungen treffen.
In diesem Artikel klären wir, wie die Haftungslage in Deutschland und der EU aktuell aussieht, welche Änderungen der EU AI Act bringt und was Unternehmen konkret tun müssen, um sich abzusichern.
Das deutsche Produkthaftungsgesetz (ProdHaftG) haftet den Hersteller für fehlerhafte Produkte. Doch ist eine KI-Software ein Produkt? Ja – seit der Reform der EU-Produkthaftungsrichtlinie 2024 gilt Software ausdrücklich als Produkt. Das bedeutet: Der Hersteller eines KI-Systems haftet für Schäden, die durch einen Fehler im System entstehen – und zwar verschuldensunabhängig.
Das klingt einfach, ist es aber nicht. Bei klassischen Produkten ist klar, was ein 'Fehler' ist: Ein Bremssattel, der bricht, ist fehlerhaft. Bei einer KI, die auf der Grundlage von Trainingsdaten lernt und sich weiterentwickelt, ist die Frage schwieriger. War der Algorithmus fehlerhaft? Die Trainingsdaten? Die Integration? Oder hat der Betreiber das System falsch eingesetzt?
Genau hier entsteht das sogenannte Haftungsgefüge: Entwickler, Betreiber, Nutzer und in manchen Fällen sogar Datenprovider können jeweils anteilig in der Verantwortung stehen.
Der EU AI Act, der seit August 2024 schrittweise in Kraft tritt, teilt KI-Systeme in Risikoklassen ein. Hochrisiko-KI – etwa in Medizin, Justiz, kritischer Infrastruktur oder Personalentscheidungen – unterliegt strengsten Anforderungen: Technische Dokumentation, Konformitätsbewertung, menschliche Aufsicht, Transparenzpflichten. Wer diese Pflichten verletzt, haftet nicht nur zivilrechtlich, sondern riskiert Bußgelder bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.
Für Unternehmen, die KI-Systeme betreiben (also nicht selbst entwickeln, sondern einsetzen), gilt: Die Betreiberhaftung ist in den letzten Jahren erheblich gestiegen. Wer eine KI-Lösung in seinen Betrieb integriert, muss sicherstellen, dass sie den gesetzlichen Anforderungen entspricht – auch wenn er sie zugekauft hat.
Ein häufiger Fehler: Unternehmen glauben, durch AGB oder Haftungsausschlüsse vollständig abgesichert zu sein. Das ist falsch. Vertragliche Haftungsbeschränkungen gelten nicht gegenüber Verbrauchern bei Personenschäden und nicht bei grober Fahrlässigkeit. Wer als Unternehmer eine KI-Anwendung einsetzt und dabei keine ausreichende Qualitätskontrolle betreibt, handelt grob fahrlässig.
Besonders komplex ist die Situation bei KI-generierten Inhalten. Wenn ein KI-System falsche Tatsachen verbreitet oder jemanden verleumdet – wer haftet? Die aktuelle Rechtsprechung tendiert dazu, den Betreiber des KI-Systems als verantwortlich anzusehen, sofern er keine angemessenen Kontrollmechanismen eingeführt hat. Das betrifft Chatbots, automatische E-Mail-Antworten, KI-gestützte Beratungssysteme und Content-Generatoren.
Im medizinischen Bereich gelten noch strengere Regeln. KI-Systeme, die diagnostische oder therapeutische Empfehlungen ausgeben, sind in der Regel als Medizinprodukte eingestuft. Hier greift die MDR (Medical Device Regulation) mit eigenen Konformitätspflichten. Fehler können hier existenzielle Konsequenzen haben – sowohl für Patienten als auch für die haftenden Unternehmen.
Was sollten Unternehmen jetzt konkret tun? Erstens: Eine KI-Risikobewertung durchführen. Welche KI-Systeme sind im Einsatz? In welche Risikoklasse fallen sie? Zweitens: Technische und organisatorische Maßnahmen dokumentieren. Der EU AI Act verlangt Nachweisbarkeit. Drittens: Verträge mit KI-Anbietern prüfen – insbesondere Haftungsklauseln, Audit-Rechte und Update-Pflichten.
Viertens: Interne Prozesse für den Fehlerfall definieren. Wer ist zuständig, wenn das KI-System einen Schaden verursacht? Gibt es eine Notabschaltmöglichkeit? Gibt es Eskalationspfade? Und fünftens: Versicherungsschutz überprüfen. Klassische Betriebs- oder Berufshaftpflichtversicherungen decken KI-bedingte Schäden häufig nicht oder nicht vollständig ab. Spezialisierte KI-Haftpflichtprodukte werden immer wichtiger.
Ein weiterer Aspekt, der oft unterschätzt wird: Diskriminierung durch KI. Wenn ein Algorithmus Kreditanträge, Stellenbesetzungen oder Versicherungsprämien auf Grundlage von Merkmalen entscheidet, die mittelbar mit Rasse, Geschlecht oder Religion zusammenhängen, ist das nach AGG und DSGVO problematisch. Mehrere Gerichtsurteile aus 2025 haben klargestellt, dass Unternehmen für diskriminierende KI-Entscheidungen haftbar gemacht werden können.
Die neue EU-KI-Haftungsrichtlinie (AI Liability Directive), die parallel zum AI Act erarbeitet wird, soll die Beweislast erleichtern. Bisher muss der Geschädigte nachweisen, dass ein KI-Fehler den Schaden verursacht hat – was technisch enorm schwierig ist. Die neue Richtlinie soll eine Beweislastumkehr einführen: Wenn ein KI-System in einem Hochrisikobereich einen Schaden verursacht, wird vermutet, dass der Fehler im System lag – es sei denn, der Betreiber kann das Gegenteil beweisen.
Für KMUs ist das eine erhebliche Belastung. Die gute Nachricht: Der EU AI Act sieht vereinfachte Anforderungen für kleine und mittelständische Unternehmen vor – insbesondere bei der technischen Dokumentation und den Konformitätsbewertungen. Dennoch sollten auch KMUs das Thema nicht auf die lange Bank schieben. Aufsichtsbehörden beginnen 2026 mit aktiver Kontrolle.
Fazit: Die KI-Haftungsfrage ist keine abstrakte Zukunftsdiskussion mehr. Sie ist gelebte Realität. Unternehmen, die KI einsetzen, tragen rechtliche Verantwortung – und sollten proaktiv handeln, bevor der erste Schadensfall eintritt. Der Prozessmeister unterstützt Unternehmen dabei, KI-Systeme rechtssicher zu implementieren und die notwendige Dokumentation aufzubauen.
