Ein Logistikroboter rammt im Lager eine Palette, die Ware fällt auf einen Mitarbeiter. Ein selbstfahrendes Lieferfahrzeug übersieht ein Kind auf dem Gehweg. Eine KI-gestützte Operationsassistenz empfiehlt die falsche Dosierung. Szenarien wie diese sind längst keine Gedankenexperimente mehr. Sie passieren, und sie landen vor Gericht. Doch das Recht hat die Technik noch nicht eingeholt.
Wo das deutsche Haftungsrecht heute steht
Das klassische Deliktsrecht nach § 823 BGB setzt Verschulden voraus: Wer schuldhaft handelt und dadurch einen Schaden verursacht, muss haften. Bei autonomen Systemen scheitert dieses Prinzip schnell. Eine Maschine handelt nicht schuldhaft, sie führt Algorithmen aus. Und wenn niemand manuell eingegriffen hat, fehlt der klassische Zurechnungspunkt.
Ergänzend greift das Produkthaftungsgesetz, das auf der EU-Produkthaftungsrichtlinie beruht. Es macht Hersteller verschuldensunabhängig haftbar, wenn ein Produkt fehlerhaft ist und dadurch ein Schaden entsteht. Das klingt passend, hat aber eine zentrale Schwäche: Autonome Systeme lernen. Ein Roboter, der bei der Auslieferung einwandfrei funktionierte, entwickelt durch maschinelles Lernen neue Verhaltensweisen. Ob der Schaden dann noch auf einen ursprünglichen Produktfehler zurückgeht oder auf eine Entscheidung, die das System autonom getroffen hat, ist juristisch kaum sauber trennbar.
Die EU-KI-Verordnung: Rahmen ohne Haftungsregel
Seit August 2024 gilt die europäische KI-Verordnung (AI Act) verbindlich und wird schrittweise angewendet. Sie klassifiziert KI-Systeme nach Risikoklassen und schreibt für Hochrisikobereiche wie Medizintechnik, Infrastruktur oder Strafverfolgung strenge Anforderungen vor: Transparenz, Dokumentation, menschliche Aufsicht. Was der AI Act nicht leistet, ist eine klare Haftungsregel. Er regelt, wer ein System in Verkehr bringen darf und wie. Aber wenn das System trotzdem Schaden anrichtet, verweist er auf nationales Zivilrecht.
Parallel dazu hat die EU-Kommission eine überarbeitete Produkthaftungsrichtlinie vorgelegt, die ausdrücklich auf Software und KI ausgedehnt wird. Sie soll die Beweislast verschieben: Wer als Geschädigter nachweisen kann, dass ein Produkt den gesetzlichen Anforderungen nicht entsprach, soll von einer Kausalitätsvermutung profitieren. Das wäre ein echter Fortschritt. Die Richtlinie muss aber noch vollständig in nationales Recht umgesetzt werden.
Hersteller, Betreiber, Nutzer: Wer ist dran?
In der Praxis kommen 2026 mehrere Haftungsebenen in Betracht:
- Hersteller haften nach Produkthaftungsrecht, wenn der Fehler im System selbst liegt, also in Konstruktion, Code oder Trainingsdaten.
- Betreiber haften, wenn sie ein System pflichtwidrig einsetzen, etwa ohne ausreichende Wartung, ohne Schulung der Mitarbeiter oder außerhalb des vorgesehenen Einsatzbereichs.
- Nutzer können haften, wenn sie trotz Warnsignalen weitergemacht oder manuelle Eingriffsmöglichkeiten ignoriert haben.
- Entwickler von Teilkomponenten geraten ins Bild, wenn das Problem in einem zugekauften Modul liegt, zum Beispiel einem fremden Kamerasystem oder einer Drittanbieter-KI.
In vielen Fällen wird das Ergebnis eine Haftungskette sein, bei der mehrere Parteien anteilig verantwortlich sind. Das ist für Geschädigte unbefriedigend, weil sie gegen mehrere Schuldner vorgehen müssen, von denen jeder auf den anderen zeigt.
Ethik als Rechtsrahmen: Mehr als Philosophie
Hinter der juristischen Debatte stecken grundlegende Fragen, die sich nicht allein mit Paragraphen beantworten lassen. Darf ein autonomes System so programmiert werden, dass es im Notfall das kleinere Übel wählt, also beispielsweise einen Einzelnen gefährdet, um eine Gruppe zu schützen? Wer trägt Verantwortung für diese Vorabentscheidung? Institutionen wie die Hochschullehre und anerkannte Fachgremien beschäftigen sich intensiv mit den ethischen Fragen der Robotik, und ihre Ergebnisse fließen zunehmend in Regulierungsvorschläge ein. Gerichte werden sich auf solche Grundsätze stützen müssen, wenn das Gesetz schweigt.
Die EU-Kommission hat in ihren Leitlinien zur vertrauenswürdigen KI explizit Prinzipien wie Schadensvermeidung, Transparenz und menschliche Kontrolle verankert. Diese Prinzipien haben zwar keine direkte Gesetzeskraft, aber sie prägen die Auslegung des AI Act und werden von Richtern als Orientierung herangezogen.
Praxisbeispiel: Selbstfahrendes Fahrzeug im Stadtverkehr
Konkret wird die Frage bei Level-4-Fahrzeugen, die bereits in Pilotprojekten auf deutschen Straßen fahren. Das Straßenverkehrsgesetz wurde 2021 für autonome Fahrzeuge geöffnet, seitdem gibt es eine technische Aufsichtsperson statt eines Fahrers. Verursacht das Fahrzeug einen Unfall, haftet zunächst der Halter über die Kfz-Haftpflichtversicherung. Der Versicherer kann dann prüfen, ob er beim Hersteller Regress nehmen kann, falls ein Systemfehler vorlag. In der Realität laufen solche Verfahren über Jahre, weil Unfalldaten ausgewertet, Systemlogs gesichert und Sachverständige beauftragt werden müssen.
Das Kraftfahrtbundesamt erfasst bereits Betriebsdaten automatisierter Fahrzeuge und spielt damit eine wachsende Rolle bei der Aufklärung solcher Fälle. Technische Dokumentationspflichten werden damit zur entscheidenden Haftungsgrundlage: Wer keine Logs hat, kann sich nicht entlasten.
Was Unternehmen und Privatpersonen jetzt tun sollten
Wer autonome Systeme betreibt, sollte drei Dinge sicherstellen. Erstens: vollständige Dokumentation aller Systemversionen, Updates und Wartungsmaßnahmen. Zweitens: klare vertragliche Regelungen mit Herstellern, die Haftungsfragen bei Fehlfunktionen explizit adressieren. Drittens: ausreichende Versicherungsdeckung, weil die Standardprodukhaftpflicht für lernende Systeme oft Lücken hat.
Wer als Privatperson durch einen Roboter oder ein autonomes System geschädigt wird, sollte sofort Beweise sichern: Fotos, Zeugen, und wenn möglich, den Zugriff auf Systemprotokolle verlangen. Gerichte haben in ersten Urteilen klargestellt, dass Betreiber eine Pflicht zur Datensicherung haben. Wer Logs löscht oder nicht vorhält, riskiert eine Beweislastumkehr zu seinen Ungunsten.
Die Rechtslage bleibt 2026 im Fluss. Wer mit autonomen Systemen zu tun hat, kommt nicht umhin, die gesetzliche Entwicklung aktiv zu beobachten. Informationen über laufende Gesetzgebungsverfahren auf EU-Ebene bietet das Europäische Parlament regelmäßig und transparent auf seinen Webseiten an.
