KI im Unternehmen: die Haftung, an die niemand denkt
Ihre Mitarbeiter nutzen KI längst. Die Frage ist nicht mehr, ob Sie einsteigen, sondern ob Sie wissen, wofür Sie dabei einstehen.
Wo Ihr Risiko tatsächlich liegt
Die meisten Beiträge zum Thema handeln von Regulierung. Für einen mittelständischen Betrieb ist das nicht der wichtigste Teil.
Ihr Risiko entsteht dort, wo eine KI-gestützte Entscheidung oder Ausgabe einen Schaden bei jemand anderem verursacht. Und dann stellt sich die Frage, wer dafür einsteht.
Die drei praktischen Fälle
- Falsche Auskunft: Ein Chatbot auf Ihrer Website sagt einem Kunden etwas Falsches zu, und der verlässt sich darauf.
- Fehlerhafte Ausgabe im Produkt: Sie liefern Software oder Steuerung mit KI-Anteil, und die Entscheidung war falsch.
- Fehler im internen Prozess: Kalkulation, Konstruktion, Qualitätsprüfung oder Angebotserstellung stützen sich auf KI-Ausgaben, die niemand geprüft hat.
Der dritte Fall ist der häufigste und der am wenigsten beachtete. Es gibt keinen KI-Schaden, es gibt einen ganz normalen Fehler in Ihrer Leistung, der nur anders entstanden ist.
Was das für Ihre Policen bedeutet
Zunächst gute Nachrichten: Ein Sach- oder Personenschaden bleibt ein Sach- oder Personenschaden, unabhängig davon, wie er zustande kam. Die Betriebshaftpflicht greift nicht deshalb nicht, weil KI beteiligt war.
Schwieriger sind reine Vermögensschäden. Wenn niemand verletzt und nichts beschädigt wurde, sondern nur ein wirtschaftlicher Nachteil entstanden ist, greift der Grundvertrag nicht.
Genau diese Konstellation ist bei KI-Fehlern typisch. Mehr unter Vermögensschadenhaftpflicht.
- Seit Februar 2025: Pflicht zu ausreichender KI-Kompetenz in Unternehmen, die KI einsetzen, sowie Verbot bestimmter Praktiken
- Ab 2. August 2026: Pflichten für Hochrisiko-Systeme nach Anhang III sowie Kennzeichnung KI-generierter Inhalte
Die Produkthaftung ändert sich
Das ist der Punkt, der in der Diskussion untergeht und der für Hersteller der wichtigste ist.
Die neue EU-Produkthaftungsrichtlinie (EU) 2024/2853 ist seit Dezember 2024 in Kraft, die Umsetzungsfrist läuft bis zum 9. Dezember 2026.
Sie erfasst Software ausdrücklich als Produkt. Damit verschiebt sich die Haftung für fehlerhafte Software und KI-Komponenten in Richtung der strengen Produkthaftung.
Was daraus folgt
Wenn Sie Maschinen, Anlagen oder Geräte mit Software liefern, sollten Sie prüfen, ob Ihre Produkthaftpflicht Softwarefehler erfasst.
Viele Verträge sind auf körperliche Erzeugnisse zugeschnitten und behandeln Software allenfalls am Rande. Das passt nicht mehr zur Rechtslage, auf die wir zulaufen.
Mehr unter Produkthaftpflicht und Sondermaschinenbau.
Die Beweislage verschiebt sich
Ein Effekt, den viele unterschätzen: Wer gegen regulatorische Pflichten verstößt und bei wem ein plausibel damit zusammenhängender Schaden entsteht, gerät in eine schlechtere Beweisposition.
Praktisch heißt das: Dokumentation ist Ihre Verteidigung. Wer nachweisen kann, welches System wofür eingesetzt wurde, wer es freigegeben hat und wie geprüft wurde, steht in einem Verfahren deutlich besser da.
Das ist kein Versicherungsthema, aber es entscheidet mit darüber, ob eine Deckung am Ende trägt.
- Betriebs- und Produkthaftpflicht mit ausdrücklicher Einbeziehung von Software und Datenverarbeitung
- Vermögensschadendeckung für Fälle ohne Sach- oder Personenschaden
- Cyberversicherung mit Eigen- und Drittschäden
- D&O für Organisationsverschulden bei der Einführung
- Rechtsschutz für Auseinandersetzungen und Verwaltungsverfahren
- Und die Prüfung Ihrer Kundenverträge auf zugesagte Ergebnisqualität
Das Datenschutzrisiko läuft nebenher
Der praktisch häufigste KI-Vorfall im Mittelstand ist kein Haftungsfall, sondern ein Datenschutzvorfall: Ein Mitarbeiter gibt Kundendaten, Konstruktionsunterlagen oder Kalkulationen in ein frei zugängliches Werkzeug ein.
Das ist häufig eine meldepflichtige Datenschutzverletzung und je nach Inhalt zugleich ein Verlust von Geschäftsgeheimnissen.
Prüfen Sie deshalb, ob Ihre Cyberversicherung auch Vorfälle abdeckt, die nicht durch einen Angriff entstanden sind, sondern durch Fehlverhalten von Mitarbeitern.
Schatten-KI ist real
Private Accounts, kostenlose Browser-Erweiterungen und KI-Funktionen, die in bereits genutzter Software neu dazukommen: In den meisten Betrieben wird mehr KI genutzt, als die Geschäftsführung weiß.
Eine schriftliche Regelung, welche Werkzeuge erlaubt sind und welche Daten nicht hineingehören, kostet nichts und ist die wirksamste Einzelmaßnahme, die es hier gibt.
Wie wir vorgehen
Wir fragen zuerst, wo KI bei Ihnen in eine Leistung einfließt, die Sie gegenüber Dritten erbringen. Alles andere ist zunächst nachrangig.
Danach prüfen wir, ob Ihre bestehenden Verträge diese Fälle erfassen, insbesondere bei Vermögensschäden und Software.
Die regulatorische Einordnung Ihrer Systeme gehört zu Ihrem Anwalt oder Datenschutzbeauftragten. Wir übernehmen die Frage, was von den Folgen versicherbar ist.
- Wo fließt KI in Leistungen ein, die Sie nach außen erbringen?
- Setzen Sie einen Chatbot im Kundenkontakt ein?
- Liefern Sie Produkte mit Software- oder KI-Anteil?
- Nutzen Sie KI im Recruiting?
- Sind Vermögensschäden in Ihrer Haftpflicht eingeschlossen?
- Erfasst die Produkthaftpflicht Softwarefehler?
- Gibt es eine schriftliche Nutzungsregelung im Haus?
- Und was sichern Sie Kunden vertraglich zu?
Was uns Unternehmen fragen
Greift unsere Betriebshaftpflicht bei KI-Fehlern?
Bei Sach- und Personenschäden in aller Regel ja. Ein Schaden bleibt ein Schaden, unabhängig davon, wie er entstanden ist.
Schwieriger wird es bei reinen Vermögensschäden, also wenn niemand verletzt und nichts beschädigt wurde. Diese Konstellation ist bei KI-Fehlern typisch und im Grundvertrag regelmäßig ausgeschlossen.
Fallen wir unter den AI Act?
Wenn Sie KI einsetzen, gilt zumindest die Pflicht zu ausreichender KI-Kompetenz. Übliche Assistenzwerkzeuge fallen meist nicht in die Hochrisikoklasse.
Kritisch wird es bei KI im Recruiting und bei automatisierten Entscheidungen. Die Einstufung sollten Sie rechtlich prüfen lassen; die Zeitpläne sind zudem politisch in Bewegung.
Wir liefern Maschinen mit Software. Was ändert sich?
Die neue EU-Produkthaftungsrichtlinie erfasst Software ausdrücklich als Produkt. Die Umsetzungsfrist läuft bis zum 9. Dezember 2026.
Prüfen Sie deshalb, ob Ihre Produkthaftpflicht Softwarefehler einschließt. Viele Verträge sind auf körperliche Erzeugnisse zugeschnitten und passen nicht mehr zur Rechtslage, auf die wir zulaufen.
Haften wir für Aussagen unseres Chatbots?
Ein Chatbot, der Preise, Lieferzeiten oder Eigenschaften nennt, gibt Erklärungen in Ihrem Namen ab. Die Rechtsprechung hat die Verantwortung des Betreibers für solche Aussagen bereits betont.
Begrenzen Sie technisch, was das System sagen darf, und prüfen Sie, ob daraus folgende Vermögensschäden in Ihrer Haftpflicht eingeschlossen sind.
Was ist der häufigste KI-Vorfall in der Praxis?
Kein Haftungsfall, sondern ein Datenschutzvorfall: Ein Mitarbeiter gibt Kundendaten, Konstruktionsunterlagen oder Kalkulationen in ein frei zugängliches Werkzeug ein.
Das ist häufig meldepflichtig und zugleich ein Verlust von Geschäftsgeheimnissen. Prüfen Sie, ob Ihre Cyberdeckung auch Vorfälle ohne Angriff erfasst, also solche durch Fehlverhalten.
Was ist die wirksamste Maßnahme?
Eine schriftliche Regelung, welche Werkzeuge erlaubt sind und welche Daten nicht hineingehören. Sie kostet nichts und wirkt sofort.
In den meisten Betrieben wird mehr KI genutzt, als die Geschäftsführung weiß, über private Accounts, Browser-Erweiterungen und Funktionen, die in vorhandener Software neu dazukommen.
Läuft ein Chatbot auf Ihrer Website?
Dann geben Sie bereits Erklärungen ab, die Sie nicht Wort für Wort kennen.