Wer Haftet, wenn die KI Fehler macht?

Die Künstliche Intelligenz (KI) ist gegenwärtig eines der heißesten Themen in unserem beruflichen (und privaten) Alltag. 😊

Aber was ist eigentlich, wenn Du oder Deine Mitarbeiter KI im Unternehmen nutzen?

Wer haftet eigentlich, wenn die KI im Betrieb einen Fehler macht?

Die Versicherung von Schäden durch Fehler der Künstlichen Intelligenz (KI) ist ein relativ neues und komplexes Thema, das in der Versicherungsbranche zunehmend diskutiert wird.

Wir haben uns Gedanken gemacht, bei Versicherern nachgefragt und einige relevante Aspekte zusammengetragen, wie Schäden durch KI-Fehler in verschiedenen Kontexten versichert werden:

1. Produkthaftpflichtversicherung

• Hersteller von KI-Systemen: Für Unternehmen, die KI-Software oder Hardware entwickeln, ist eine Produkthaftpflichtversicherung relevant. Diese greift, wenn ein Fehler in der KI zu einem Schaden an Dritten führt, etwa durch fehlerhafte Entscheidungen oder Fehlfunktionen.
• Beispiel: Eine autonome Maschine verursacht durch Fehlsteuerung einen Sachschaden. Der Hersteller der KI könnte hier haftbar gemacht werden.

2. Berufshaftpflichtversicherung

• Dienstleister und Berater: Wenn ein Unternehmen KI-Software entwickelt oder Implementierungen durchführt, kann eine Berufshaftpflichtversicherung relevant sein. Sie deckt Schäden ab, die durch Fehlentscheidungen oder fehlerhafte Implementierung der KI entstanden sind.
• Beispiel: Eine KI wird falsch konfiguriert und es kommt dadurch zu finanziellen Verlusten für das Unternehmen, welches mit der KI arbeitet. Der Dienstleister, der die Konfiguration vorgenommen hat, könnte haftbar gemacht werden.

3. Cyber-Versicherungen

• Schäden durch Cyber-Attacken: Wenn eine KI durch eine Cyber-Attacke manipuliert wird und es dadurch zu Schäden kommt, greift eine Cyber-Versicherung. Diese Versicherung schützt Unternehmen vor den finanziellen Folgen von Hackerangriffen, Datendiebstahl oder IT-Ausfällen.
• Beispiel: Ein Hacker manipuliert ein KI-gesteuertes System, das daraufhin fehlerhafte Entscheidungen trifft und Schäden verursacht.

4. Betriebshaftpflichtversicherung

• Für Anwender von KI: Unternehmen, die KI-Systeme nutzen, aber nicht selbst entwickeln, können über eine Betriebshaftpflichtversicherung versichert sein. Diese deckt Schäden ab, die durch den Betrieb von KI-Systemen entstehen können.
• Beispiel: Kommt es zu einer Datenschutzpanne bei einer KI-Verwendung, wird die Datenschutzverletzung dem Anwenderunternehmen, also Ihren Kunden, zugerechnet. Gerade in den aktuellen Zeiten, in denen viele neugierig selbst mit KI „herumexperimentieren“, können derartige Fehler schnell passieren und zu einen Haftungsfall werden.

Diesen Punkt wollen wir gerne auch etwas detaillierter ausführen:

Grundsätzlich besteht Versicherungsschutz im Rahmen und Umfang der jeweiligen BHV und zwar für die Funktionen Prüfung der Haftpflichtfrage, die Abwehr unberechtigter Schadenersatzansprüche und die Freistellung des Versicherungsnehmers von berechtigten Schadenersatzverpflichtungen.

Dies gilt sowohl

1.für den Einsatz einer unterstützenden KI, analog dem Einsatz sonstiger Mittel (z. B. Software, IT) zur Vornahme seiner versicherten Tätigkeiten, als auch

2. für den Einsatz einer völlig autonomen KI, da VN diese in seine Betriebsabläufe integriert hat und daher nach außen auch für daraus resultierende Schäden nach den allgemeinen Haftungsregeln haftet.

Sofern die KI mangelhaft ist, sind dann Regressansprüche gegen den Hersteller der KI denkbar.

5. Gesetzliche Haftung

• In der EU und in vielen anderen Ländern gilt grundsätzlich das Prinzip, dass Unternehmen oder Personen für Schäden haften, die sie durch Fahrlässigkeit oder Vorsatz verursachen. Bei KI-Systemen stellt sich die Frage, wer für den Fehler verantwortlich ist – der Entwickler, der Betreiber oder möglicherweise sogar der Benutzer.
• In der EU gibt es Vorschläge, die Haftung für KI-bedingte Schäden durch gesetzliche Regelungen zu ergänzen oder zu klären, wie beispielsweise durch den Artificial Intelligence Act, der derzeit diskutiert wird.

Auch hier gehen wir etwas ins Detail:

Die KI hat keine eigene Rechtspersönlichkeit und kann daher nicht „autonom“ haften. Die Haftung trifft dann (wie immer) den Hersteller, Händler und Anwender.

Sowohl für den Betrieb und die Nutzung (= Anwenderkonstellation) als auch für die Entwicklung, Herstellung und den Vertrieb von KI-Systemen (= Herstellung und Vertrieb) ist die Haftung für daraus folgende Schäden derzeit nach den allgemeinen Haftungsgrundsätzen des aktuellen Rechts zu ermitteln – denn spezialgesetzliche Regelungen gibt es bislang noch nicht. Diese allgemeinen Haftungsgrundsätze (z. B. Verschuldenshaftung nach BGB) gelten für Schäden durch mangelhafte KI und sind von der BHV gedeckt, sowohl für den Anwender als auch Hersteller der KI. Noch nicht eindeutig geklärt ist die Anwendbarkeit der Gefährdungshaftung nach ProdHG auf Software und dementsprechend, ob für KI dann eine „Produkteigenschaft“ (analog Software) vorliegt – vgl. ProdHaftRL.

Dies gilt vermutlich auch für Haftungsregelungen, welche zukünftig eingeführt werden, wie beispielsweise die neue EU-Produkthaftungsrichtlinie (ProdHaftRL, vermutlich noch 2024) sowie das dann nach weiteren max. 2 Jahren künftig geänderte und auf Software/KI-Systeme erweiterte ProdHG (Gefährdungshaftung) und analog für eine spätere Umsetzung einer EU-KI-Haftungsrichtlinie (KI-HaftRL). Beides betrifft primär die Hersteller und Vertreiber von KI.

Wo liegen die Herausforderungen bei Schäden durch die KI:

• Schwierige Beweisführung: Wer für einen Schaden durch einen KI-Fehler verantwortlich ist, kann schwer festzustellen sein, da es oft an Transparenz in den Entscheidungsprozessen von KI-Systemen fehlt (Stichwort: „Black Box“).
• Hohe Schadensummen: Bei Fehlern autonomer Systeme, wie selbstfahrenden Autos oder KI in der Medizin, können erhebliche Schadensummen entstehen, was die Absicherung dieser Risiken kompliziert macht.

Als Fazit lässt sich resümieren, dass Schäden durch Fehler der KI in vielen Fällen durch bestehende Versicherungsarten abgedeckt sind. Aktuell noch bestehende Deckungslücken könnten zukünftig noch durch gesetzliche Regelungen oder durch spezielle Versicherungsprodukte geschlossen werden.