Bitkom-Leitfaden: So sichern Unternehmen KI-Risiken ab

Falsche Prognose, fehlerhafte Zahlung, automatisierte Entscheidung mit teuren Folgen: Wenn Künstliche Intelligenz im Betrieb Fehler macht, stellt sich die Frage nach den Schäden und ihrer Begrenzung. Der Verband Bitkom hat dazu einen Leitfaden mit dem Titel „Verantwortungsvoller KI-Einsatz: Risiken verstehen, steuern und versichern“ veröffentlicht, wie der Verband am 16. Oktober 2026 mitteilte.

Nach Angaben des Bitkom setzen bereits 57 Prozent der Unternehmen in Deutschland KI ein. Bei weiteren 38 Prozent ist der Einsatz in Planung oder wird gerade besprochen. Je stärker KI in Geschäftsprozesse einzieht, desto drängender wird demnach die Frage, wie Firmen mögliche Schäden eingrenzen.

Lukas Spohr, Experte für Digital Insurance und InsurTech beim Bitkom, sagte, KI könne Prozesse schneller und effizienter machen, bestehende Risiken aber auch deutlich verstärken. Irrtümer können sich rascher ausbreiten, stärkere Folgen nach sich ziehen und hinterher schwerer rekonstruierbar sein. Besonders relevant sei das bei KI-Agenten, die eigenständig Aufgaben planen und Aktionen ausführen. Mit wachsendem Handlungsspielraum stiegen die Anforderungen an „Zugriffsrechte, Freigabeprozesse, Monitoring und menschliche Kontrolle“.

Die Handreichung wendet sich an Unternehmen insgesamt, vor allem jedoch an Versicherer, InsurTechs und Vermittler sowie an Spezialisten und Leitungskräfte in Underwriting, Risikomanagement und IT-Sicherheit. Darin werden die Bedingungen erläutert, unter denen sich KI kontrolliert einsetzen lässt, und es werden die Merkmale hoher Qualität bei Governance und Security der KI behandelt. Zudem werden typische Schadensszenarien eingeordnet, etwa Verluste im eigenen Betrieb, bei Außenstehenden oder beim Image, beispielsweise infolge fehlerhafter KI-Nutzung oder des sogenannten AI-Washings. Zum Schluss zeigt die Handreichung, welche KI-Risiken sich schon versichern lassen und wo Lücken bleiben.

Auf einen Blick

• Titel: „Verantwortungsvoller KI-Einsatz: Risiken verstehen, steuern und versichern“
• Herausgeber: Bitkom
• Kosten: kostenloser Download auf der Bitkom-Website

Hintergrund

Rechtlich gibt es für den KI-Einsatz in der EU einen eigenen Rahmen: die Verordnung über künstliche Intelligenz, informell meist KI-Verordnung oder AI Act genannt. Laut Wikipedia ist sie die weltweit erste umfassende Regulierung dieser Art.

Das Gesetz regelt den Einsatz von KI unter anderem für die kritische Infrastruktur, Sicherheitsbehörden und Personalverwaltung. Am 21. April 2021 legte die Europäische Kommission den Vorschlag vor und stellte einen ersten Entwurf öffentlich zur Verfügung.

Eigene Einschätzung

Für junge Unternehmen, die KI-Werkzeuge schnell einführen, ist der kostenlose Leitfaden eine Hilfe, um Zuständigkeiten und Kontrollen früh festzulegen. Offen bleibt in der Mitteilung die Haftungsfrage aus der Überschrift: Wer im Streitfall zahlt, beantwortet sie nicht. Wer KI-Agenten einsetzt, sollte mit seinem Versicherer klären, ob die Policen solche Schäden abdecken.