Photo credit: depositphotos.com
Nicht erst seit ChatGPT und Stable Diffusion sind Künstliche-Intelligenz-Systeme (KI) in aller Munde. Autos fahren autonom, Roboter reinigen automatisch das Haus, digitale Assistenten unterstützen im Alltag. Doch auch in Versicherungsunternehmen bieten sich viele Szenarien für den Einsatz von KI.
Ein Beitrag von Christian Nölke, Principal Consultant bei adesso SE
Künstliche Intelligenz kann für vielfältige Aufgaben eingesetzt werden: Chatbots klären Fragen des Kunden, Telefonbots lösen einfache Kundenanliegen und verweisen gegebenenfalls in die richtigen Fachabteilungen, Rechnungen werden geprüft und Anträge bewertet sowie Schadensmeldungen bearbeitet. Manches hiervon ist bereits heute üblich, anderes liegt noch in gewisser Ferne.
Aber über aller Euphorie schwebt immer das Damoklesschwert der Regulatorik. Was dürfen Versicherungen? Welche Regelungen und Vorschriften gibt es? Und was kommt noch?
EU Artificial Intelligence Act
Bereits seit 2021 diskutiert die EU über den Artificial Intelligence Act. Dieser wurde im Juni dieses Jahres vom Parlament beschlossen. Allerdings stehen noch Verhandlungen mit den Mitgliedsländern aus. Zudem gibt es viele Stimmen sowohl aus der Industrie wie auch der Politik in den Mitgliedsländern, Europa können sich angesichts der rasanten Entwicklungen der letzten Monate sich nicht durch zu strikte Regeln von der weltweiten Entwicklung abkoppeln. KI sei die Zukunftstechnologie dieser Dekade, und wenn sie durch zu hohe Hürden nicht in Europa entwickelt werde, dann woanders. Diese Entwicklungen müssen weiter beobachtet werden.
Datenschutz-Grundverordnung
Ein weiterer, zu beachtender Punkt bei KI-Systemen ist die Datenschutz-Grundverordnung (DSGVO). Hier sind zwei Aspekte von besonderer Relevanz:
- Zweckbindung der Daten
- Schutz vor automatisierten Entscheidungen
Kundendaten dürfen nur zu den Zwecken verarbeitet werden, über die der Kunde informiert worden ist (DSGVO Art. 13 Abs. 1 lit. c) , und die Teil des Vertrags sind. „Training einer KI“ gehört in der Regel nicht dazu. Um dies zu ermöglichen, muss der Versicherer also entweder eine passende Einwilligung erlangen, die Daten anonymisieren, künstliche Daten erzeugen oder Berechtigtes Interesse (DSGVO Art. 6 Abs. 1 lit. f) an dieser Verarbeitung vorbringen können. In jedem Fall sollte beim Training einer eigenen KI ein Datenschutzexperte zu Rate gezogen werden.
Weiterhin ist der Kunde nach DSGVO Art. 22 Abs. 1 vor automatisierten Entscheidungen durch eine KI geschützt. Im Mindesten sollte dabei der Kunde über das Vorliegen einer solchen Entscheidung informiert und die Möglichkeit der manuellen Überprüfung eingeräumt werden. Wird die KI jedoch nur als Entscheidungshilfe oder Arbeitshilfe für den Sachbearbeiter genutzt, ist dies unkritisch. Es sollte der Grundsatz gelten, im Zweifelsfall trifft ein Mensch die letzte Entscheidung.
Leitlinie der BaFin zu KI und Big Data
Bereits 2021 hat die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) aufsichtliche Prinzipien für den Einsatz von Big Data und Künstlicher Intelligenz beschlossen. Diese folgen den Grundsätzen analog zu den Versicherungsaufsichtlichen Anforderungen an die IT (VAIT) und besagen, dass die Verantwortung des Handelns immer bei der Geschäftsführung liegt und dass Maßnahmen angemessen, risikoorientiert und proportional sein sollen.
Nur weil eine Versicherung mit KI einen Algorithmus einsetzt, den man oft nicht in allen Details versteht und dessen Entscheidungen man nicht in Gänze nachvollziehen kann, kann sich dieser nicht aus der Verantwortung für dessen Entscheidungen ziehen.
Die Prinzipien geben eine Vielzahl praxisnaher Hinweise, welche Maßnahmen der Aufsicht beim Einsatz von KI angemessen erscheinen. So legt die Aufsicht besonderen Wert auf ausreichende Trainingsdaten für die KI, intensives und regelmäßiges Testen, menschliche Eingriffsmöglichkeiten und auf einen Plan, wie man im Bedarfsfall die KI abschalten und trotzdem den Geschäftsbetrieb aufrechterhalten kann.
Fazit
KI ist eine spannende Technologie mit vielen Einsatzmöglichkeiten im Versicherungsumfeld. Sie bietet Möglichkeiten der Arbeitserleichterung, Optimierung und Vereinfachung. So könnten Menschen rein anspruchsvolle und kreative Arbeit leisten, während die KI unterstützt und Routinearbeiten übernimmt. Hier sollten Versicherungen Erfahrungen sammeln.
Allerdings ist das regulatorische Umfeld derzeit noch recht volatil, die Technik eilt der Regulatorik voraus und wird vielfach bereits genutzt. Versicherer sollten deshalb den Einsatz erproben, aber immer einen Plan B haben, um das Geschäft zur Zufriedenheit des Kunden weiterführen zu können, wenn die KI ungeplant neu trainiert oder sogar ganz abgeschaltet werden muss.
Zum Autor
Christian Nölke ist Principal Consultant bei adesso SE. Er leitet seit vielen Jahren regulatorische Projekte bei Banken und Versicherungen, und berät die Unternehmen bei der Konzeption und Umsetzung solcher Projekte. Daneben ist er Autor mehrerer Fachartikel zu Banken- und Versicherungsregulatorik sowie zum Datenschutz.
Themen:
LESEN SIE AUCH
Das sollte man jetzt zu generativen KIs wissen
Die Faszination für KI erreicht täglich neue Höhepunkte, ausgelöst durch aufregende Durchbrüche und wachsende Anwendungsgebiete. Doch stellen sich auch zunehmend kritische Fragen und vermehren sich die Bedenken. Ein Realitätscheck von Endava.
Klick zum Glück: Wie Onlinedating zur Wachstumsbranche wird
Onlinedating ist längst mehr als nur eine moderne Möglichkeit, neue Menschen kennenzulernen. Es hat sich zu einem bedeutsamen Wirtschaftsfaktor entwickelt, der ein breites Spektrum an Arbeitsplätzen generiert und erhebliche Umsätze einbringt.
Tipps für einen sicheren Umgang mit KI-Programmen
Die Chancen, die mit der Nutzung von mit KI arbeitenden Chatbots wie ChatGPT einhergehen, sind vielfältig. Ihr Einsatz lässt aber auch besonders aus Sicht des Datenschutzes noch viele Fragen offen. Empfehlungen für einen sicheren Umgang mit KI-basierter Technologie.
Verbraucher offen für Chatbots im Kundenservice
Jeder dritte Bundesbürger begrüßt den Einsatz von KI-Chatbots in der Kundenbetreuung und jeder fünfte wäre bereit, künftig ganz auf menschlichen Kundenservice zu verzichten. Trotz dieser Offenheit bleibt der persönliche Kontakt für 75 Prozent der Verbraucher weiterhin wichtig, zumindest als Option.
Licht im Dunkel der „Black Box“: KI und Aktuare
Aktuell finden sich immer mehr Anwendungsfälle für KI im aktuariellen Bereich. Was bedeutet das für die Rolle der Aktuarinnen und Aktuare? Sind diese bei der Einführung von KI entscheidend oder laufen sie Gefahr, von dieser Technologie abgelöst zu werden?
Im Visier der Hacker: Strategien gegen Cyberangriffe
Die Bedrohungen durch Cyberangriffe, Datenlecks und Datenschutzverletzungen sind allgegenwärtig und können schwerwiegende Folgen für Unternehmen sowie Kunden haben. Vor diesem Hintergrund gewinnt ein solides Konzept, das den Schutz aller sensiblen Daten gewährleistet eine immer größere Bedeutung.