Künstliche Intelligenz
Große Chancen, hohe Komplexität
Bedeutung von Künstlicher Intelligenz
Zu den zentralen disruptiven Technologien der Digitalisierung gehört die Künstliche Intelligenz (KI). Die technische Entwicklung von KI, allem voran bei den großen Sprachmodellen, ist ebenso rasant wie die Aufmerksamkeit, die die KI-Technologie in letzter Zeit in der Öffentlichkeit erhält. Dabei ist der Einsatz von KI nicht neu. Viele Branchen setzen KI schon lange ein, sei es in der Forschung, Finanzwirtschaft oder Logistik oder in der Spracherkennung und -steuerung.
Rechtlicher Rahmen
Die Europäische Union hat mit der KI-Verordnung (KI-VO) einen einheitlichen europäischen Rechtsrahmen für die Entwicklung und Nutzung von KI verabschiedet. Dabei wird – auf Grundlage eines risikobasierten Ansatzes – der gesamte Lebenszyklus eines KI-Systems betrachtet, einschließlich des Inverkehrbringens von KI-Systemen, der Marktüberwachung, Kontrolle, Governance und Durchsetzung. Der europäische Gesetzgeber flankiert die KI-VO mit der Überarbeitung der Produkthaftungsrichtlinie, mit welcher angesichts der geringen Transparenz der KI-Systeme Kausalitätsvermutungen und Offenlegungspflichten eingeführt werden sollen. Rechtsgebiete, die bei der KI-Nutzung beachten werden müssen, betreffen daneben vor allem das Urheberrecht, das Recht der Geschäftsgeheimnisse, das IT-Recht, Schuldrecht und Datenschutzrecht.
Was ist zu tun?
Für die KI-Nutzung ist ein Überblick über die eingesetzten KI-Systeme, Anwendungsfälle und Daten unerlässlich. Es sollte ein KI-Managementsystem über den gesamten Lebenszyklus aufgebaut und – zu Synergiezwecken – mit bestehenden Managementsystemen verknüpft werden, welches der Art und dem Umfang der KI-Nutzung entspricht. Zu den Handlungsfeldern gehören:
- Betroffenheit: Bewertung des Anwendungsbereichs der KI-VO
- Inventarisierung: Identifizierung und Klassifizierung der KI-Systeme, Anwendungsfälle und genutzten Daten.
- Risikoklassifizierung: Einordnung der identifizierten KI-Systeme nach Risikoklasse und Durchführung von KI-Folgenabschätzungen bei hohen Risiken
- Datenbasis: Analyse der Datenquellen, Datenqualität und Urheber der Daten
- Datenschutz: Überprüfung datenschutzrechtlicher Vorgaben wie der Bestimmung der Verantwortlichkeit, der geeigneten Rechtsgrundlagen und Löschanforderungen
- Transparenz: Sicherstellung hinreichender Informationen zum KI-System
- Qualitätsmanagement: Integration von KI-Systeme in das Qualitätsmanagement und ggf. die Corporate Social Responsibility Strategie
- Vertragsmanagement: Bewertung des Anpassungsbedarf bei Musterverträgen und bestehenden Verträgen mit Dritten, die durch die KI betroffen sind
- Protokollierung: Abgleich der Eingabedaten mit der Referenzdatenbank
- EU-Datenbank: Prüfung der Registrierung von Hochrisiko-KI-Systemen in EU-Datenbank
- Schulung: Befähigung der Mitarbeiter im Umgang mit KI-Systemen
- Dokumentation: Erstellung einer technischen Dokumentation zum KI-System
- Haftung: Bewertung der geänderten Haftungsrisiken im Risikomanagement
Unsere Services
Unsere Rechtsberatung im Rahmen der KI-Governance umfasst den gesamten Lebenszyklus eines KI-Systems:
Ihre Ansprechpartner:in
Dr. Jan-Peter Ohrtmann Partner, PwC Germany
jan-peter.ohrtmann@pwc.com +49 211 9812 572
Matthias Bleidiesel Director, PwC Germany
matthias.bleidiesel@pwc.com +49 211 9811 956
Niklas Kelbch Manager, PwC Germany
niklas.kelbch@pwc.com +49 160 90221709
Prof. Dr. Alexander Golland Of Counsel, PwC Germany
alexander.golland@pwc.com +49 211 9817 342
© 2017 - 2025 PwC. All rights reserved. PwC refers to the PwC network and/or one or more of its member firms, each of which is a separate legal entity. Please see www.pwc.com/structure for further details.
