Einsatz von KI-Systemen in Unternehmen

Datenschutzrechtliche Herausforderungen und Anforderungen an einen rechtskonformen Einsatz

Von Medet Demirci, Hannover

Medet Demirci
Jurist, Datenschutzbeauftragter

Foto: Adobe Stock/ Nhan

Der Grundsatz der Datenminimierung verlangt, dass nur Daten verarbeitet werden, die für den jeweiligen Verarbeitungszweck tatsächlich notwendig sind. Diese Anforderung ist insbesondere anspruchsvoll in Bezug auf den Einsatz von KI-Systemen, die häufig große Datenmengen benötigen. Verantwortliche sollten daher Anonymisierungs- und Pseudonymisierungstechniken nutzen, um die datenschutzrechtlichen Vorgaben mit den Zielen der KI-Nutzung in Einklang zu bringen.

Darüber hinaus ist die Richtigkeit der Daten entscheidend für einen verantwortungsvollen Einsatz von KI. Die Systeme basieren auf Trainingsdaten, die stets aktuell und korrekt sein müssen, um Fehlentscheidungen zu vermeiden. Daher sollten Verantwortliche regelmäßige Überprüfungen der Daten sicherstellen, um die Integrität des Systems zu gewährleisten.

Ein wesentlicher Bestandteil ist die Datenschutz-Folgenabschätzung, die gemäß der DSGVO durchgeführt werden muss, soweit KI-Technologien hohe Risiken für die Rechte natürlicher Personen bergen. Diese Abschätzung ermöglicht es Verantwortlichen, potenzielle Risiken frühzeitig zu identifizieren und präventive Maßnahmen zu ergreifen, um die Sicherheit der verarbeiteten Daten sowie die Rechte der Betroffenen zu gewährleisten. Außerdem muss eine Richtlinie die rechtskonforme Nutzung von KI im Unternehmen verbindlich regeln.

Sollten Verantwortliche die KI-Dienste von Drittanbietern in Anspruch nehmen, sind klare vertragliche Regelungen unerlässlich. Ein Auftragsverarbeitungsvertrag stellt sicher, dass Drittanbieter personenbezogene Daten ausschließlich nach den Weisungen der Verantwortlichen verarbeiten. Die Anforderungen an Datensicherheit und Qualität müssen vertraglich festgelegt werden.

Abschließend ist es für Unternehmen ratsam bereits im Vorfeld den Datenschutzbeauftragten einzubinden. Dies gewährleistet die Einhaltung der Grundsätze der DSGVO und fördert das Vertrauen der Kunden sowie Mitarbeitenden in die verantwortungsvolle Verarbeitung personenbezogener Daten durch KI.