Die Datenschutzkonferenz (DSK), ein Gremium der deutschen Datenschutzaufsichtsbehörden, hat mit Stand Juni 2025 eine neue Orientierungshilfe zum Thema KI herausgegeben.
In dem Dokument: “Orientierungshilfe zu empfohlenen technischen und organisatorischen Maßnahmen
bei der Entwicklung und beim Betrieb von KI-Systemen Version 1.0” geht es darum, Herstellern und Entwicklern von KI-Systemen als Hilfestellung bei der datenschutzkonformen Entwicklung von datenschutzkonform einsetzbaren KI-Systemen zu dienen.
Verantwortliche Datenverarbeiter, die KI-Systeme einsetzen möchten, können die von der DSK veröffentlichte “Orientierungshilfe Künstliche Intelligenz und Datenschutz“ (veröffentlicht 2024) konsultieren, aber auch das nun herausgegebene “Positionspapier” (bei der Begrifflichkeit ist man scheinbar nicht einheitlich) zurate ziehen, um die technischen Entwicklungsmöglichkeiten im Beschaffungsprozess zu berücksichtigen. Und die Grenzen zwischen nutzen und herstellen können ja auch fließend sein.
Aus datenschutzrechtlicher Perspektive liegt der Fokus darauf, wie die Rechte und Freiheiten von natürlichen Personen geschützt werden können. Ein wichtiger von klassischen IT-Systemen abweichender Aspekt bei KI-Systemen ist das Training der verwendeten KI-Modelle und die Nutzung von Trainingsdaten.die datenschutzrechtlichen Fragen, die sich aus der Sammlung dieser Datensätze (z. B. durch Crawling, Scraping) ergeben. Dies ist nicht Gegenstand dieses Papiers.
Für Anwendungen oder Dienste, die ein oder mehrere KI-Systeme oder -Modelle als Komponente eines größeren Systems enthalten, können die in diesem Papier beschriebenen Aspekte ebenfalls hilfreich sein. Für eine Gesamtbetrachtung werden sie aber ggf. nicht ausreichen. Um den Rahmen des Dokumentes nicht zu sprengen, wird auch nicht auf einzelne KI-Algorithmen eingegangen. Gleiches gilt für konkrete Anwendungsgebiete, Einsatzszenarien sowie Architekturaspekte. Bestimmte Arten von KI-Algorithmen werden in diesem Dokument nur angesprochen, wenn dies für eine differenzierte datenschutzrechtliche Betrachtung sinnvoll ist.
Abgrenzung der Lebenszyklusphasen
Ein KI-System durchläuft während der Entwicklung und des anschließenden Betriebs verschiedene Phasen, welche dessen Lebenszyklus darstellen können. In der Orientierungshilfe werden dabei die vier Phasen (1) Design, (2) Entwicklung, (3) Einführung und (4) Betrieb und Monitoring unterschieden. Für die Designphase wird hier insbesondere auf Prinzip „data protection by design“ eingegangen, es sollten neben den funktionalen Anforderungen, in diesem Schritt auch bereits datenschutzrechtliche Fragestellungen in Erwägung gezogen werden. Für die Einführungsphase spielen natürlich die notwendigen Konfigurationen eine Rolle, also welche datenschutzfreundliche Voreinstellungen zu berücksichtigen sind („data protection by default“).
Hinsichtlich der rechtlichen Grundsätze führt die Orientierungshilfe aus, dass für die Verarbeitung personenbezogener Daten die DSGVO einschließlich der in ihr verankerten Grundsätze (vgl. Art. 5 Abs. 1 DSGVO), u. a. der Rechtmäßigkeit, der Verarbeitung nach Treu und Glauben, der Transparenz, der Zweckbindung, der Datenminimierung und der Richtigkeit gilt. Nach Art. 5 Abs. 2 DSGVO ist der Verantwortliche für die Einhaltung der Grundsätze nach Abs. 1 verantwortlich und muss deren Einhaltung nachweisen können. Der Zweck einer Verarbeitungstätigkeit muss vorher festgelegt, eindeutig und legitim sein, die Verarbeitung muss eine Rechtsgrundlage aufweisen und die bei der Verarbeitung entstehenden Risiken müssen ausreichend eingedämmt werden. Die Entwicklung und der Betrieb von KI-Systemen können mit hohen Risiken für die Rechte und Freiheiten der Betroffenen einhergehen. Zumeist wird eine Datenschutz-Folgenabschätzung gem. Art. 35 DSGVO durchgeführt werden müssen. Darüber hinaus müssen Verantwortliche ihren Informationspflichten nach Art. 13, 14 DSGVO nachkommen.
In der Praxis müssen die rechtlichen Anforderungen aus der DSGVO durch technische und organisatorische Maßnahmen erfüllt werden. Hierfür verweist die Orientierungshilfe auf das Standard-Datenschutzmodell (SDM), eine Methode zur Datenschutzberatung und -prüfung auf Basis einheitlicher Gewährleistungsziele. Die Orientierungshilfe beschäftigt sich dann ausführlich damit, die in Abschnitt 1.2 eingeführten Lebenszyklusphasen von KI-Systemen anhand der Gewährleistungsziele zu analysiert und Anforderungen zu definieren. Es würde aber zu weit führen, das hier im Detail darzustellen bzw. bei Interesse ist ein Blick in die Orientierungshilfe selbst zu empfehlen.
Die Gewährleistungsziele des SDM sind:
- Datenminimierung: Die verarbeiteten personenbezogenen Daten müssen dem Zweck angemessen und erheblich sowie auf das für die Zwecke der Verarbeitung notwendige Maß beschränkt sein.
- Verfügbarkeit: Der Zugriff auf die personenbezogenen Daten muss gesichert sein, und Systeme können dann ihre Verarbeitungen durchführen, wenn diese angefordert werden.
- Vertraulichkeit: Unbefugte dürfen nicht auf die personenbezogenen Daten zugreifen können.
- Integrität: Die personenbezogenen Daten sind und bleiben unversehrt, vollständig, zurechenbar und aktuell.
- Intervenierbarkeit: Verantwortliche müssen jederzeit in der Lage sein, in die Datenverarbeitung vom Erheben bis zum Löschen von Daten einzugreifen, um neben der Umsetzung von Betroffenenrechten, wie die Rechte auf Berichtigung oder Löschung, auch behördliche Anordnungen umsetzen und Datenschutzverletzungen beheben bzw. abmildern zu können.
- Transparenz: Einerseits ist Transparenz zur Gewährleistung der Rechenschaftspflicht nach Art. 5 Abs. 2 DSGVO sowie andererseits zur Erfüllung der Informationspflichten nach Art. 12, 13 sowie 14 DSGVO erforderlich.
- Nichtverkettung: Die personenbezogenen Daten werden nicht für einen anderen als den festgelegten, eindeutigen und legitimen Zweck erhoben, verarbeitet und genutz
