KI-Assistenten

KI-Verordnung und DSGVO in der Umsetzung

Sobald eine KI-Anwendung mehr sein soll als ein Versuch, kommen die Pflichten: Einstufung nach KI-Verordnung, Kennzeichnung, Auftragsverarbeitung, Folgenabschätzung, Protokollierung, Nachweis der KI-Kompetenz. In vielen Häusern ist nicht strittig, ob das Vorhaben sinnvoll ist, sondern wer die Unterlagen dafür schreibt. Deshalb liegen Vorhaben monatelang, obwohl niemand sie abgelehnt hat.

Wir liefern diese Unterlagen zusammen mit der Anwendung, als Generalunternehmer mit einem Vertrag und einer verantwortlichen Stelle. Der erste Schritt ist die Einstufung: klein zugeschnitten und auch dann verwertbar, wenn danach nichts weiter folgt.

1 Vertragspartner

Generalunternehmer statt Bietergemeinschaft

EU-Datenstandort

Pflichtkriterium bei der Partnerauswahl

Art. 28 DSGVO

Auftragsverarbeitung gehört zur Lieferung

Erstgespräch anfragen → Alle Anwendungsfälle

Die Pflichten kommen später als die Idee

Ein Fachbereich hat einen KI-Assistenten ausprobiert, meist mit einem frei zugänglichen Dienst, und will ihn jetzt richtig einführen. Die Anfrage geht an die IT, die IT fragt beim Datenschutzbeauftragten nach, und dort beginnt der Stillstand. Niemand kann auf Anhieb sagen, ob die Anwendung unter die KI-Verordnung fällt, welche Rolle das Haus dabei einnimmt und ob für die geplanten Daten überhaupt eine Rechtsgrundlage besteht.

Erschwerend kommt hinzu, dass die Zuständigkeit verteilt ist. Der Datenschutz prüft die Verarbeitung, die IT prüft den Betrieb, der Fachbereich kennt den Vorgang, die Personalvertretung will wissen, ob eine Leistungskontrolle möglich wird, und die Vergabestelle wartet auf eine Leistungsbeschreibung. Jede Stelle wartet auf die Vorarbeit einer anderen.

Benutzt wird der Assistent in der Zwischenzeit trotzdem, nur eben privat und mit dem privaten Konto. Das ist der schlechteste Zustand: kein Vertrag, keine Protokollierung, keine Kontrolle darüber, welche Inhalte das Haus verlassen. Die Pflichten aus KI-Verordnung und DSGVO verschwinden dadurch nicht, sie werden nur von niemandem erfüllt.

Was Sie am Ende in der Hand halten

Die rechtliche Seite eines KI-Vorhabens ist kein Gutachten, das neben dem Projekt entsteht. Sie besteht aus Unterlagen, die eine Aufsichtsbehörde, ein Rechnungsprüfungsamt oder der Personalrat anfordern kann, und aus Funktionen, die in der Anwendung selbst sichtbar sind. Beides liefern wir mit der Anwendung, nicht danach.

Alle Unterlagen entstehen in einem bearbeitbaren Format und gehen in Ihr Eigentum über. Sie sollen nach der Übergabe ohne uns fortgeschrieben werden können, weil Modelle, Anbieter und Unterauftragnehmer schneller wechseln, als Verwaltungsdokumentation üblicherweise nachgeführt wird. Im Einzelnen sind das:

Eine Einstufung nach KI-Verordnung mit Begründung: welche Rolle Sie einnehmen, welche Risikoklasse einschlägig ist und welche Pflichten daraus folgen.
Ein Verzeichnis der eingesetzten Modelle, Anbieter und Drittkomponenten mit Verarbeitungsort, Version und Zweck, fortschreibbar bei jedem Wechsel.
Den Vertrag zur Auftragsverarbeitung nach Artikel 28 DSGVO samt Unterauftragnehmerliste und, wo nötig, den Grundlagen für eine Übermittlung in ein Drittland.
Die Unterlagen, die Ihre datenschutzbeauftragte Person für eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO braucht: Verarbeitungsübersicht, Datenflüsse und die technischen und organisatorischen Maßnahmen. Die Abschätzung selbst führt Ihr Haus als Verantwortlicher durch.
Den Beitrag zum Verzeichnis von Verarbeitungstätigkeiten, abgestimmt mit Ihrem Datenschutzbeauftragten.
Kennzeichnungs- und Hinweistexte in der Oberfläche: wo KI im Spiel ist, wie belastbar das Ergebnis ist und wie ein Mensch korrigieren kann.
Ein Protokollierungskonzept mit Aufbewahrungsfristen und Löschregeln, technisch umgesetzt und nicht nur beschrieben.
Ein Schulungspaket zur KI-Kompetenz nach Artikel 4 KI-Verordnung, zugeschnitten auf die Rollen, die tatsächlich mit der Anwendung arbeiten, mit Teilnahmenachweis.

Vier Phasen bis zur Übergabe

Der erste Schritt ist bewusst klein geschnitten. Sie entscheiden nach jeder Phase, ob die nächste folgt.

Einstufung und Bestandsaufnahme

Wir klären zuerst, was überhaupt vorliegt: welcher Vorgang unterstützt werden soll, welche Daten dabei anfallen, ob Personenbezug besteht und welche Rolle Sie nach der KI-Verordnung einnehmen, Anbieter oder Betreiber. Ergebnis ist eine schriftliche Einstufung mit Begründung und eine Liste der offenen Punkte. Zeigt sich hier, dass das Vorhaben nicht trägt, endet es an dieser Stelle und Sie haben trotzdem ein verwertbares Ergebnis.

Unterlagen und Verträge

Auf Basis der Einstufung entstehen die Dokumente: Auftragsverarbeitungsvertrag, Verzeichnis der Modelle und Drittkomponenten, Beitrag zum Verarbeitungsverzeichnis und, wo die Schwelle erreicht ist, die Datenschutz-Folgenabschätzung. Wir arbeiten dabei mit Ihrem Datenschutzbeauftragten und, sobald Beschäftigtendaten betroffen sind, früh mit der Personalvertretung. Auflagen aus diesen Gesprächen fließen in die technische Planung zurück, nicht umgekehrt.

Umsetzung in der Anwendung

Jetzt werden die Pflichten zur Funktion: Kennzeichnung der KI-gestützten Ausgaben, Protokollierung von Eingabe, Modellversion und Freigabeentscheidung, Rollen- und Rechtekonzept, Löschfristen, Export für Auskunftsersuchen. Was nicht in der Software steht, ist im Zweifel nicht passiert. Deshalb bauen wir diese Punkte in die Anwendung und nicht in ein Begleitdokument.

Übergabe und Nachweis

Zum Abschluss übergeben wir Quellcode oder Konfiguration, Dokumentation, Protokollierungskonzept und Schulungsunterlagen, dazu eine Anleitung für den Fall, dass ein Modell oder ein Unterauftragnehmer wechselt. Wir gehen die Unterlagen einmal mit den Personen durch, die sie später gegenüber einer Aufsichtsbehörde vertreten müssen. Danach entscheiden Sie: ausbauen, selbst weiterbetreiben oder ausschreiben.

Was schwierig ist und was schiefgehen kann

Die Punkte, an denen Vorhaben dieser Art in der Praxis hängenbleiben.

Die Einstufung ist selten eindeutig

Ob eine Anwendung als Hochrisiko-System gilt, hängt am konkreten Einsatz und nicht an der Technik. Derselbe Textassistent ist im Sitzungsdienst unkritisch und in der Personalauswahl oder bei der Zuteilung von Leistungen ein anderer Fall. Wir stufen deshalb je Anwendungsfall ein und schreiben auch auf, was gegen die Einstufung spricht.

Der Anbietervertrag ist nicht das Ende der Kette

Ein unterschriebener Auftragsverarbeitungsvertrag sagt wenig, solange die Unterauftragnehmer unklar sind. Hinter einer europäischen Oberfläche steckt oft ein Modell, das anderswo betrieben wird, und diese Liste ändert sich ohne Zutun des Kunden. Wir legen sie offen und vereinbaren Anzeigepflichten bei Wechseln. Lückenlose Kontrolle darüber kann Ihnen niemand seriös versprechen.

Die Folgenabschätzung braucht den Fachbereich

Eine Datenschutz-Folgenabschätzung, die nur aus IT- und Rechtstexten besteht, hält keiner Prüfung stand. Die Risiken für die betroffenen Personen kennt die Sachbearbeitung, nicht der Dienstleister. Dafür sind Termine mit den richtigen Leuten nötig, und genau dieser Aufwand wird fast immer unterschätzt.

KI-Kompetenz ist kein Rundschreiben

Artikel 4 der KI-Verordnung verlangt, dass die Beschäftigten, die ein System einsetzen, es auch beurteilen können. Eine Nutzungsrichtlinie per Mail erfüllt das nicht. Nötig sind Schulungen mit Beispielen aus dem eigenen Vorgang, ausdrücklich auch mit Fällen, in denen das System falsch liegt. Diese Arbeitszeit muss eingeplant werden.

Wann Sie es besser lassen

Wenn für die geplante Verarbeitung keine Rechtsgrundlage erkennbar ist, wenn die Datenlage so schlecht ist, dass jedes Ergebnis ohnehin nachkontrolliert werden müsste, oder wenn eine automatisierte Entscheidung ohne menschliche Prüfung gewünscht wird, raten wir ab. Ein begründetes Nein ist billiger als ein Projekt, das später zurückgebaut wird.

Woran wir uns messen lassen

Wir nennen keine Erfolgsquoten aus anderen Projekten, weil Sie damit nichts anfangen können. Brauchbarer sind Werte, die Sie in Ihr eigenes Lastenheft und in den Vertrag übernehmen können. Die folgenden Größen eignen sich als Ausgangspunkt für Ihre eigene Leistungsbeschreibung. Sie sind als Anforderung formuliert, nicht als Ergebnis, das wir bereits erreicht hätten.

Auf der Datenseite: mindestens 98 Prozent Genauigkeit der übernommenen Daten, mindestens 95 Prozent Vollständigkeit der geforderten Felder, Aktualität von höchstens 30 Minuten zwischen Quelle und Anzeige. Im Betrieb: Antwortzeiten unter 2 Sekunden bei 15 gleichzeitigen Nutzern, eine Fehlerquote der Eingabevalidierung unter 5 Prozent, ein vollständiges Änderungsprotokoll und tägliche Sicherungen. Auf der rechtlichen Seite lassen sich ebenso prüfbare Werte vereinbaren: jede KI-gestützte Ausgabe ist als solche gekennzeichnet, jede Ausgabe ist auf Modellversion und Zeitpunkt zurückführbar, und ein Auskunftsersuchen nach Artikel 15 DSGVO ist ohne Datenbankzugriff zu beantworten.

Dazu ein Rechenbeispiel mit offengelegten Annahmen, weil der Schulungsaufwand regelmäßig übersehen wird: Arbeiten 60 Beschäftigte mit der Anwendung und rechnen Sie 90 Minuten Grundschulung je Person, sind das 90 Stunden, plus eine jährliche Auffrischung von 30 Minuten, also weitere 30 Stunden. Das ist eine Rechnung und keine Messung. Sie wird sofort falsch, wenn Nutzerzahl oder Dauer anders ausfallen. Der Punkt ist nicht die Zahl, sondern dass dieser Posten in die Planung gehört, bevor er im Betrieb auftaucht.

Rechtlicher Rahmen und Beauftragung

Drei Pflichtenkreise greifen ineinander. Die KI-Verordnung verlangt seit dem 2. Februar 2025 KI-Kompetenz bei den Beschäftigten, die solche Systeme einsetzen, dazu je nach Einstufung Transparenz gegenüber den Betroffenen, menschliche Aufsicht und Protokollierung. Die DSGVO verlangt eine Rechtsgrundlage, den Auftragsverarbeitungsvertrag nach Artikel 28, den Eintrag im Verarbeitungsverzeichnis und bei hohem Risiko die Folgenabschätzung nach Artikel 35. Für Oberflächen kommt die Barrierefreiheit nach BITV 2.0 und EN 301 549 hinzu, die auch bei internen Fachanwendungen greift.

Bei den Stichtagen der KI-Verordnung ist Vorsicht angebracht. Die Pflichten für Hochrisiko-Systeme nach Anhang III sind gestaffelt, und der europäische Gesetzgeber hat an den Fristen zuletzt noch gearbeitet. Welcher Termin für Ihr Vorhaben gilt, prüfen wir zu Beginn und halten das Ergebnis mit Datum und Fundstelle fest, damit Sie es belegen können.

Beauftragen lässt sich das in kleinen Schritten. Die Einstufung mit Bestandsaufnahme ist so zugeschnitten, dass sie in der Regel unterhalb der landesrechtlichen Wertgrenze für einen Direktauftrag oder eine Verhandlungsvergabe ohne Teilnahmewettbewerb bleibt. Diese Grenze ist je Bundesland und teils je Kommune verschieden, deshalb richten wir den Zuschnitt danach aus und nicht umgekehrt. Nach diesem Schritt entscheiden Sie auf belastbarer Grundlage, ob Sie ausbauen oder ausschreiben.

Zur Neutralität: Wo wir die Vergabeunterlagen geschrieben oder die Markterkundung geführt haben, geben wir kein Angebot ab. Die Projektantenstellung nach § 7 VgV lösen wir durch Verzicht, nicht durch Offenlegung. In welcher Rolle Sie uns haben wollen, entscheiden Sie zu Beginn.

Was wir nicht übernehmen

Wir sind keine Rechtsanwälte und erbringen keine Rechtsdienstleistung. Wir bereiten Unterlagen vor, ordnen Pflichten ein und schreiben auf, was zu entscheiden ist. Die Prüfung im Einzelfall bleibt bei Ihrer Rechtsabteilung oder Ihrem Anwalt, und bei umstrittenen Punkten sagen wir das ausdrücklich, statt eine Einschätzung als Gewissheit auszugeben.

Wir ersetzen auch Ihren Datenschutzbeauftragten nicht. Er ist nach Artikel 39 DSGVO zu beteiligen und beurteilt die Folgenabschätzung; wir liefern ihm die Grundlage und arbeiten seine Anmerkungen ein. Ein Testat oder eine Zertifizierung stellen wir nicht aus, weder nach KI-Verordnung noch nach DSGVO. Dafür gibt es benannte Stellen und akkreditierte Prüfer.

Was wir übernehmen, ist die Verantwortung für die Lieferung. Wir treten als Generalunternehmer auf und binden Partner ein, die wir nach festen Kriterien auswählen: Nachweise zur Informationssicherheit, Sitz und Verarbeitung in der EU, Offenlegung der eingesetzten KI-Komponenten und Bereitschaft zur Auftragsverarbeitung nach unseren Vorgaben. Sie haben einen Vertrag und einen Ansprechpartner, auch wenn im Hintergrund mehrere Beteiligte arbeiten. Wer das im konkreten Fall ist, steht im Angebot und nicht auf einer Website.

Häufige Fragen zu KI-Verordnung und DSGVO in der Umsetzung

Fällt unser KI-Assistent unter die Hochrisiko-Regeln der KI-Verordnung?

Das hängt am Anwendungsfall, nicht am Produkt. Unterstützung beim Formulieren von Vorlagen oder beim Suchen in eigenen Dokumenten ist meist unkritisch. Sobald es um Personalauswahl, Bildungszugang, die Zuteilung von Leistungen oder ähnliche Bereiche aus Anhang III geht, liegt die Sache anders. Wir stufen deshalb je Anwendungsfall ein und begründen die Einstufung schriftlich, damit sie prüfbar ist.

Brauchen wir für jede KI-Anwendung eine Datenschutz-Folgenabschätzung?

Nein. Erforderlich ist sie erst, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte der Betroffenen bedeutet. Viele Aufsichtsbehörden führen dazu Listen, die den Einsatz von KI-Systemen in bestimmten Konstellationen ausdrücklich nennen. Wenn wir zu dem Ergebnis kommen, dass keine nötig ist, dokumentieren wir auch diese Entscheidung. Ein nicht begründetes Weglassen fällt bei der ersten Prüfung auf.

Können wir sicherstellen, dass keine Daten die EU verlassen?

In vielen Fällen ja, aber es hat einen Preis, der nicht in Euro besteht: Die Auswahl an Modellen wird kleiner, und einzelne Funktionen sind mit europäisch betriebenen Modellen schwächer oder gar nicht verfügbar. Wir legen diese Abwägung offen, bevor Sie sie treffen. Wenn Sie den EU-Betrieb als hartes Kriterium setzen, richten wir die Partnerauswahl danach aus.

Muss die Personalvertretung beteiligt werden?

Regelmäßig ja. Sobald ein System objektiv geeignet ist, Leistung oder Verhalten von Beschäftigten zu überwachen, greifen die Mitbestimmungsrechte nach dem einschlägigen Personalvertretungsgesetz, unabhängig davon, ob Sie es so nutzen wollen. Wir binden den Personalrat deshalb in Phase zwei ein und nicht erst vor dem Rollout. Nachträgliche Beteiligung ist einer der häufigsten Gründe für Verzögerungen.

Lohnt sich eine eigene Anwendung überhaupt?

Oft nicht, und dann sagen wir das. Wenn der Bedarf sich mit einem eingekauften Standardprodukt, einer klaren Nutzungsrichtlinie und Schulung decken lässt, ist das der günstigere und rechtlich einfachere Weg, weil Sie dann nicht selbst in die Rolle des Anbieters rutschen. Eigenentwicklung ist sinnvoll, wenn der Markt nichts Passendes hergibt oder die Anbindung an Ihre Fachverfahren den Kern der Aufgabe ausmacht.

Was passiert, wenn der Anbieter sein Modell austauscht?

Dann ist zu prüfen, ob Einstufung, Folgenabschätzung und die Angaben im Verzeichnis noch stimmen. Wir vereinbaren mit den Partnern, dass solche Wechsel angezeigt werden, und übergeben Ihnen eine Anleitung, wie die Unterlagen dann fortzuschreiben sind. Von allein erledigt sich das nicht, und jede Zusage, die das behauptet, sollten Sie kritisch lesen.

Sie haben unsere Vergabeunterlagen geschrieben. Können Sie sich auch bewerben?

Nein. Wo wir die Unterlagen erstellt oder die Markterkundung geführt haben, geben wir kein Angebot ab. Das ist die Projektantenstellung nach § 7 VgV, und wir lösen sie durch Verzicht statt durch Erklärungen. Sie entscheiden vorab, ob Sie uns als Beratung neben dem Verfahren oder als möglichen Auftragnehmer im Verfahren haben wollen.

Was kostet die Umsetzung?

Das hängt am Zuschnitt und lässt sich ohne Kenntnis der Anwendungsfälle nicht seriös beziffern. Wir klären den Umfang im kostenlosen Erstgespräch und legen danach ein Angebot mit festem Leistungsumfang vor. Den ersten Schritt schneiden wir so zu, dass er möglichst ohne europaweites Verfahren beauftragt werden kann. Ob das trägt, hängt an der Wertgrenze Ihres Landes und am Zuschnitt; beides klären wir vorher.