Die KI-Richtlinie der VivaKirche Mannheim gefällt mir.
Ich habe für uns in der FeG Böblingen einen Text zu KI und Datenschutz erstellt, den kann ich hier auch einmal teilen. Für Kommentare dazu wäre ich dankbar. Es geht da nicht um KI, die wir als Gemeinde offiziell einsetzen sondern um die Schatten-KI, die ehrenamtliche Mitarbeiter zu Hause auf ihren PCs einsetzen.
Schatten-KI
Einleitung
Immer öfter verwenden Menschen Künstliche Intelligenz (KI) im Beruf und auch im privaten Umfeld. Im Bereich der Kirchen in Deutschland, nutzen schon ca. 50% KI dienstlich oder privat.
Z.B. werden kostenlose private Accounts für ChatGPT, Microsoft Copilot, Apple Intelligence, Google Gemini, Claude oder ähnliche KI-Dienste verwendet, um gute Formulierungen zu finden, Protokolle zusammenzufassen oder E-Mails zu entwerfen. Das bring spürbare Effizienzgewinne - birgt aber auch erhebliche datenschutzrechtliche Risiken, insbesondere dort, wo Beschäftigte oder ehrenamtlich Tätige Zugang zu personenbezogenen, teils besonders sensiblen Daten von Gemeindemitgliedern haben. Dieser Text ist übrigens auch mit Hilfe von KI erstellt worden.
Was ist Schatten-KI?
Als Schatten-KI (analog zur „Schatten-IT") bezeichnet man den Einsatz von KI-Anwendungen außerhalb offizieller, durch die verantwortliche Stelle geprüfter und freigegebener Strukturen. Mitarbeitende registrieren sich eigenständig bei kostenlosen oder privaten KI-Diensten und nutzen diese für dienstliche Zwecke oder ehrenamtliche Arbeit – oft in guter Absicht, um Arbeit zu erleichtern, aber ohne dass:
eine Auftragsverarbeitungsvereinbarung mit dem Anbieter besteht,
eine Risikobewertung oder Datenschutz-Folgenabschätzung stattgefunden hat,
der Datenschutzbeauftragte einbezogen wurde,
klar ist, wo und wie lange die eingegebenen Daten gespeichert und ob sie zum Training der Modelle weiterverwendet werden.
Schatten-KI entsteht meist nicht aus Nachlässigkeit, sondern aus fehlendem Problembewusstsein: Vielen ist nicht klar, dass eine simple Texteingabe in ein Chat-Fenster einer Datenübermittlung an einen externen, häufig außereuropäischen Dritten gleichkommt.
Preisgabe personenbezogener Daten durch KI-Anfragen
Besonders kritisch wird es, wenn Mitarbeiter mit Einblick in Mitgliederdaten (z.B. über ChurchTools), Seelsorgeprotokolle, Kasualien (Taufen, Trauungen, Beerdigungen) oder Sozialdaten diese Informationen in KI-Anfragen einfließen lassen, etwa um:
ein Beileidsschreiben oder eine Predigt „mit Bezug auf die Lebensgeschichte" der betroffenen Person zu verfassen,
ein Gemeindeversammlungsprotokoll auf sprachliche Fehler überprüfen zu lassen,
Personenliste zu formatieren oder auszuwerten,
eine E-Mail mit Namen, Anschrift oder familiären Verhältnissen von Gemeindemitgliedern zu formulieren.
Dabei handelt es sich häufig um besondere Kategorien personenbezogener Daten im Sinne unseres kirchlichen Datenschutzgesetzes (DSO-FeG = Datenschutzordnung des Bundes Freier evangelischer Gemeinden) – etwa Angaben zur Religionszugehörigkeit, Gesundheitsdaten, Angaben zu Seelsorgegeheimnissen oder zur Zugehörigkeit zu bestimmten sozialen Gruppen. Werden solche Daten in ein öffentlich zugängliches KI-Modell eingegeben, entstehen mehrere Risikoebenen:
Kontrollverlust: Die Daten verlassen den Verantwortungsbereich der Gemeinde und gelangen auf Server eines Drittanbieters, oft außerhalb der EU.
Fehlende Rechtsgrundlage: Für die Übermittlung an den KI-Anbieter besteht in der Regel keine tragfähige Rechtsgrundlage.
Trainingsdaten-Risiko: Je nach Anbieter und Vertragsmodell können eingegebene Inhalte zur Weiterentwicklung des KI-Modells verwendet werden – mit der Möglichkeit, dass Informationen (in veränderter Form) später wieder auftauchen.
Fehlende Löschmöglichkeit: Einmal übermittelte Daten lassen sich beim Anbieter oft nicht mehr zuverlässig löschen oder nachweislich vollständig entfernen.
Reputations- und Vertrauensschaden: Gerade im Gemeinde-Kontext, wo Seelsorge auf besonderem Vertrauen beruht, wiegt ein Bekanntwerden solcher Vorfälle schwer.
Es kommt noch schlimmer ...
Nicht nur durch bewusste KI-Anfragen gelangen Daten an Dritte sondern auch durch arglose Nutzung von Apps, die KI-Funktionen wie Datenkonvertierung nicht in der App sondern über Server des Herstellers erledigen (z.B. Adobe Acrobat Reader App).
Agentische KI
Agentischer KI zerlegt Probleme eigenständig in Teilschritte und greift selbsständig auf Software-Schnittstellen und Datenbanken zu. Dieses Verhalten macht es sehr schwer, die Aktionen von agentischer KI zu verstehen oder nachzuvollziehen. Auch wenn Zugriffsbeschränkungen definiert sind: die KI-Vorfälle bei denen KI aus ihrem gesetzten Rahmen "ausgebrochen" ist zeigen das große Risiko für unvorhergesehene, ethisch bedenkliche und illegale Aktionen.
Handlungsempfehlungen / Regelungen
Es wird empfohlen, KI-Assistenten, die sich an vielen Stellen in die genutzte Software hineindrängeln abzuschalten.
In ChurchTools gibt es einen Schreibassistenten - den haben wir abgeschaltet.
Vermehrt auftretende KI-Assistenten auf Webseiten bitte nur wohlüberlegt verwenden.
Freigegebene Alternativen verwenden! Leider haben wir da im Moment nichts anzubieten. ☹️
(In der Diskussion ist z.B. https://logicc.com, https://www.privateprompts.org oder https://mammouth.ai/. Wobei Mammouth.AI ziemlich sicher nicht geeignet ist.)
Sensibilisierung und Schulung: Mitarbeitende und Ehrenamtliche müssen konkret verstehen, was als personenbezogene bzw. besonders schützenswerte Angabe gilt und warum eine Eingabe in ein KI-Chatfenster einer Datenweitergabe(!) entspricht.
Anonymisierung/Pseudonymisierung als Grundprinzip: Wo KI-Unterstützung sinnvoll ist, sollten Namen, Adressen und identifizierende Details vor der Eingabe entfernt oder durch Platzhalter ersetzt werden.
(Dieser Text ist wie eingangs erwähnt auch mit Hilfe von KI erstellt worden, wobei keine Bezüge zur FeG-Böblingen und keine E-Mail-Adressen übermittelt wurden.)
**Protokolle aus Gemeindeversammlungen oder Leitungssitzungen dürfen nicht an KI-Dienste übermittelt werden.**❌
**Das Transkribieren von Videos aus Zoom oder Teams mit Hilfe von KI-Diensten ist nicht erlaubt.**❌
(Das Mitschneiden sowieso nur mit Einverständnis)
Agentische KI mit Zugriff auf Gemeindedaten ist tabu. ❌
Auf hauptsächlich dienstlich genutzten PCs ist Microsoft Copilot oder Apple Intelligence abzuschalten. (Das gilt auch für Ton-, Licht- und Beamer-Technik, soweit mit vertretbarem Aufwand durchfürbar).
Für die vielen privaten PCs kann das nur eine Empfehlung und herzliche Bitte, aber keine Verpflichtung sein.
Konvertierung ins PDF-Format lokal auf dem eigenen PC durchführen (keinen Web-Service verwenden sondern "Speichern als PDF" aus der Office-Anwendung heraus oder mit der PDF-Druckfunktion).
Dokumente für größeres Publikum als PDF bereitstellen und nicht im Ursprungsdateiformat (Word oder Excel oder Powerpoint oder ...).
Bei Fragen, den Datenschutzbeauftragten der Gemeinde einbeziehen.
Datenschutzverstöße an der richtigen Stelle melden:
Datenschutzbeauftragter der Gemeinde
Datenschutzrat des Bundes Freier evangelischer Gemeinden (und nicht der Datenschutzbeauftragte des Landes Baden-Württemberg, denn wir haben als FeG unser eigenes Datenschutzrecht)
Datenschutzbeauftragter FeG Böblingen: datenschutz@feg-boeblingen.de
Datenschutzbeauftragter des Bundes Freier evangelischer Gemeinden: datenschutz@feg.de
Datenschutzrat des Bundes Freier evangelischer Gemeinden: datenschutzrat@feg.de
Fazit
Schatten-KI in der Gemeinde ist kein theoretisches, sondern ein reales und wachsendes Risiko – gerade weil der Zugang zu sensiblen Daten dort besonders ausgeprägt ist. Wirksamer Schutz entsteht nicht durch Verbote allein, sondern durch eine Kombination aus klaren Regeln, praktikablen Alternativen und einem gestärkten Bewusstsein dafür, dass jede Texteingabe in ein KI-System eine Datenübermittlung ist.
Links zum Thema
https://www.dr-datenschutz.de/ki-prompts-und-datenschutz-datenleck-durch-prompts-vermeiden/#Sind-KI-Prompts-datenschutzrechtlich-relevant
