Erzbistum Köln
.

Ordnung über die Nutzung Künstlicher Intelligenz
durch Einrichtungen und Institutionen im
Erzbistum Köln (KI-Nutzungs-Ordnung)

Vom 10. Dezember 2024

ABl. EBK 2025, Nr. 2, S. 3

Diese Ordnung soll den sicheren und verantwortungsvollen Einsatz von Künstlicher Intelligenz (KI) im Erzbistum Köln gewährleisten. Sie legt fest, unter welchen Voraussetzungen KI genutzt werden darf.
####

§ 1
Geltungsbereich

Diese Ordnung gilt für die Nutzung von KI durch alle Institutionen und Einrichtungen im Erzbistum Köln.
#

§ 2
Grundsätze

( 1 ) 1 Vorhaben zur Nutzung von KI-Systemen, auch durch Vertragspartner, sind mit dem Bereich IT & Digitalisierung des Erzbischöflichen Generalvikariates im Vorfeld abzustimmen. 2 Das Entwickeln und Trainieren eines eigenen KI-Systems ist nur mit Genehmigung erlaubt (§ 6).
( 2 ) KI darf im Erzbistum Köln ausschließlich im Kontext der Risikoklassen 4 und 3 im Sinne der EU-Verordnung über künstliche Intelligenz1# eingesetzt werden (s. den Anhang).
( 3 ) Die Nutzungsbedingungen des Anbieters des KI-Systems sind unbedingt einzuhalten.
#

§ 3
Rechte Dritter; Datenschutz; Vertraulichkeit

( 1 ) 1 Die Eingabe von Daten muss rechtlich zulässig sein. 2 Insbesondere darf sie nicht gegen Datenschutz-, Urheber- oder Markenrecht verstoßen.
( 2 ) 1 Die Verarbeitung personenbezogener Daten im Rahmen von KI-Systemen ist nur nach Freigabe durch den Datenschutzbeauftragten des Erzbischöflichen Generalvikariates zulässig. 2 Eine Eingabe von vertraulichen und/oder personenbezogenen Daten auf öffentlichen frei zugänglichen KI-Plattformen2# ist stets untersagt.
#

§ 4
Prüfpflicht

( 1 ) 1 KI-generierte Inhalte sind vor ihrer Verwendung auf ihre Richtigkeit bzw. Plausibilität und Angemessenheit zu prüfen. 2 Texte sind zudem einer redaktionellen Kontrolle zu unterziehen.
( 2 ) 1 Insbesondere bei von KI-Systemen erzeugten Texten und Bildern ist darauf zu achten, dass diese keine Reproduktion urheberrechtlich geschützter Werke darstellen. 2 Bei Zweifeln hat die Verwendung zu unterbleiben.
#

§ 5
Transparenzpflicht

Der Einsatz von KI-Anwendungen der Risikoklasse 3 ist im Außenverhältnis kenntlich zu machen.
#

§ 6
Eigene KI-Systeme

( 1 ) Das Entwickeln und Trainieren eines eigenen KI-Systems bedarf der vorherigen Genehmigung durch den Bereich IT & Digitalisierung.
( 2 ) Die Genehmigung darf nur erteilt werden, sofern keine technischen, sicherheitsrelevanten oder datenschutzrechtlichen Belange entgegenstehen.
#

§ 7
Inkrafttreten

Diese Ordnung tritt zum 1. Januar 2025 in Kraft.
#

Anhang – Risikoklassifizierung von KI-Anwendungen

Klasse
Risikoklasse 4
Minimales
Risiko
Risikoklasse 3
Geringes Risiko
Risikoklasse 2
Hohes Risiko
Risikoklasse 1
Unannehmbares Risiko
Eigenschaften
Alle KI-Systeme können unter Einhaltung des allgemeinen geltenden Rechts entwickelt und verwendet werden; d.h. ohne Beachtung zusätzlicher rechtlicher Verpflichtungen.
Durch die KI-Anwendung besteht eine Manipulationsgefahr;
Nutzenden könnte beispielsweise nicht klar sein, dass sie es mit einer Maschine zu tun haben.
Die KI-Anwendung wirkt sich nachteilig auf die Sicherheit der Menschen oder ihre Grundrechte aus.
Die KI-Anwendung verstößt gegen die Werte der EU, weil sie Grundrechte verletzt.
Beispiele
Großteil der KISysteme, die derzeit in der EU verwendet werden.
z.B. SPAM-Filter, KI- gestützte Videospiele
z.B. Einsatz von Chatbots
Kritische Infrastrukturen;
Strafverfolgung / Recht; Bewertungsprozesse (z.B. Kreditwürdigkeit)
Manipulation menschlichen Verhaltens;
Social Scoring durch den Staat
Folgen
Keine Verpflichtung
Transparenzverpflichtung
Konformitätsprüfung
Verboten!
#
1 ↑ Verordnung (EU) 2024/1689 des Europäischen Parlamentes und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz), ABl. L, 2024/1689, 12.7.2024.
#
2 ↑ Z.B. ChatGPT, OpenAI.