Ethische KI-Standards

UNSERE POSITION

Technologie soll darauf ausgerichtet sein, Fähigkeiten von Menschen zu erweitern, ihre Bedürfnisse zu erfüllen und ihre Erfahrungen zu verbessern. Daher sollten KI-Technologien nach einem menschenzentrierten Ansatz entwickelt und genutzt werden.

DAS FORDERN WIR

• Beim Einsatz von KI müssen ethische Standards sowie soziale Aspekte und ökologische Faktoren beachtet werden. Es braucht Leitlinien und Standards, an denen sich Entwickler*innen und Anwender*innen orientieren können. KI darf nicht dazu genutzt werden, um Menschen auszubeuten, zu manipulieren oder zu ersetzen.
• KI-Systeme sollten für ihre Nutzer*innen so weit wie möglich nachvollziehbar und erklärbar sein. Intransparente „Black Box“-Systeme bergen große Risiken. Methoden wie Explainable AI müssen gefördert werden, um die Nachvollziehbarkeit zu erhöhen, und insbesondere von staatlichen Stellen bevorzugt werden.
• KI-Technologie muss fair sein und darf keine Individuen oder Gruppen systematisch diskriminieren. KI-Systeme dürfen keine versteckten Vorurteile oder Diskriminierungen enthalten, die sich aus den Trainingsdaten ergeben können. Schon bei der Datenauswahl und -aufbereitung muss auf potenzielle Biases geachtet werden.
• Es braucht Qualitätssicherung und -nachweise. Für KI-Systeme, die in kritischen Bereichen eingesetzt werden, müssen Qualitätsstandards definiert und deren Einhaltung überprüft werden. Mögliche Maßnahmen sind Zertifizierungen oder unabhängige Prüfstellen.
• Um KI im Sinne der Menschen zu entwickeln, braucht es divers zusammengesetzte Entwickler*innen-Teams. Diese müssen gezielt gefördert werden. Zudem sollte der Austausch über bewährte Verfahren branchenübergreifend gefördert werden.

BEGRÜNDUNG

Wir sehen das immense Potenzial von KI, aber auch die Gefahren. Unsere Forderungen zielen darauf ab, die Risiken beim Einsatz von KI zu minimieren und sicherzustellen, dass KI-Technologien die Bedürfnisse der Menschen in den Mittelpunkt stellen. Dies fördert Akzeptanz und Vertrauen der Nutzer*innen in KI-Anwendungen. Langfristig ist der verantwortungsvolle Einsatz von KI der einzige Weg, das volle Potenzial dieser Technologien zum Wohle der Gesellschaft auszuschöpfen. Wir glauben, dass die Erfüllung dieser Forderungen dazu beitragen werden, eine gerechtere und inklusivere digitale Zukunft zu gestalten.

AUTOR*INNEN: Nina Krebs, Zaim Sari, Julia Scharsich, Felicitas Strickmann, Konstantin Strömel, Philip Toma, Vincent Wehrwein