Neue Regeln für Künstliche Intelligenz in der EU

Brüssel. Die Europäische Kommission hat neue Vorschläge zur Regulierung im Bereich Künstliche Intelligenz (KI) vorgelegt. Sie verfolgt dabei einen risiko-basierten Ansatz.

Unterschwellige Manipulation von menschlichem Verhalten, das Ausnutzen der Schutzbedürftigkeit von bestimmten Personengruppen und die Bewertung des sozialen Verhaltens von Behörden (Social Scoring) durch KI-Systeme sollen jedoch verboten werden. Bei KI-Systemen, bei denen ein hohes Risiko besteht, wie beispielsweise beim Einsatz in der Strafverfolgung und Rechtspflege, werden zudem strenge Vorgaben gemacht. Darunter fällt auch die biometrische Fernidentifizierung. Die wahl- und anlasslose Überwachung, worunter die Gesichtserkennung fällt, bliebe laut dieser Vorschläge verboten. Nur im ganz engen Rahmen und mit richterlicher Genehmigung soll es Ausnahmen geben. Das sorgte unmittelbar für Diskussionen, auch wenn die Gesichtserkennung nicht Kern der Regulierung ist. Die Vorschläge der Kommission werden nun im ordentlichen Gesetzgebungsverfahren vom Europäischen Parlament und von den Mitgliedstaaten diskutiert.

Die Kommission des Europarats für die Effizienz der Justiz (CEPEJ) hat bereits 2018 ethische Grundsätze für die KI-Verwendung in Justizsystemen festgelegt. Dazu gehören beispielsweise die Grundrechte zu achten, Diskriminierungen zu verhindern, Transparenz, Unparteilichkeit und Fairness zu ermöglichen sowie die Qualität und Sicherheit bei der Verarbeitung von Entscheidungen und Daten zu garantieren.

Ansprechpartner

Bild von Matthias Schröter Matthias Schröter Pressesprecher
Telefon030/ 206125-12 Fax 030/ 206125-25 E-Mail schroeter@drb.de