KI in Asylverfahren: Gesellschaft für Informatik mahnt zu Vorsicht

Zusammenfassung

Die Gesellschaft für Informatik (GI) kritisiert den Gesetzesentwurf der Bundesregierung zur Nutzung von KI in Asylverfahren, da er keine belastbare Entscheidungsgrundlage bietet und das Risiko von Diskriminierung sowie falschen Entscheidungen birgt. Experten weisen darauf hin, dass algorithmische Verzerrungen und Automation Bias die erhoffte Effizienzsteigerung zunichtemachen und schwerwiegende grundrechtliche Risiken für vulnerable Gruppen darstellen. Die GI fordert daher eine umfassende Überarbeitung des Entwurfs sowie die Verankerung von Sicherheits- und Datenschutzprinzipien.