Dutzende Organisationen haben sich öffentlich gegen den Einsatz von KI-Systemen in Migrationsverfahren ausgesprochen. In einer gemeinsamen Stellungnahme warnen sie vor den Folgen des geplanten Gesetzesvorhabens der schwarz-roten Koalition. Der Gesetzentwurf sieht vor, dass Algorithmen künftig eine größere Rolle bei der Bearbeitung von Asyl- und Migrationsanträgen spielen könnten. Kritiker sehen darin eine Gefahr für die Rechte von Betroffenen und für die Rechtssicherheit in den Verfahren. Die Organisationen fordern, dass der Einsatz von KI in diesem sensiblen Bereich streng reglementiert wird und dass Betroffene effektiv rechtlichen Schutz einfordern können.
Um zu verstehen, worum es geht, muss man klären, was unter künstlicher Intelligenz in Behördenverfahren zu verstehen ist. Gemeint sind Computersysteme, die Muster in Daten erkennen und auf dieser Grundlage Vorschläge für Entscheidungen unterbreiten können. In der Verwaltung könnten solche Systeme zum Beispiel dabei helfen, Anträge zu sortieren, Risiken einzuschätzen oder Beamten bei der Prüfung von Asylgesuchen zu unterstützen. Entscheidend ist jedoch, dass der Mensch letztlich verantwortlich bleibt und dass jede Entscheidung nachvollziehbar begründet werden muss. Genau hier sehen die Kritiker beim aktuellen Entwurf große Lücken.
Im Zentrum der Kritik stehen drei konkrete Mängel im Entwurf. Erstens fehle es an ausreichenden Datenschutzvorgaben. Zweitens gebe es keine Pflichten zur regelmäßigen Evaluation der Systeme. Drittens fehlten Transparenzpflichten gegenüber den Betroffenen. Ohne diese Sicherungen könnten Entscheidungen getroffen werden, deren Gründe für die Betroffenen nicht nachvollziehbar sind. Das erschwert es erheblich, sich gegen ablehnende Bescheide zu wehren oder rechtliche Schritte einzuleiten. Die Organisationen betonen, dass Migrationsverfahren besonders sensibel seien, da es hier um grundlegende Rechte wie den Schutz vor Verfolgung und das Recht auf Asyl gehe.
Dutzende Organisationen haben sich öffentlich gegen den Einsatz von KI-Systemen in Migrationsverfahren ausgesprochen. In einer gemeinsamen Stellungnahme warnen sie vor den Folgen des geplanten Gesetzesvorhabens der schwarz-roten Koalition. Der Gesetzentwurf sieht vor, dass Algorithmen künftig eine größere Rolle bei der Bearbeitung von Asyl- und Migrationsanträgen spielen könnten. Kritiker sehen darin eine Gefahr für die Rechte von Betroffenen und für die Rechtssicherheit in den Verfahren. Die Organisationen fordern, dass der Einsatz von KI in diesem sensiblen Bereich streng reglementiert wird und dass Betroffene effektiv rechtlichen Schutz einfordern können.
Um zu verstehen, worum es geht, muss man klären, was unter künstlicher Intelligenz in Behördenverfahren zu verstehen ist. Gemeint sind Computersysteme, die Muster in Daten erkennen und auf dieser Grundlage Vorschläge für Entscheidungen unterbreiten können. In der Verwaltung könnten solche Systeme zum Beispiel dabei helfen, Anträge zu sortieren, Risiken einzuschätzen oder Beamten bei der Prüfung von Asylgesuchen zu unterstützen. Entscheidend ist jedoch, dass der Mensch letztlich verantwortlich bleibt und dass jede Entscheidung nachvollziehbar begründet werden muss. Genau hier sehen die Kritiker beim aktuellen Entwurf große Lücken.
Im Zentrum der Kritik stehen drei konkrete Mängel im Entwurf. Erstens fehle es an ausreichenden Datenschutzvorgaben. Zweitens gebe es keine Pflichten zur regelmäßigen Evaluation der Systeme. Drittens fehlten Transparenzpflichten gegenüber den Betroffenen. Ohne diese Sicherungen könnten Entscheidungen getroffen werden, deren Gründe für die Betroffenen nicht nachvollziehbar sind. Das erschwert es erheblich, sich gegen ablehnende Bescheide zu wehren oder rechtliche Schritte einzuleiten. Die Organisationen betonen, dass Migrationsverfahren besonders sensibel seien, da es hier um grundlegende Rechte wie den Schutz vor Verfolgung und das Recht auf Asyl gehe.
Besonders problematisch ist die Undurchsichtigkeit vieler KI-Systeme. Oft ist nicht nachvollziehbar, wie ein Algorithmus zu einem bestimmten Ergebnis kommt. Selbst die Betreiber der Systeme können die internen Entscheidungswege nicht immer lückenlos erklären. In einem Verwaltungsverfahren, das über die Zukunft von Menschen entscheide, sei das nicht akzeptabel. Die Behörden müssten daher verpflichtet werden, die Funktionsweise offenzulegen und unabhängige Prüfungen zuzulassen. Nur wenn Betroffene verstehen können, warum eine Entscheidung getroffen wurde und welche Daten dazu herangezogen wurden, können sie sich wirksam wehren.
Auch der Datenschutz wird von den Kritikern als unzureichend bezeichnet. Migrationsverfahren verarbeiten hochsensible personenbezogene Daten, darunter Angaben zu Herkunft, Religion, politischer Verfolgung oder Gesundheitszuständen. Der Einsatz von KI erhöhe das Risiko, dass diese Daten missbraucht oder unbefugt weiterverarbeitet werden. Ohne klare Schutzvorgaben könnten Betroffene zusätzlich gefährdet werden, etwa wenn Daten an Drittstaaten oder private Dienstleister gelangen. Die Organisationen fordern daher verbindliche Datenschutzstandards, die speziell auf den Einsatz von KI in Migrationsverfahren zugeschnitten sind.
Die fehlende Evaluation sei ein weiterer Schwachpunkt des Gesetzentwurfs. Es sei unklar, wie oft und durch wen die KI-Systeme auf ihre Rechtmäßigkeit und ihre Auswirkungen überprüft werden sollen. Ohne regelmäßige Kontrollen ließen sich Fehler oder Verzerrungen in den Algorithmen nicht rechtzeitig erkennen. Die Organisationen fordern, dass Evaluierungen verpflichtend festgeschrieben und die Ergebnisse öffentlich zugänglich gemacht werden. Nur so ließen sich systematische Probleme frühzeitig erkennen und korrigieren, bevor sie einzelne Betroffene hart treffen.
Rechtsexperten weisen darauf hin, dass der Einsatz von KI in Behördenverfahren rechtliche Grenzen hat. Verwaltungsentscheidungen müssen begründet werden können und dürfen nicht allein auf automatisierten Prozessen beruhen. Wenn ein Algorithmus eine Vorentscheidung trifft, müsse ein menschlicher Beamter diese eigenständig prüfen und verantworten. Der aktuelle Entwurf erfülle diese Anforderungen nach Ansicht der Kritiker nicht ausreichend. Die Organisationen rufen die Bundesregierung auf, den Gesetzentwurf zu überarbeiten und verbindliche Transparenzregeln, klare Datenschutzstandards sowie verpflichtende Evaluierungen festzuschreiben.
Für Leser und Betroffene hat die Debatte konkrete Auswirkungen. Wer einen Asyl- oder Migrationsantrag stellt, möchte wissen, wer über sein Schicksal entscheidet und auf welcher Grundlage. Wenn KI-Systeme mitwirken, ohne dass dies offengelegt wird, könnten Betroffene gar nicht merken, dass ein Algorithmus ihre Chancen beeinflusst hat. Das untergräbt das Vertrauen in staatliche Institutionen und macht es schwieriger, Fehler zu korrigieren. Die Organisationen warnen daher davor, dass KI-Systeme Menschenrechte in Migrationsverfahren aushöhlen könnten, wenn sie nicht streng reglementiert werden.
Hintergrund ist eine breitere Diskussion über den Einsatz von KI in der öffentlichen Verwaltung. Immer mehr Behörden prüfen den Einsatz automatisierter Systeme, um Verfahren zu beschleunigen und Ressourcen zu sparen. Gleichzeitig wachsen die Bedenken hinsichtlich Datenschutz, Diskriminierung und rechtlicher Kontrolle. Der Fall der Migrationsverfahren zeigt, wie umstritten diese Entwicklungen sind und welche Anforderungen an den staatlichen Einsatz von KI gestellt werden. Es geht nicht nur um Effizienz, sondern auch um die Frage, wie viel Automatisierung in Entscheidungen über menschliche Schicksale akzeptabel ist.
Bislang ist unklar, wie die Bundesregierung auf die Kritik reagieren wird. Der Gesetzgebungsprozess befindet sich noch in einer frühen Phase. Es bleibt abzuwarten, ob die Regierung die Einwände der Organisationen aufnimmt und den Entwurf entsprechend anpasst. Die Debatte über den Einsatz von KI in staatlichen Verfahren dürfte in den kommenden Monaten weiter an Bedeutung gewinnen. Offen ist auch, wie die Balance zwischen administrativen Erleichterungen und dem Schutz der Rechte von Betroffenen gefunden werden soll.