gesellschaftlicher Verhältnisse. Das vergessen wir aber immer wieder. Oft nehmen wir maschinenvermittelte Bewertungs- oder Entscheidungsvorschläge stattdessen als uns ‚überlegen‘ an und verlassen uns unreflektiert darauf. Das kann zu sehr gefährlichen Konsequenzen und massiv diskriminierenden Grundrechtseingriffen führen und zeigt: Nicht immer ist der Einsatz einer KI-Anwendung die beste Lösung. In einigen sensiblen Anwendungsbereichen haben KI-Systeme gar nichts zu suchen.“ Otto und sein Team haben die Vorbehalte von KI selbst getestet: Sie haben sich der virtuellen Berufsberatung des österreichischen Arbeitsmarktservice, welcher auf ChatGPT basiert, einmal als 16-jähriger Junge und einmal als 16-jähriges Mädchen vorgestellt. „Dem Mädchen wurden unter anderem Berufe wie Friseurin, Kosmetikerin oder Masseurin, dem Jungen hingegen Berufe im Bereich Elektro, IT oder Maschinenbau vorgeschlagen“, berichtet Otto. Die EU stuft KI-Anwendungen, die über berufliche Bildung, Zugang zu Bildung und beruflichen Verlauf des Lebens einer Person bestimmen, übrigens als System mit hohem Risiko ein. Diese Systeme unterliegen strengen Verpflichtungen wie Protokollierung der Tätigkeiten, Nachvollziehbarkeit der Ergebnisse und klare Information der Nutzerinnen und Nutzer. KI-Systeme, die die Sicherheit und Rechte von Menschen, Umwelt und Demokratie bedrohen, sind nach den EU-Regeln Hochrisikosysteme und damit gänzlich verboten. Für de Bastion liegen die Hauptprobleme beim Einsatz von KI bei der Implementierung und Verständlichkeit: „Risiken ergeben sich, wenn sich Mitarbeitende von technischen Entwicklungen immer weiter überfordert und abgehängt statt entlastet fühlen.“ Sie verweist auf Taiwan, dessen Digitalministerin Audrey Tang die englische Abkürzung AI als „assistive“ statt „artificial intelligence“ versteht, KI also aus kooperativer und unterstützender Perspektive betrachtet. Neuer Wein in alten Schläuchen? Prof. Dr. Jeanette Hofmann, Leiterin der Forschungsgruppe „Politik der Digitalisierung“ am Wissenschaftszentrum Berlin für Sozialforschung, weist darauf hin, dass es nicht erst KI braucht, um dem Fachkräftemangel in der Verwaltung entgegenzuwirken: „Schon eine einheitliche Digitalisierung würde der Verwaltung erlauben, viele Arbeitsgänge zu automatisieren und somit in Zeiten knappen Personals ihre Produktivität zu steigern. Die Vorzüge des Einsatzes von maschinellem Lernen werden in prognostischer Assistenz gesehen. Überall dort, wo Informationen über vergangene Leistungsbedarfe Abschätzungen über künftige Anforderungen zulassen, profitiert die Verwaltung.“ © Marten Bjork/Unsplash.com Auch Ottos Thinktank hat in seinen Forschungen immer wieder festgestellt: „Damit die Chancen von KI überhaupt genutzt werden können, müssen KI-Systeme als Teil einer konsistenten und konsequenten Digitalisierungs-, Modernisierungs- und Datenmanagementstrategie begriffen werden. Dafür ist auch die Neustrukturierung und Veränderung analoger Arbeitsprozesse sowie Strukturen notwendig. So wie die Digitalisierung keine analogen Defizite in Verwaltungsstrukturen beheben kann, können auch die Entwicklung und der Einsatz von KI-Systemen nicht das Fehlen von strukturierten Datensätzen ausgleichen.“ Für Hofmann hat die Medaille namens AI Act zwei Seiten. Sie weist darauf hin, dass KI die Bürokratie nicht unbedingt vermindern, sondern auch nur verlagern kann: „Der Einsatz von maschinellem Lernen im Rahmen von Verwaltungsentscheidungen mit unmittelbaren Auswirkungen auf die Bürgerinnen und Bürger gehört zu den Risikoanwendungen, die Transparenzanforderungen und neue Berichtspflichten mit sich bringen. Zu den Transparenzanforderungen könnte auch ein Transparenzregister gehören. Zeiteinsparungen auf der einen Seite werden also zeitaufwendige Berichtsverfahren auf der anderen Seite nach sich ziehen.“ Otto dagegen sieht keine Überregulierung: „Die vom AI Act vorgeschriebene Folgenabschätzung macht absehbare Risiken sichtbar und zwingt die Verantwortlichen zu einem lösungsorientierten, grundrechtsangemessenen Umgang mit diesem Risiko. Wer an diesem Punkt nur ‚Verhindern‘ und ‚Ablehnen‘ als Lösung in Betracht zieht, wiederholt letztlich die Fehler aus den Anfängen der Datenschutz-Grundverordnung. Statt an bestehenden Hindernissen und Problembeschreibungen stehen zu bleiben, braucht es deshalb an allen Stellen des Staates mehr Willen zu Gestaltung und Modernisierung sowie mehr Raum für zukunftsgerichtete, lösungsorientierte Ideen.“ De Bastion hält den risikobasierten Regulierungsansatz für sinnvoll: „Es ist wichtig, eine Balance zu finden, die Raum für Innovation schafft, aber gleichzeitig unsere Gesellschaft schützt. Der AI Act ist ein Erfolg für die Grundrechte der Europäerinnen und Europäer, jedoch sollte er nicht als fertiger Gesetzesrahmen betrachtet werden.“ Die beiden EU-Organe müssen dem Beschluss noch abschließend zustimmen, was allerdings reine Formsache ist. Das Gesetz wird voraussichtlich zu Beginn des Jahres 2024, also noch vor der Europawahl, verabschiedet. dsc FOKUS 25 dbb magazin | Januar/Februar 2024
RkJQdWJsaXNoZXIy Mjc4MQ==