KI im demokratischen Rechtsstaat: Tiefgang, Kontroversen und ein dringender Gestaltungsauftrag – Ein ausführlicher Bericht vom 19. For..Net Symposium

Mehr als nur Buzzwords – Zwei Tage kritischer Auseinandersetzung in München

Die allgegenwärtige Diskussion um Künstliche Intelligenz erreicht zunehmend die Fundamente unserer Gesellschaft – Demokratie und Rechtsstaat. Doch jenseits der oft oberflächlichen Debatten über Effizienzgewinne oder dystopische Szenarien bedarf es einer tiefgehenden, interdisziplinären Auseinandersetzung. Genau diese bot das 19. Internationale For..Net Symposium / https://www.tum-cdps.de/das-programm-for-net-2025/, das am 24. und 25. April 2025 in München stattfand. Unter der prägnanten Überschrift “KI im demokratischen Rechtsstaat: Innovation – Integration – Illusion” versammelten das Bayerisches Forschungsinstitut für Digitale Transformation (bidt) und das TUM Center for Digital Public Services – CDPS unter der Schirmherrschaft von Staatsminister Georg Eisenreich, MdL, eine beeindruckende Bandbreite an Expertinnen und Experten sowie ein engagiertes Publikum aus Justiz, Wissenschaft, Politik, Wirtschaft und Zivilgesellschaft.

Die Veranstaltung zeichnete sich, wie von For..Net gewohnt, durch eine Atmosphäre aus, die weit über akademische Konferenzen hinausgeht: Ein familiärer Charakter, gepaart mit intellektueller Schärfe, ermöglichte einen offenen, teils kontroversen, aber stets fruchtbaren Dialog. Es ging darum, die Potenziale der KI realistisch einzuschätzen, ihre inhärenten Risiken schonungslos zu benennen und gemeinsam nach Wegen zu suchen, wie diese transformative Technologie im Einklang mit unseren rechtsstaatlichen und demokratischen Werten gestaltet werden kann. Dieser Artikel versucht, die Dichte und Vielschichtigkeit der Diskussionen nachzuzeichnen und die wesentlichen Erkenntnisse aufzubereiten.

1. Das Wesen der KI entmystifizieren: Zwischen „Wundermaschine“ und „stochastischem Papagei“

Bevor über die Auswirkungen von KI diskutiert werden kann, ist ein grundlegendes Verständnis ihrer Funktionsweise und ihrer Grenzen unerlässlich. Mehrere Vorträge widmeten sich dieser Aufgabe und räumten mit populären Mythen auf.

Die „unperfekte“ Natur der KI: Prof. Dr. Alexander Pretschner (bidt) eröffnete mit der wichtigen Feststellung, dass insbesondere subsymbolische KI (wie die heute dominanten neuronalen Netze) gerade nicht wie klassische Software funktioniert. Sie operiert nicht nach präzisen, expliziten Regeln, sondern lernt Muster aus Daten. Das ermöglicht ihr, mit Ambiguität und Komplexität umzugehen, führt aber auch dazu, dass sie per Design nicht fehlerfrei ist. Ihre „Korrektheit“ ist probabilistisch und kontextabhängig. Diese inhärente Fehlbarkeit stellt uns vor fundamentale Fragen des Vertrauens und der Verantwortung.
Schwache vs. Starke KI & die Gefahr der Anthropomorphisierung: Prof. Dr. Ute Schmid (Uni Bamberg/bidt) bot eine klare Differenzierung: Die heutige KI ist „schwach“ – spezialisiert auf konkrete Aufgaben. Die Vision einer „starken“ KI mit menschenähnlichem Bewusstsein bleibt Science-Fiction. Schmid warnte eindringlich davor, menschliche Begriffe wie „Intelligenz“, „Verstehen“ oder „Lernen“ unreflektiert auf Maschinen zu übertragen (Anthropomorphisierung). Chatbots wie ChatGPT mögen Emotionen simulieren, aber sie empfinden sie nicht. Dieses Verständnis ist elementar, um die Fähigkeiten der KI realistisch einzuschätzen.
Grenzen des Maschinellen Lernens (ML): Schmid erläuterte die Funktionsweise von ML, insbesondere von Klassifikations- und Generierungsmodellen (GenAI). Der Durchbruch bei ImageNet 2012 zeigte das Potenzial, aber auch die Fallstricke: Modelle lernen oft unerwünschte Muster (Overfitting, Beispiel Copyright-Vermerk statt Pferd), sind anfällig für minimale Störungen (Adversarial Examples) und benötigen riesige, oft problematische (Bias, Urheberrecht) Trainingsdatensätze sowie immense Rechenressourcen. Die Bezeichnung als „stochastische Papageien“ trifft oft den Kern: Sie reproduzieren und rekombinieren Gelerntes, ohne echtes Verständnis oder Generalisierungsfähigkeit im menschlichen Sinne.

2. Vertrauen in die Maschine? Eine gesellschaftliche Kernfrage im Zeitalter der KI

Die inhärente Fehlbarkeit und Intransparenz aktueller KI-Systeme wirft die Frage nach dem Vertrauen in den Staat auf, wenn dieser solche Systeme einsetzt.

Akzeptanz von Fehlerraten: Wann ist eine Gesellschaft bereit, eine KI mit einer Fehlerquote von z.B. 15% als „gut genug“ zu akzeptieren, insbesondere wenn Grundrechte betroffen sind? Wie Prof. Pretschner betonte, ist dies keine technische, sondern eine gesellschaftliche und politische Entscheidung, die wir bewusst treffen müssen.
Kalibriertes Vertrauen als Ziel: Prof. Schmid argumentierte, dass wir weg vom generalisierten Misstrauen oder blinder Technikgläubigkeit hin zu einem kalibrierten Vertrauen kommen müssen. Das bedeutet, die Zuverlässigkeit einer spezifischen KI-Anwendung in einem konkreten Kontext kritisch einschätzen zu lernen.
Die Rolle von Transparenz und Erklärbarkeit (XAI): Während der Wunsch nach erklärbarer KI groß ist, zeigte Dr. Dr. Sebastian Dötterl (OLG München) die Grenzen auf. Sogenannte „Reasoning Models“ täuschen oft nur Transparenz vor. Für den Richter sei nicht die (potenziell manipulierte) „Gedankenkette“ der KI entscheidend, sondern die Nachvollziehbarkeit am Maßstab des Gesetzes. Wahre Transparenz über Trainingsdaten, Designentscheidungen und Finanzierungsinteressen bleibt oft auf der Strecke.

3. Die Justiz im digitalen Sturm: Zwischen Effizienzhoffnung und Rechtsstaatsgarantien

Ein Schwerpunkt lag auf den Auswirkungen der KI auf das Rechtssystem und die Justizverwaltung.

Digitalisierungsdruck und Realität: Staatsminister Eisenreich und OLG-Präsidentin Stefanie Otte zeichneten ein Bild der laufenden Bemühungen (E-Akte, Justizportal-Initiativen), aber auch der erheblichen Herausforderungen. Otte sprach von einer „Mammutaufgabe“ bei der E-Akten-Einführung und kritisierte die mangelnde Standardisierung und Koordination im Föderalismus („Jeder einer für alles macht“-Prinzip vs. „Einer für Alle“). Essenzielle digitale Werkzeuge, wie zuverlässige Transkriptionssoftware für Verhandlungen, fehlen oft noch.
KI als Werkzeug, nicht als Richter: Einhelliger Tenor war: KI kann und soll die Justiz unterstützen, aber niemals menschliche Richter ersetzen. Eisenreich betonte, KI könne nur Hilfsmittel sein. Otte warnte vor dem „Robo-Judge“ und einer „nullten Instanz“ durch KI-Entscheidungsvorschläge, solange Verlässlichkeit und Nachvollziehbarkeit nicht garantiert sind. Der Grundsatz „Human in the Loop“ (oder besser: „Human is the Loop“) wurde als unverzichtbar unterstrichen.
Richterliche Unabhängigkeit in Gefahr? Dr. Dötterl analysierte die potenziellen Gefahren für die richterliche Unabhängigkeit (Art. 97 GG). Nicht nur durch expliziten Zwang zur KI-Nutzung (sachliche Unabhängigkeit), sondern subtiler durch „Cognitive Offloading“ (Auslagern des Denkens) und „Automation Bias“ (unkritisches Übernehmen von KI-Vorschlägen), die die innere Unabhängigkeit untergraben können. Er plädierte provokant dafür, dass KI bei richtigem Einsatz – zur kritischen Überprüfung eigener Annahmen („Advocatus Diaboli“) – die Unabhängigkeit sogar stärken könnte.
Der (un)perfekte menschliche Richter: Dötterl erinnerte daran, dass auch menschliche Richter nicht frei von Fehlern, Biases und externen Einflüssen sind (Hunger, Müdigkeit, Ankereffekte, Druck). Eine realistische Betrachtung beider Seiten – Mensch und Maschine – sei notwendig, um Synergien zu finden und Risiken zu minimieren.

4. Demokratie unter Spannung: Geopolitik, Desinformation und die Macht der Algorithmen

Die Diskussion erweiterte sich auf die fundamentalen Auswirkungen von KI auf demokratische Prozesse und die öffentliche Meinungsbildung.

Die duale Natur der KI für die Demokratie: Dr. Katja Muñoz (Deutsche Gesellschaft für Auswärtige Politik e.V. | DGAP) arbeitete die Ambivalenz klar heraus. KI kann Bürgerbeteiligung fördern (Übersetzung, Moderation, personalisierte Information), wird aber gleichzeitig massiv zur Desinformation, Propaganda und zur systematischen Manipulation von Reichweite und Sichtbarkeit eingesetzt. Es geht nicht nur um gefälschte Inhalte (Deepfakes), sondern um die Distribution und die Verstärkung durch Algorithmen („Ripple in the Pond Effect“).
Der geopolitische Machtfaktor: Muñoz betonte die entscheidende geopolitische Dimension. Wer kontrolliert die KI-Technologie, die zugrundeliegende Infrastruktur (Cloud, Halbleiter, Energie) und die Daten? Technologische Abhängigkeit, insbesondere von den USA und China, führt unweigerlich zu demokratischer Abhängigkeit. Europas digitale Souveränität und strategische Resilienz seien keine Optionen mehr, sondern zwingende Notwendigkeiten.
Plattform-Effekte und “reale Nebenwirkungen”: Prof. Dr. Jürgen Pfeffer (TU München) untermauerte dies mit empirischen Befunden. Er zeigte, wie Plattform-Designentscheidungen menschliches Verhalten massiv beeinflussen und soziale Strukturen verändern. Die negativen Folgen von Online-Hass (Chilling Effects auf politische Partizipation, insbesondere von Frauen) sind messbar und gravierend. Er kritisierte die oft vorgeschobenen „positiven Use Cases“ von KI-Entwicklern angesichts der realen, unmittelbaren Risiken (Betrug, Manipulation, Radikalisierung) und forderte einen Paradigmenwechsel: Technologieentwicklung müsse sich am Gemeinwohl orientieren.

5. Regulierung als Gratwanderung: Der DSA, der AI Act und die Suche nach Wirksamkeit

Die Rolle der Regulierung wurde intensiv diskutiert, insbesondere der Digital Services Act (DSA) und der AI Act.

Der DSA in der Praxis: Prof. Dr. Henrike Weiden (HS München/Chairperson DSC Advisory Board) gab Einblicke in die Funktionsweise und Herausforderungen des DSA. Als Instrument zur Haftungsregelung und zur Bekämpfung illegaler Inhalte setzt er auf „Notice & Action“ und besondere Pflichten für Very Large Online Platformen (VLOPs). Die Durchsetzung durch die EU-Kommission und nationale Koordinatoren (DSCs, siehe https://www.dsc.bund.de/DSC/DE/_Home/start.html) ist komplex. Fragen der Reichweite (Wann besteht eine „wesentliche Verbindung zur Union“?), der Ressourcenausstattung der Behörden und der Balance zwischen Grundrechtsschutz und Meinungsfreiheit (insbesondere im transatlantischen Kontext) sind zentral. Weiden plädierte für eine klare Kante bei Verstößen, aber auch klare Grenzen beim Anwendungsbereich, um eine Überdehnung zu vermeiden („digitaler Demokratie-Boostverstärker“, kein „digitales Bollwerk“).
Der AI Act und die Justiz: Eisenreich und Otte verwiesen auf die Einstufung von KI-Systemen in der Justiz als Hochrisiko-Systeme im AI Act. Dies bringt hohe Anforderungen an Qualitätssicherung, Transparenz und menschliche Aufsicht mit sich, birgt aber auch die Gefahr von Überregulierung und Innovationshemmung, insbesondere für Start-ups und KMUs. Die nationale Umsetzung und die Klärung von Haftungsfragen sind noch offen.
Koordination und Standards: Die Notwendigkeit einer besseren (inter-)nationalen Koordination bei der Digitalisierung und Regulierung wurde mehrfach betont, ebenso der Bedarf an einheitlichen Standards, um „Wildwuchs“ zu vermeiden, aber gleichzeitig Innovation durch Wettbewerb zu ermöglichen (Anmerkung EDV-Gerichtstag).

6. Der Mensch im Zentrum: Kompetenz, Ko-Kreation und die Zukunft der Bildung

Wie können wir sicherstellen, dass der Mensch im Zeitalter der KI handlungsfähig bleibt?

Mensch-KI-Ko-Kreation: Prof. Schmid entwickelte die Vision einer Partnerschaft, die die jeweiligen Stärken kombiniert (menschliche Erfahrung, Kontextverständnis, Ethik; KI-Mustererkennung, Datenverarbeitung). Entscheidend sei die Gestaltung der Schnittstellen und die Vermeidung von Fallstricken wie „Automation Bias“ und „Cognitive Offloading“.
KI-Kompetenz als Schlüssel: Einhelliger Tenor: Wir brauchen eine breite KI-Kompetenz in der gesamten Gesellschaft. Das umfasst nicht nur Anwendungs-Know-how, sondern vor allem kritische Reflexionsfähigkeit: Quellen bewerten, Plausibilität prüfen, Funktionsweisen verstehen. Dies muss, so Schmid und Dötterl, integraler Bestandteil der Bildung werden – von der Grundschule bis zur Hochschule und Erwachsenenbildung. Bestehende Angebote (z.B. eine Stunde Medienbildung pro Woche an Schulen in einigen wenigen Bundesländern) sind angesichts der Allgegenwart von KI völlig unzureichend. Danke an Christian Füller für den Hinweis auf die Diskrepanz!
Anpassung der juristischen Ausbildung: Dr. Dötterl forderte eine Modernisierung der juristischen Ausbildung, die digitale Kompetenzen und ein Verständnis für KI einschließt. Auch das Referendariat müsse überdacht werden.

7. Wirtschaftliche Triebkräfte, gesellschaftliche Verwerfungen und philosophische Fragen

Die ökonomischen und gesellschaftlichen Implikationen wurden ebenfalls beleuchtet.

Effizienz vs. Neue Geschäftsmodelle: Philipp Eder (Allianz Rechtsschutz) zeigte, dass KI in der Wirtschaft primär aus Effizienzgründen eingesetzt wird (Prozessautomatisierung), warnte aber davor, hier stehenzubleiben. Das eigentliche Potenzial liege in der Entwicklung neuer, kundenorientierter Geschäftsmodelle, die z.B. Versorgungslücken schließen könnten.
Auswirkungen auf Arbeitsmarkt und Staat: Eder und Pfeffer thematisierten die zu erwartenden Verwerfungen am Arbeitsmarkt und die daraus resultierenden Fragen für die soziale Sicherung und die Staatsfinanzierung. Die wahrgenommene Dysfunktionalität des Staates in manchen Bereichen (Infrastruktur, lange Verfahren) könne durch KI potenziell verbessert, aber auch zur Delegitimierung genutzt werden.
Wahrheit, Sprache, „Logos“: Eder stieß eine tiefere philosophische Reflexion an: Was passiert mit unserem Wahrheitsbegriff, wenn KI auf Wahrscheinlichkeiten basiert? Wie schützen wir die menschliche Sprache als Kernwerkzeug der Vernunft und des Diskurses? Er plädierte für eine Abkehr vom reinen „Fachrecht“ hin zu einer stärker am Menschen orientierten Justiz.

8. Das For..Net-Ökosystem: Vernetzung, Förderung und Ausblick

Die Veranstaltung lebte auch von den Einblicken in konkrete Initiativen und dem spürbaren Netzwerkgedanken. Dr. Michael Klimke präsentierte die BAIOSPHERE als Plattform zur Vernetzung und Förderung einer werteorientierten KI in Bayern. Die Verleihung des For..Net Awards an HateAid gGmbH (mit toller Laudatio von Dr. Sarah Rachut) setzte ein starkes Zeichen für das Engagement gegen digitale Gewalt. Der For..Net Media Award würdigte herausragende mediale Vermittlungsarbeit, mit dem Gewinner Prof. Dr. Franz-Alois Fischer als “Grundgetz-Ultra” war spannend, aber auch die anderen beiden Kandidaten Nikolaus Forgó mit dem Video-Podcast “Ars Boni” / https://www.youtube.com/@arsboni_idlaw und Tahireh Panahi als Influencerin waren sehr spannend und haben tolle Pitches gehabt.

Prof. Dr. Prof. Dr. Dirk Heckmann, der mit seinem tollen Charme, mit seiner Expertise und seinem Engagement das Symposium seit Jahren prägt, schloss mit einem optimistischen Ausblick auf das 20. Jubiläums-Symposium 2026 unter dem Motto “Wertschöpfung durch Digitalisierung: Staatsmodernisierung als Wirtschaftsfaktor und demokratischer Anker.” Ein Thema, das den Gestaltungsanspruch unterstreicht.

Schlussfolgerung: Ein dringender Appell zur aktiven, wertebasierten Gestaltung

Das 19. For..Net Symposium hat die immense Komplexität und die tiefgreifenden Ambivalenzen von KI im Kontext von Recht und Demokratie eindrücklich verdeutlicht. Es lieferte keine einfachen Antworten, aber schärfte den Blick für die richtigen Fragen und die drängenden Herausforderungen. Die zentrale Erkenntnis ist: Wir können es uns nicht leisten, die Entwicklung passiv geschehen zu lassen oder uns von Hypes und Illusionen leiten zu lassen. Es bedarf einer proaktiven, kritischen und vor allem wertebasierten Gestaltung dieser Technologie auf allen Ebenen. Dies erfordert einen gesamtgesellschaftlichen Kraftakt: Investitionen in Bildung und Forschung, kluge und durchsetzungsstarke Regulierung, internationale Kooperation, die Förderung digitaler Souveränität und vor allem eine kontinuierliche, offene Debatte über die Ziele und Grenzen des KI-Einsatzes. Das Symposium war ein wertvoller, ja notwendiger Beitrag zu diesem Prozess.

Mein Dank gilt allen Organisatoren, Referentinnen, Referenten und Teilnehmenden für zwei Tage voller intellektueller Anregung und wegweisender Diskussionen.

#fornet25 #KI #Demokratie #Rechtsstaat #Gesellschaft #CDPS #HateAid