Ist KI der bessere Richter?
Die zentrale Fragestellung dieser Episode ist, ob künstliche Intelligenz als überlegener Richter fungieren kann im Vergleich zu menschlichen Entscheidungsträgern. Wir, Nils Brechbühler und Dan Bauer, begrüßen Sie zu einer eingehenden Diskussion über die jüngsten Entwicklungen in Bayern, wo ein Entwurf für ein Modernisierungsgesetz vorliegt, das vorsieht, dass KI zukünftig Ermessensentscheidungen treffen soll, die traditionell den Beamten vorbehalten waren. In diesem Kontext beleuchten wir die Herausforderungen und Chancen, die sich aus der Implementierung solcher Technologien ergeben könnten, insbesondere im Hinblick auf die Qualität der Entscheidungen und die rechtlichen Implikationen. Wir erörtern außerdem die Notwendigkeit der Transparenz und Nachvollziehbarkeit bei KI-gestützten Entscheidungen sowie die ethischen Überlegungen, die mit der Automatisierung von Verwaltungsakten einhergehen. Diese Überlegungen sind nicht nur von akademischem Interesse, sondern betreffen unmittelbar die Beziehung zwischen Bürgern und dem Staat. Die Diskussion über die Rolle von Künstlicher Intelligenz (KI) in der Justiz entfaltet sich in einem Kontext, in dem der Freistaat Bayern plant, Verwaltungsentscheidungen, die bislang in den Händen menschlicher Beamter lagen, durch KI zu ersetzen. Dies betrifft insbesondere Ermessensentscheidungen, bei denen eine Abwägung der Interessen des Antragstellers erforderlich ist. Während die Möglichkeit, KI in diesen Entscheidungsprozessen einzusetzen, als innovativer Schritt gefeiert wird, stellen sich fundamentale Fragen zur Eignung der KI als Richter. In der Debatte wird die Skepsis gegenüber der Fähigkeit von KI, komplexe und nuancierte Entscheidungen zu treffen, die oft menschliche Emotionen und ethische Überlegungen erfordern, deutlich. Insbesondere wird hervorgehoben, dass KI lediglich Wahrscheinlichkeiten berechnet und nicht über ein tieferes Verständnis von Gerechtigkeit oder moralischen Werten verfügt, was in der Praxis zu potenziellen Fehlentscheidungen führen könnte. Die Diskussion beleuchtet die Herausforderungen, die mit der Implementierung solcher Technologien in die öffentliche Verwaltung verbunden sind, und hebt die Notwendigkeit hervor, klare rechtliche Rahmenbedingungen zu schaffen, um sowohl die Integrität des Entscheidungsprozesses als auch den Schutz der Bürgerrechte zu gewährleisten.
Takeaways:
- Die Diskussion über den Einsatz von KI als Richter wirft bedeutende rechtliche und ethische Fragen auf.
- Das bayerische Modernisierungsgesetz könnte die Grundlage für KI-gestützte Entscheidungen in der Verwaltung schaffen.
- Ermessensentscheidungen, die menschliches Urteilsvermögen erfordern, stellen eine Herausforderung für KI-rechtliche Rahmenbedingungen dar.
- KI-Modelle müssen sorgfältig trainiert werden, um relevante und präzise Entscheidungen zu treffen.
- Die Qualität und Verlässlichkeit von KI-Entscheidungen hängt von den zugrunde liegenden Daten ab.
- Es bleibt abzuwarten, ob KI tatsächlich zu mehr Gerechtigkeit in den Entscheidungsprozessen führen kann.
Moderatoren
Dan Bauer ist ein einflussreicher Impact-Entrepreneur und Multi-Unternehmer mit über zwei Jahrzehnten Erfahrung, der sich der digitalen Transformation und nachhaltigen Innovation verschrieben hat. Er ist bekannt für seine führende Rolle in verschiedenen hochrangigen Gremien, darunter der Senat der Wirtschaft Deutschland und der EU. Als Kommissionsvorsitzender im Senat ist erster Ansprechpartner für die digitale Transformation. Bauer hat bedeutende Initiativen wie das IPDR Forum, die bootstrap academy oder die Mission TOP 5 ins Leben gerufen und wirkt als Autor und Herausgeber bei Springer Gabler. Seine Projekte und sein Engagement in der Förderung von Wissen und digitaler Kompetenz machen ihn zu einem Schlüsselakteur in der Gestaltung der deutschen und europäischen Wirtschaftslandschaft.
Dan bei LinkedIn: https://www.linkedin.com/in/danbauerofficial/
Nils Brechbühler ist Geschäftsführer der Brechbühler GmbH und Experte für digitale Transformation im öffentlichen Sektor. Er verfügt über mehr als 12 Jahre Erfahrung in Führungspositionen und als Projektmanager in der öffentlichen Verwaltung, IT-Dienstleistungsunternehmen und Beratungsfirmen. Brechbühler begann seine Karriere in einer Stadtverwaltung und arbeitete später für einen kommunalen IT-Dienstleister sowie einen Fachverfahrenshersteller. Seit 2022 ist er als selbstständiger Berater tätig und unterstützt öffentliche Behörden und Beratungsunternehmen bei Transformationsprozessen.
Nils bei LinkedIn: https://www.linkedin.com/in/nilsbrechbuehler/
Besuche unsere Website für weitere Informationen und Ressourcen zur Digitalisierung im öffentlichen Dienst: https://fortschrittcenter.de/. Abonniere unseren Podcast, um keine Episode zu verpassen, und hinterlasse eine Bewertung auf deiner bevorzugten Podcast-Plattform!
_______________________________________________
Impressum: https://www.fortexa.de/impressum/
Transcript
Ist die KI der bessere Richter?
Speaker A:Herzlich willkommen bei Kanzler, unserem Podcast zur Transformation im Staatswesen.
Speaker A:Mein Name ist Nils Brechbühler, an meiner Seite der allseits geschätzte, was hast du gerade gesagt, Pizzabäcker.
Speaker A:Pizzabäcker, Rechtsfanatiker, Metallenthusiast im wahrsten Sinne des Wortes.
Speaker A:Dan Bauer, korrifiere Wirtschaft.
Speaker A:Hallo.
Speaker B:Dankeschön.
Speaker B:Dankeschön Nils.
Speaker B:Mir geht es hervorragend.
Speaker B:Wir nehmen wieder einen Kanzler auf und das in dieser Zeit.
Speaker B:Es ist hervorragend, wirklich.
Speaker A:Es ist passender denn je, lieber Dan, weil die KI schlägt um sich.
Speaker A:Wir haben schon häufig hier im Podcast drüber gesprochen und jetzt nimmt es sogar auch schon teilweise rechtliche Züge an.
Speaker A:Ich habe dir ein Thema mitgebracht, lieber Dan, und zwar keine Fiktion, sondern schon Realität.
Speaker A:Und zwar dein Bundesland Bayern, wo du ja auch wirkst und herkommst, möchte jetzt folgendes tun, nämlich Bayern möchte Rechtsgeschichte schreiben und möchte denn im Entwurf des sogenannten fünften Modernisierungsgesetzes steht drin, dass, ich drück's mal vielleicht mal so nicht so ganz so technisch und nicht ganz so rechtlich aus, dass der Freistaat Bayern zukünftig künstliche Intelligenz statt Beamte entscheiden lassen möchte.
Speaker A:Gerade dort, wo wo ansonsten der Mensch ausdrücklich der Entscheider ist, nämlich im sogenannten Ermessensentscheidung.
Speaker A:Vielleicht für all die, die jetzt nicht so genau wissen, was sind Ermessensentscheidungen?
Speaker A:Ermessensentscheidungen sind quasi Verwaltungsakte, in denen es abzuwägen gilt nach den Interessen zum Beispiel auch eines Antragstellers, also ob zum Beispiel eine Maßnahme, die man trifft, geeignet, erforderlich und angemessen ist.
Speaker A:Das heißt, es findet quasi eine entsprechende Prüfung durch den Menschen noch statt, ob jemand zum Beispiel eine Baugenehmigung bekommt, ob einer Veranstaltung halten darf, ob er eine Kfz Zulassung gewährt bekommt.
Speaker A:Also überall dort, wo quasi der Mensch an der Stelle noch mal so ein bisschen die Interessen abzuwägen hat.
Speaker A:So, jetzt, lieber Dan, jetzt frage ich dich, siehst du die KI auch als den besseren Richter, als den Ersatz des Menschen?
Speaker A:Wie siehst du das?
Speaker B:Also ich freue mich total für diesen Vorstoß und muss schon sagen, es ist ja dann quasi die Vorstufe.
Speaker B:Also jetzt gibt man der KI noch so Erwägungsspielräume, die nicht so ganz kritisch sind, ist schon OK.
Speaker B:Und ich würde sagen, es ist die Vorstufe.
Speaker B:Was ich mich frage ist, also wir beide arbeiten wahnsinnig viel mit KI.
Speaker B:Wir beide verstehen, dass mindestens 60 Prozent aller KI Befehle, Prompts, wie auch immer du die nennst, völlig für den Hund sind, weil die nicht richtig funktionieren, weil die nicht ausgeben, was du brauchst, weil die nicht und so weiter.
Speaker B:Also wenn wir Profis schon sagen, wir kommen auf so 40, vielleicht 50 Prozent einer guten Quote mit KI, frage ich mich, wie genau trainieren die dieses Ding und was für ein Modell ist da im Hintergrund?
Speaker B:Ist schon eine interessante Frage, weil du hast es jetzt gesehen bei Antropic, Mystic oder Mystic 5 hieß es ja.
Speaker B:Mal und Fable wurde ja umbenannt und plötzlich sagt jemand, gibt es jetzt nicht mehr so und dann ist das so, wenn du jetzt eine KI zugrunde legst, wo das Gleiche passieren könnte.
Speaker B:Also da ist die Datensouveränität eine sehr hohe, ein sehr hohes Kriterium, um das Valide hinzubekommen.
Speaker A:Ja, das ist ja auch gerade so ein bisschen das Thema der Stunde.
Speaker A:Vielleicht für alle, die, die es nicht mitbekommen haben.
Speaker A:Anthropic, eines der führenden Hersteller für LLM Modelle, hat ja an der Stelle den Stecker gezogen, jetzt nicht aktiv, sondern unfreiwillig, weil es eingenordet wurde, weil es eine behördliche Anordnung der US Regierung gab, dass man den ausländischen Mitbürgerinnen außerhalb des US Staates den Zugriff innerhalb und außer gerade noch ergänzen.
Speaker A:Das wollte ich sogar gerade noch ergänzen.
Speaker A:Das betrifft sogar Leute, die bei Anthropic arbeiten und kein US Staatsbürger sind.
Speaker A:Also soweit.
Speaker A:Genau.
Speaker A:Also das ist, das macht diese ganze Thematik noch mal so vollkommen illusionär, sage ich jetzt mal an der Stelle.
Speaker A:Aber um auf deine Frage zu antworten, das steht natürlich noch nicht in dem entsprechenden Modernisierungsgesetz, weil es da erstmal natürlich nur darum geht, die entsprechenden rechtlichen Grundlagen zu schaffen, um überhaupt einen Verwaltungsakt nach A Verwaltungsverfahrensgesetz auch auf diesem Wege quasi zuzulassen.
Speaker A:Also für all die juristischen Feinschmecker unter uns, das ist etwas, wo Bayern jetzt vorprescht, aber wo zum Beispiel auch der Bund an der Stelle noch nicht nachgezogen hat.
Speaker A:Also es würde jetzt an der Stelle erstmal nur den Freistaat Bayern betreffen, sodass Bayern quasi erstmal die rechtliche Möglichkeit hätte, so etwas durchzuführen.
Speaker A:Um jetzt vielleicht mal eine technologische Frage da an der Stelle vielleicht noch mal eins zu eins.
Speaker A:Ich finde diesen Begriff, der triggert mich so ein bisschen.
Speaker A:Ich höre immer ständig irgendwie in anderen Thematiken, ja, das muss eingeordnet werden.
Speaker A:Ich mache das nicht mehr, ich versuche es trotzdem einzuordnen.
Speaker B:Lass das mal philosophisch einordnen.
Speaker A:So, und wenn ich das einordne, dann habe ich genau wie du auch meine, wie sollte man es jetzt beschreiben, meine Governance Bedenken.
Speaker A:Jetzt nicht vor dem Hintergrund, dass das technisch nicht möglich ist.
Speaker A:Ich glaube, da sind wir uns einig, das ist de facto möglich.
Speaker B:Aber wenn ich technisch möglich sein will.
Speaker A:Genau, Aber wenn ich halt sehe, wie viele auch öffentliche Organisationen, wie Hemdsärmlich, die den KI Einsatz bei sich in der Organisation bereitstellen, ich drücke es mal so aus, habe ich da meine Zweifel und ich habe da auch meine Zweifel, dass, und das muss man glaube ich auch ehrlich sagen, inwieweit deutsche oder europäische Sprachmodelle jetzt hier zu einem qualitativen Vergleich herangezogen werden, der mit solchen Modellen wie Open oder die von Anthropic konkurrieren können.
Speaker A:Also das ist so ein bisschen das, was mich umtreibt.
Speaker A:Ich bin absolut bei dir, dass wir da an der Stelle die souveräne Datenhaltung auch durch europäische Modelle irgendwie stärken sollen.
Speaker A:Aber ich frage mich immer, wo ist das Angebot, was so mächtig ist, das zu tun?
Speaker A:Also ich weiß, dass es spezialisierte LLM Modelle gibt, die genau auf die Verwaltung zugeschnitten sind, die genau dahingehend trainiert sind.
Speaker A:Ich habe sie aber, muss ich auch ehrlich sagen, noch nicht so häufig in der Praxis gesehen.
Speaker A:Und ich weiß auch nicht, ob sie an der Stelle diese Power haben, die die großen LLMs besitzen, um solche Entscheidungen vollumfänglich, und das bringt mich auch so ein bisschen zur Folgethematik, haftungsarm, sage ich jetzt mal, entscheiden zu können, weil es bringt ja nichts, das moralisch einwandfrei Modell zu benutzen, wenn die entsprechenden Ermessentscheidungen dadurch einfach schlecht sind oder vielleicht sogar auch dazu führen, dass eben Fehler passieren.
Speaker A:Und das finde ich ganz spannend, das auch vielleicht noch mal dann wirklich qualitativ zu prüfen.
Speaker A:Und da bin ich auch gespannt, wie der Staat sich dazu positioniert.
Speaker A:Also ob er dann sagt, wir münzen alles auf die deutsch europäischen Lösungen, sind uns aber bewusst, dass vielleicht sogar dort die Technologie an der Stelle nicht so ausgereift ist, dass die besten Entscheidungen herauspurzeln indirekt, um zu sagen, dass der Mensch immer noch rüber gucken muss.
Speaker B:Das weiß ich nicht.
Speaker B:Ich glaube tatsächlich, dass wir technologisch gar nicht so hoch greifen müssen, um jetzt einen Antropic Cloud oder irgendwas zu verwenden, glaube ich gar nicht, sondern ich glaube, wir sind schon sehr lange dabei, dass wir die Modelle trainieren können, auch aus Europa heraus.
Speaker B:Mein Punkt ist, den auch du gerade angesprochen hast, der Anwendungsfall, weil das Ganze muss secure by design sein.
Speaker B:Das heißt, im besten Fall lädst du ein Ding hoch und danach kriegst du eine Antwort.
Speaker B:Wenn jetzt jemand, ein Sachbearbeiter hergehen muss und muss jetzt überlegen, wie er den Sachverhalt da drin darstellt, das würde nicht funktionieren, dann bist du schon bei so viel Erklärung, wie jemand promptet.
Speaker B:Ist das ein Metaprompt?
Speaker B:Also nutzt man eine andere KI, um den Prompt zu formulieren quasi?
Speaker B:Also da kommt in so viel Quatsch rein, das würde ich schon gar nicht so designen.
Speaker B:Ich würde es vom Design her schon so fahren, dass schon nichts falsch laufen kann und dass die Maschine im Hintergrund macht, was sie macht.
Speaker B:Bedeutet, du brauchst so eine Art Multiagent, der in der Lage ist, verschiedene Tasks auszuführen und sich selbst herbeizuführen.
Speaker B:Jetzt, wenn wir auf die technologische Seite runterbrechen, ist es eigentlich nur eine Wahrscheinlichkeitsberechnung.
Speaker B:Es ist ja so, ein LLM ist ja darauf ausgebaut, die nächstwahrscheinliche Antwort zu geben.
Speaker B:Und das ist ja auch der Grund, warum, wenn du GPT fragst, das sind immer die Leute, die die Technologie gar nicht verstanden haben, die sagen, ich laufe jetzt kurz mal um Block, stopp mal bitte die Zeit und zwei Sekunden später sagen sie, ich bin jetzt fertig.
Speaker B:Und dann antwortet GPT, ja, das hast du aber gut gemeistert in eineinhalb St, Respekt für 24 Kilometer.
Speaker B:So, die verstehen nicht, wie diese Modelle funktionieren, weil der erzählt ja nur das, was wahrscheinlich daraufhin im Kontext der Kontext ist, ich will jetzt hier so ein Marathon laufen und dann ist der Kontext ja geil, du wirst wahrscheinlich zweieinhalb Stunden oder drei gebraucht haben, weil das wahrscheinlich ist.
Speaker B:Weil wenn ich mir den Kontext Marathon anschaue, dann kann ich feststellen, dass da, ich weiß nicht, in was so einer Zeit gelaufen werden kann, aber in 3 Stunden gelaufen werden kann.
Speaker B:Und dann misst er nicht die Zeit, sondern sagt das, was wahrscheinlich am schlauesten oder am sinnvollsten ist oder am meisten, Er weiß, wenn du jetzt den trainierst, also Beck macht es ja und trainiert ja seine KI Lösung irgendwie mit allen Rechtstexten und so weiter.
Speaker B:Wenn du das machst und nur diesen Kontext zur Verfügung hast, kann das schon gut funktionieren.
Speaker B:Aber wie gesagt, muss Design secure by design sein, weil wenn da irgendjemand anfangen müsste zu prompten, dann glaube ich, wird das eine ganz schlimme Kiste.
Speaker A:Ja, das ist ja, ich zitiere immer gerne das schöne Zitat von Elon Musk, Dump is possible, so dumm wie möglich.
Speaker A:Also dem Anwender gar nicht so viel Raum geben, sondern eigentlich nur einen Service zur Verfügung stellen, der im Hintergrund dann so zugeschnitten ist, dass er funktioniert.
Speaker A:Also technologisch gesprochen.
Speaker A:Zweiter Punkt und das fand ich ganz spannend, da gibt es natürlich gibt es im Artikel auch eine Gegenposition und die Gegenposition argumentiert ähnlich wie du und sagt, naja, KI berechnet ja nur Wahrscheinlichkeiten, aber KI weiß nicht, was eine rationale Werteentscheidung ist.
Speaker A:Die kann, also so ein common sense, eine rationale Werteentscheidung kann eigentlich nur ein Mensch treffen.
Speaker A:So und das finde ich ganz spannend, weil in der Angemessenheitsprüfung bzw.
Speaker A:In einer Ermessensprüfung, ich habe früher als Verwaltungsbeamte auch welche gemacht, kannst du natürlich zum Beispiel Gewichtungen einbauen, die du als Mensch anders differenzierst als eine KI.
Speaker A:Also Beispiel, du hast Härtefälle, du hast Härtefälle, wo vielleicht auf dem Papier eine alleinerziehende Mutter auf dem Papier keinen Antrag bekommt, weil eben rational an der Stelle alle Lampen auf rot stehen, weil du aber als Mensch und auch in deinem Ermessen diesen entsprechenden Wertekanon besitzt und auch vorherrscht und kannst du halt immer noch sagen, ich gewähre es ihr trotzdem.
Speaker A:Und das finde ich ganz spannend, da wird nämlich die Gegenposition eingenommen.
Speaker A:Na ja, KI wird das niemals sagen.
Speaker A:Sie wird immer nur nach Wahrscheinlichkeiten quasi argumentieren und sagen, das ist nicht vorhanden.
Speaker A:Der oder diejenige bekommt halt kein kein Recht oder an der Stelle keine Gewährung.
Speaker A:Wie siehst du das?
Speaker B:Aber ja auch ja tatsächlich auch nur dann, wenn die Rechtsprechung vorher schon so war.
Speaker B:Also du brauchst ja trotzdem Trainingsdaten.
Speaker B:Also wenn jetzt in dem Fall einfach ein Ermessen vorliegt und Das ist aber 12 mal nach A entschieden worden, dann wird er entscheiden, weil B vielleicht dreimal passiert ist, auch wenn es passiert ist.
Speaker B:Und ich finde, wenn es so eine rein sachliche Entscheidungsgrundlage gibt, finde ich das eigentlich total geil.
Speaker B:Da sind wir wieder bei unseren Richtern die kurz vor Mittagspause härter entschieden haben.
Speaker B:Ich meine, du hast ja, du hast ja als Mensch so krass viel subjektive Sachen mitschwingen.
Speaker B:Ob du jetzt Bock hast, ob du gut gelaunt bist, ob deine Hormone fit sind, ob irgendwas im Tag passiert ist, ob du die Nase nicht magst, ob du die Herkunft von jemandem nicht magst.
Speaker B:Also da spielen ja so geisteskrank viele Sachen mit rein, die du aber alle durch KI destillieren kannst.
Speaker B:Finde ich also tatsächlich besser.
Speaker A:Ja, ich bin da ganz deiner Meinung.
Speaker A:Oder ob Bayer MÜD verloren hat.
Speaker A:Also sowas passiert ja nicht so häufig, aber ich bin da prinzipiell ganz, ganz bei dir und ich glaube, in der Konsequenz würde es, ich lebe dich mal aus dem Fenster, vielleicht sogar auch für mehr Gerechtigkeit sorgen, weil eben nicht mehr die Fehlerquelle Mensch Entscheidungen trifft, sondern und das ist ja auch nachgewiesen, dass die Fehlerquellen bei Maschinen einfach deutlich geringer sind.
Speaker A:Ich glaube einfach, warum wir uns immer echauffieren ist, oh, guck mal, da hat die Maschine einen Fehler gemacht, wo ich denke, ja einmal von einer Million, aber wie viele Menschen haben dann in einer Million Entscheidungen Fehler gemacht?
Speaker A: Bestimmt: Speaker B:Das ist jetzt eine Richt.
Speaker B:Super spannende Frage.
Speaker B:Wir haben, pass auf, als bekannt war, ich weiß nicht, es ist sechs, sieben Jahre her, nagel mich nicht drauf fest, als bekannt war, dass die E ID scheitern wird, hat man 90 Millionen reingesteckt.
Speaker B:Also als man festgestellt hat, es wird scheitern, hat man dann noch mal 90 Millionen.
Speaker B:Jetzt ist die Frage, hätte das eine KI anders und besser entschieden?
Speaker B:Ich würde behaupten, nein, auf gar keinen Fall, weil die Bewertungsgrundlage die Frage ist.
Speaker B:Also hätte die KI die Bewertungsgrundlage vollständig da gehabt, hätte sie es definitiv besser entscheiden können.
Speaker B:Jetzt kannst aber die Frage stellen, hatten die, die diese 90 Millionen damit verbrannt haben, denn die richtige Entscheidungsgrundlage, da können wir beide nicht nachvollziehen.
Speaker B:Und wenn die KI die nicht hat oder der Mensch nicht, werden beide Entscheidungen irgendwohin laufen.
Speaker B:Das ist ja der Grund, warum du sagst, im Amtsgericht bist du wie auf hoher See.
Speaker A:Ja, ja, das auch.
Speaker B:Wenn du recht hast, musst du absolut nicht recht bekommen.
Speaker B:Das ist halt so.
Speaker A:Ja, das finde ich ganz spannend.
Speaker A:Das bringt mich jetzt.
Speaker A:Ich habe noch eine zweite Frage, so ein bisschen mitgebracht die mich auch umtrieben hat, ist nämlich das Thema der Kontrolle und der Nachvollziehbarkeit und auch vielleicht auch der Haftung.
Speaker A:Weil wir reden ja vielleicht nicht darum, dass jemand ein kleines Baugrundstück bekommt, sondern vielleicht eine fette Subvention für, was weiß ich, eine fette Industriehalle, die gebaut werden soll und dann kriegt er die nicht so und dann geht er insolvent, weil er vielleicht gedacht hat, Mensch, ja geil, hab kein Geld.
Speaker A:Dass er vielleicht dumm wirtschaftlich geplant hat, steht auf einem anderen Blatt Papier.
Speaker A:Aber die Frage, die dann auch eingenommen wird, ist, wie können die entsprechenden Ermessensentscheidungen, wenn sie von der KI getroffen, sinnvoll und vollständig rekonstruiert werden.
Speaker A:Hättest du dazu eine Idee oder eine Antwort?
Speaker B:Also rekonstruiert, dass sich die KI das selbst rekonstruiert?
Speaker A:Ja, zum Beispiel.
Speaker A:Du kannst ja, du kannst ja, wenn wir jetzt mal so die rechtliche Perspektive einnehmen und sagen, du bist Unternehmer, du kriegst den Zuschuss zu deiner Gebäudehalle nicht gewährt oder machen wir es mal noch einfacher, du kriegst die Baugenehmigung nicht gewährt und du musst in die Nachbarkommune umziehen, da wird sie dir gewährt und da kostet irgendwie, das ist alles teurer geworden und du verklagst jetzt Kommune A für ihre Entscheidung, dass sie das nicht gewährt haben.
Speaker B:Ja, wäre ein völlig, also würde die KI das jetzt ausrechnen können, würde sie zu dem Schluss kommen, ne, machen wir doch, lass den mal hier, weil das alleine ja genau der vollständige Aufwand völliger Bullshit ist.
Speaker B:Ja, ja, da wäre ich prinzipiell dafür, wir kennen diese, war es eine Schule, glaube ich, die ihr Treppenhaus um 0,5 cm zu breit gemacht hat und deswegen ein zweites Gelände an der Wand brauchte, weil es war ja zu breit und die Kosten dafür die Schule überhaupt nicht stellen konnte.
Speaker B:Das sind so Entscheidungen, ich weiß nicht, ob es danach ermessen gehen könnte, aber das sind so Entscheidungen, wo eine KI hoffentlich sagt, nee Bruder, das ist so ein kranker Aufwand, mach das mal nicht.
Speaker B:Aber auch da wieder, das ist immer die Frage, was für eine Grundlage die KI hat.
Speaker B:Wenn die gar keine Grundlage zu diesem Fall hat, wird die halluzinieren, ob die halluzinieren darf.
Speaker B:Also würde ich diese Software bauen, ich würde dem Ding gnadenlos verbieten zu halluzinieren, was mittlerweile möglich geht, weil das Reasoning hoch genug ist, dass der das auch bewerten kann, ob er dann halluziniert oder nicht.
Speaker B:Und das jetzt würde bedeuten, dass die KI in dem Moment nicht entscheiden könnte, weil sie ja keine Daten dazu hat.
Speaker B:Also es wurden noch nicht so viel Schulen gebaut, wo die Treppe 0,5 cm zu breit war.
Speaker B:Und dann gibt es daran keinen Ermessensspielraum und dann würde sie nicht entscheiden.
Speaker B:Also die Frage was ist die Grundlage von der Entscheidung?
Speaker B:Und das hast ja bei Menschen nicht anders.
Speaker B:Das ist ja das Faszinierende auch übrigens beim Datenschutz.
Speaker B:Kurzer Schwenk mal ganz woanders hin.
Speaker B:Lieblingsthema von uns, Lieblingsthema.
Speaker B:Ich habe eine Spendenaktion ins Leben gerufen für den Typen, der zum Kanzler lügen Fritz, hast du gesehen, habe ich gesehen, habe ich geliked.
Speaker B:Innerhalb von fünf Stunden haben wir das Spendenziel.
Speaker B: ist laut Medien, ist der für: Speaker B:Und innerhalb von einem Tag hatten wir Euro zusammen.
Speaker B:Boah, das hat sich also gelohnt.
Speaker B:Das ist meine Aufgabe.
Speaker B:Also just in diesem Moment stecke ich noch in dieser Aufgabe, den Typen zu finden, weil ich kenne ihn nicht.
Speaker B:Und du kannst dir gar nicht vorstellen, wie viel Hass ich entgegengebracht bekommen habe von Rechtsanwälten und von Leuten, die im Bundestag sitzen und weiß ich nicht, was ich für ein Idiot bin, für jemanden zu spenden, den ich nicht kenne Und ich die Leute dann darauf hingewiesen habe, ist dir bewusst, dass 90 Prozent für die Menschen, die du spendest, du die nicht kennst.
Speaker B:Aber you know, da will ich gar nicht hin.
Speaker B:Ich will auf den Datenschutz hinaus.
Speaker B:Jetzt frage ich also Ämter und sämtliche, die wissen könnten, wer ist der?
Speaker B:Und dann sagen die nee, geht, können wir nicht sagen wegen Datenschutz.
Speaker B:Ich sage, ich muss das ja gar nicht wissen.
Speaker B:Schreib dem einen Brief, der reicht ja aus, ich habe Geld für ihn.
Speaker B:Du als Sieglinde.
Speaker B:Schreib dem Typ einen Brief und sagt, es gibt hier das Geld.
Speaker B:Ruf den Typen hier an, meine Nummer erlaube ich dir explizit da drauf zu schreiben.
Speaker B:Ruf den Typen an oder nicht.
Speaker B:Ich gebe dir oder einem Notar das Geld und du sagst dem Typen per Brief, der Notar hat dein Geld, ich muss den ja nicht treffen.
Speaker B:Ich brauche auch seine Daten nicht.
Speaker B:Was ich damit sagen will mit diesem Schwenk ist, bei der KI wird garantiert ein Datenschutz Fanatiker sagen, ja, aber Moment mal, das ist schwierig einzuordnen.
Speaker B:Und ich verstehe dann immer nicht, warum man dann nicht einfach, also ich brauche die Daten von dem Typen nicht.
Speaker B:Ich muss nur sicher gehen, dass sein Geld ankommt.
Speaker B:Und genauso kannst du ja auch in anderen Sachverhalten arbeiten, dass du den Datenschutz nicht immer als Killer nehmen musst, sondern als du verstehst, was ich meine.
Speaker B:Ja klar, aber es wird garantiert passieren.
Speaker B:Also wenn die Entscheidung jetzt, also wenn das jetzt darum geht, diese Software zu bauen, schwierig.
Speaker B:Also welche Daten kommen denn da rein?
Speaker B:Von wem denn?
Speaker B:Wer hat die denn dann trainiert?
Speaker B:Dann kommst du in den Fall, dass ja auch gleichzeitig wieder.
Speaker B:Also urheberrechtlich ist es ja aktuell noch so, wenn eine KI das generiert, ist kein Urheberrecht drauf.
Speaker B:Wobei noch nicht geklärt wurde, was heißt denn generieren.
Speaker A:Genau, genau.
Speaker A:Da streiten sich Juristen immer noch.
Speaker B:Hat es denn eine Schöpfungshöhe, wenn mein Prompt besonders gut und kreativ ist?
Speaker B:Ich meine, die sitzt an so einem Prompt durchaus drei, vier Stunden, bis der mal richtig geil ist.
Speaker B:Also da habe ich eine Schöpfungshöhe da drin.
Speaker B:Also aber das ist alles noch nicht final geklärt.
Speaker B:Und wem gehört dann die Entscheidung, also wieder bei Haftung sind, wem gehört die Entscheidung, die dann stattgefunden hat?
Speaker A:Das Thema ist ja eigentlich jetzt schon präsent, aber ich glaube, es ist in der Praxis einfach noch nicht angekommen, weil ich glaube, viele Bürgerinnen und Bürger und auch vielleicht viele Unternehmer oder sagen wir mal, die Leistungsempfänger von behördlichen Entscheidungen vielleicht noch gar nicht gemerkt haben, dass sie zum Teil KI basierte Entscheidungen auch schon bekommen.
Speaker A:Das passiert ja jetzt schon zum Beispiel im Bereich Wohngeld oder sowas ist ja.
Speaker A:Und ich glaube, viele haben dann auch vielleicht, sind einfach noch nicht sensibilisiert, dass sie die Möglichkeit hätten, natürlich auch gemäß der KI Verordnung darauf hinzuweisen, wie ist die Entscheidung eigentlich zustande gekommen.
Speaker A:Spannend wird es dann, finde ich, wenn die Behörde dann wirklich in so eine Begründungspflicht kommt und sagt, ja, also das wissen wir auch nicht.
Speaker A:Und ich glaube, da tut, glaube ich, eine Behörde auch jetzt dem Beispiel des bayerischen Hintergrund bayerischen Modernisierungsgesetzes von der Novellierung.
Speaker A:Daran, sich einfach dort einfach abzusichern, Mein Gott.
Speaker A:Und zu sagen, ja, ob man das in eine Dienstanweisung oder eine Dienstvereinbarung schreibt oder ob man das irgendwo in einer Klausel aufschreibt, dass wir oder dass die Behörde dafür keine Haftung übernimmt etc.
Speaker A:Ich meine, das reicht ja schon mal aus, aber gar nichts zu machen, das finde ich halt immer ein bisschen fahrlässig.
Speaker B:Gar nicht.
Speaker B:Ja, absolut.
Speaker B:Bin voll bei dir.
Speaker B:Das, was du gesagt hast, ruft bei mir einen lustigen Gedanken auf.
Speaker B:Wir tun immer alle so, als wäre KI was Neues.
Speaker B:Ja, was ist denn ein Anrufbeantworter?
Speaker A:Nichts anderes.
Speaker B:Das ist doch nicht, das ist doch nichts anderes als Flow, den wir heute halt in irgendeinem Tool bauen.
Speaker B:Ist doch ein Anrufbeantworter genauso ein Flow einer künstlichen Intelligenz.
Speaker B:Mehr Ist das auch Navi.
Speaker B:Wie lange nutzen wir Navis oder wie lange nutzen wir Handys, die fotografieren können?
Speaker B:Alles KI.
Speaker B:Also das ist nicht neu.
Speaker A:Genauso wie das weiße Word Dokument, was dann die Schreibmaschine abgesetzt hat.
Speaker A:Da übrigens auch jetzt vielleicht mal Fun Fact.
Speaker A:Genau, genau, Fun Fact.
Speaker A:Jetzt hast du vielleicht mitbekommen, dass unser Digitalminister ja einen Shitstorm geerdet hat, weil er seine Rede ja KI unterstützt geschrieben hat.
Speaker B:Ich habe auf Social Media habe ich gesagt, Carsten, ich wünsche mir, dass du das tust.
Speaker B:Also vielleicht kann man sich darüber unterhalten, ob er es besser hätte machen können.
Speaker B:Definitiv.
Speaker B:Aber ich erwarte von einem Digitalminister, dass er KI verwendet und zwar so viel wie möglich.
Speaker B:Der muss pro iger sein als ich in dem Game.
Speaker A:Ja, das sehe ich auch so.
Speaker A:Und das hat mir halt wieder gezeigt, dass unser Land ist einfach, es ist noch nicht so weit.
Speaker A:Weißt du über den Teich, woran hat der die legen, während über den Teich über KI-Rechenzentren im All siniert.
Speaker A:Wird, was ja voll logisch ist, weil es eiskalt ist.
Speaker A:Das ist total smart.
Speaker A:Echauffieren wir uns darüber, dass halt unser Digital will.
Speaker A:Ist eine Rede mit KI schreibt.
Speaker A:Ich meine, wie viel, wie viel Proof of Concept willst du noch generieren in dem Bereich?
Speaker A:Wie viel willst du noch haben?
Speaker B:Hier ist alles so weit weg, als wäre es auf einem anderen Planeten.
Speaker A:Deswegen bin ich ja zumindest mal ganz froh, dass es auch mal positive Lichtblicke gibt, dass zumindest dein Freund Freistaat Bayern sagt, komm, wir schaffen die rechtliche Grundlage dazu.
Speaker A:Zumindest steht es im Entwurf drin.
Speaker A:Ich glaube, es ist noch nicht durch den Gesetzgebungsprozess.
Speaker B:Chapeau an Markus und Chapeau auch an Markus, dass wir ein Raumfahrtministerium haben, ist sack smart.
Speaker B:Wir haben Industrie dazu gewonnen dadurch und sorry, wir haben die ESA in Bayern, also die NASA für Europa sitzt in München Garching.
Speaker B:Also ich mein, da ist das ja nur logisch.
Speaker B:Und deswegen, ich freue mich über den Schritt, ich mag den und ich bin höchst gespannt, was aus diesem Schritt wird.
Speaker A:Das bin ich auch und ich hoffe, da werden sich viele ein Beispiel annehmen.
Speaker A:Und bis dahin wünschen wir euch eine fantastische Zeit, genießt das Wetter und bis bald.
Speaker B:Ciao.
