Jede Woche kommen neue Verordnungen dazu. Insgesamt 12.000 Dokumente mit mehr als 60.000 Seiten. So viel, dass sie niemand mehr lesen, geschweige denn behalten kann. “Unter Umständen dauert so eine Prüfung dann auch monatelang, und das ist gerade nicht im Interesse von unserer Verwaltung”, sagt Thomas Hegenbarth, der Digitalisierungsbeauftragte der Stadt Dormagen. Deshalb kam ihm die Idee des Chatbots.
(…)
Das Ganze dauert nur ein paar Sekunden – statt Stunden, wie früher. Das System ist speziell für die Ausländerbehörde trainiert. Kennt alle Dokumente, erfasst neue innerhalb weniger Minuten und liefert geprüfte Antworten mit Quellenangaben und Datenschutz.
Das ist ja eigentlich keine schlechte Idee, Massenauswertung von sowas wie Texten ist ja eine der Stärken die KI hat.
Ich würde aber schon gerne wissen wo der Server steht. Wenn der auch noch lokal steht dann wäre das ja mal ein wirklich guter Einsatz von KI mMn.
Nur bei der Art und Weise, wie LLMs funktionieren lässt sich nie ausschließen, dass da was haluziniertes dazukommt oder was einfach nicht beachtet wird. Macht vielleicht eher Sinn, die Verordnungen irgendwie zu vereinfachen und ein System einzusetzen, was ganz sicher keine Sachen falsch gegen einen Menschen auslegen kann.
Ja stimmt.
Aber ich würde hoffen das wenn die echt STUNDEN beim bearbeiten sparen dann sollte doch wohl etwas Zeit zum prüfen drin sein :o
Das ist sicherlich nicht legal. Das ist genau das was durch die bestehenden Gesetze zu KI kram verboten wird. Was die brauchen ist eine custom Suchmaschine die ihnen das Durchsuchen von Gesetzes Texten vereinfacht.
Genau das ist das doch
Nö, eben nicht.
Und der funktioniert so: Mitarbeiter stellen eine Frage an die KI. Die leitet sie an einen so genannten KI-Agenten weiter. Der sucht gezielt in Dokumenten, Formularen und Datenbanken nach den passenden Informationen. Er analysiert, wertet aus und meldet die Ergebnisse zurück an die eigentliche KI. Die entscheidet dann, ob alles für eine Antwort ausreicht. Falls nicht, schickt sie den KI-Agenten noch einmal los. Wenn alles passt bekommt der Anwender eine Antwort.
Da sind mehrere Lagen an bullshit generator halluzinationen dazwischen. Komplett unzuverlässig. Das was am Ende rauskommt hat keinen direkten Zusammenhang mit dem Quellmaterial.
MechaHitler?
