Bundesdigitalministerium

Agentic AI Hub: Pilotierung in Kommunen gestartet

Gemeinsam mit Startups arbeiten sie daran, Verwaltungsvorgänge mit agentischer #KI spürbar zu beschleunigen. Die autonomen Agenten prüfen z.B. Anträge, fordern fehlende Unterlagen an, analysieren Dokumente und erstellen Entscheidungsvorschläge. Die Ergebnisse sollen perspektivisch bundesweit nutzbar sein.

Mehr Informationen: https://bmds.bund.de/aktuelles/pressemitteilungen/detail/agentic-ai-hub-pilotierung-in-kommunen-startet

#BMDS #Digitalministerium #WirMachen #KünstlicheIntelligenz #AgenticAI

Mar 9 at 3:57pmWeb
Show threadKlarname 🌈Mar 9

@BMDS

Halluzinierende Behörden next Level

Show threadMarcus (testet Sharkey)Mar 9
@BMDS
Allen Beteiligten ist klar, dass wir uns vom Mittleren Dienst verabschieden? Ok, wenn das so gewollt und geplant ist, dann soll das so sein. Sollte aber dringend kommuniziert werden!
Show threadFlorian  Mar 9
@BMDS mit Faxschnittstelle? 🥰
Show threadjan Ki | 奇  Mar 9
@BMDS
Ich widerspreche ausdrücklich jeder Nutzung meiner Daten für so eine Scheiße
Show threadJamesMar 9
@BMDS super Idee. Überhaupt keine Gefahr, dass das auch nur irgendwie schief gehen kann. Null Risiko, wenn ein KI Agent Unterlagen anfordert und Entscheidungsvorschläge macht. Weil die menschliche Psyche auch total widerstandsfähig ist gegen "es hat wer anders mit Ahnung gemacht, muss ich nicht mehr drüber gucken, weil ja die letzten zehn Mal auch richtig waren".
Show threadKlarname 🌈Mar 9

@BMDS

https://mastodon.online/@pseudonym/116135917950981989

Pseudo Nym (@[email protected])

If you replace a junior with #LLM and make the senior review output, the reviewer is now scanning for rare but catastrophic errors scattered across a much larger output surface due to LLM "productivity." That's a cognitively brutal task. Humans are terrible at sustained vigilance for rare events in high-volume streams. Aviation, nuclear, radiology all have extensive literature on exactly this failure mode. I propose any productivity gains will be consumed by false negative review failures.

Mastodon
Show threadffffennekMar 9
@BMDS Weder 1. April noch Halloween. Schade eigentlich.
Show threadProScience 🇪🇺Mar 9

@BMDS

🤣

Show threadSalem's LotMar 9
@BMDS Also weiter den Trichter verengen unter dem der störende Mensch noch Leistungen vom Staat oder Behörden allgemein zu erwarten hat? Eine blöde und dumme Text-Komplettierung handelt kritische Prozesse ab - einfach nur schlecht.
Show threadT0B1Mar 9
@BMDS what could possibly go wrong
Show threadJörn FrankeMar 9
@BMDS Hoffentlich geschieht das im Gegensatz zu OpenClaw, Clawbot und Co sicher und die Daten der Bürger enden nicht bei anderen. Das @bsi gibt hoffentlich Vorgaben und überprüft diese.
Show threadRainer "friendica" SokollMar 9

@BMDS Laßt euch doch bitte mal von eurer IT (ihr habt doch eine?) zwei Begriffe erklären:

  • prompt injection
  • bobby tables

Und denkt dann bitte nochmal nach.

Show threadvampirdaddyMar 9

@BMDS

Ich weiiiiß ja nicht, ob das so zielführend ist:

KI zur Festschreibung defekter Prozesse statt Streamlinen, Entschlacken und sauberer Definition selbiger (Workflow-Doku)

100% Abhängigkeit von US-Clouddiensten, Illegale Aufzeichnung von Gesprächen, Verletzung des Fernmeldegeheimnisses (Transkriptions-Dienst),

Ergo:
Verdoppelung/Verdreifachung der Prozesse (jeweils für digital KI-Naives (sic!), manuelle Korrekturen davon, und gleich von vornherein manuell-maschinelle Verarbeitung).

Show thread[email protected]Mar 10

@BMDS In wie weit werden digitale Souveränität und Nachhaltigkeit in dem Projekt berücksichtigt? Sind z. B. die Prinzipien von #PublicMoneyPulicCode Zugangsvoraussetzung, um teilnehmen zu können? https://publiccode.eu/de/

#opensource #digitalsouvereignty

Public Money, Public Code

Public Money, Public Code - Eine Kampagne, damit öffentlich finanzierte Software als Freie Software veröffentlicht wird

Show threadJaddyMar 10

@BMDS Ich sehe glorreiche Zeiten der Lächerlichkeit voraus - aber leider viel Leid auf Seiten derer, die den zu erwartenden Unfug dann als Bescheide, Entscheidungen und so weiter ausbaden müssen.

Und da sind wir noch nicht bei den Themen Kompetenzverlust der Mitarbeitenden - „Sorry, Computer says no, kann ich nix machen“ - und Wissensverlust auf allen Ebenen. Sehr viele Behördenleute werden mit der Zeit den Überblick verlieren, wie die Prozesse funktionieren, welche Vorschriften aktuell gelten, wer eigentlich die Hoheit über die Maschinen hat.

Ist der britische Postskandal noch präsent, wo lediglich eine falsch programmierte Rechnungsprüfungs-Software tausende Postleute fälschlich beschuldigt und Existenzen und sogar Leben vernichtet hat?

Zeit für ein umfangreiches Widerspruchsrecht und massiven zivilgesellschaftlichen Widerstand.

Show threadAnna Saultron Mar 10

@BMDS wenn das mal funktioniert demnächst dann wahrscheinlich nur noch Digital ausgefüllte Anträge weil die KI schlecht ist um Handschriftliche Dinge zu lesen?
Und wie wird der Daten Abfluss verhindert?
Wie wird die Sicherheit vor unsicheren Drittstaaten wie den USA, Russland, China gewährleistet?
Was ist, wenn ich meine Handschrift nicht für KI Training bereitstellen will?
Wir jede Dienststelle ihre eigene KI Recheneinheit lokal Betreiben oder geht es ins Internet und dann an den Hauptrechner der wohlmöglich noch von Peter Thiel gesponsert ist?
Und Entscheidungsvorschläge?
Sehe ich mehr als Kritisch. So wie KIs lernen sehen wir dann besonders Menschen mit Migrations Hintergrund abgewiesen weil irgendein dämlich rassistischer Bockmist in den Daten gelandet ist?

KI list nur Probleme die man ohne sie gar nicht hatte.

Show threadcaravantravellers 🌈Mar 10

@BMDS

Und wir waren so doof, davon auszugehen, dass KI irgendwelche Daten als Input braucht. Weit gefehlt, die Anträge der "Kunden" (Bürger) genügen. Eine KI drauf los lassen, die kann etwas damit anfangen (zumindest erst mal ablehnen), ganz ohne Stammdaten, denn die liegen in den Kommunen in den seltensten Fällen maschinenverwertbar vor.