BSIFeb 26

Mit dem Model Context Protocol #MCP wird #KI handlungsfähig: Large Language Models #LLM können Tools nutzen, Daten verarbeiten und Aufgaben selbstständig ausführen. Doch mehr Fähigkeiten bedeuten auch mehr Risiken. LLMs arbeiten probabilistisch – also nicht immer zuverlässig – und sind manipulierbar. #PromptInjection

Deshalb: Zugriffsrechte begrenzen, Aktivitäten nachvollziehbar machen, Systeme absichern und Menschen einbinden.

#Cybersecurity #AgenticAI #DeutschlandDigitalSicherBSI

Show threadjan Ki | 奇  Feb 26
@bsi
und LLMs rausschmeißen, weil sie reiner Bullshit sind
Show threadPreuss of the south
@ki @bsi weshalb Bullshit? Die Argumentation würde mich interessieren.
Feb 26 at 10:15amWeb
Show threadjan Ki | 奇  Feb 26
@dialektgefahr @bsi
andersrum: welchen Zweck erfüllt ein heuristisches Modell zum Zusammenkopieren "natürlich" klingender Sprache außer die automatisierte Generierung und Verbreitung von Falschinformation überhaupt?
Show threadTimFeb 28
@ki @dialektgefahr @bsi Die Beschaffung von Informationen ohne Einschränkungen durch geltende Urheberrechtsgesetze ist für Unternehmen hilfreich. Die kommerziell angebotenen LLMs können Text kopieren von Orten wo du nicht legal rankommst. Da die Antwort des KI-Chatbots als neues Werk und nicht als unlizenzierte Vervielfältigung eingestuft wird. Ist aber fraglich, wie lange dieses Gesetzeslücke noch bleibt, bis diese Praxis explizit verboten wird
Show threadVoxelFeb 26
@dialektgefahr Könntest du dich spezifischer ausdrücken?