08/15 R.I.P. Natenom🖤Feb 24

Microsoft schnüffelt in vertraulichen emails?

"Ein Fehler im KI-Assistenten Microsoft 365 Copilot hat dazu geführt, dass vertraulich gekennzeichnete E-Mails verarbeitet und
im Chat zusammengefasst wurden.
Betroffen waren Nachrichten..., die mit Sensitivitätslabeln ausgezeichnet waren. ... Microsoft bestätigte den
Vorfall.

Copilot konnte E-Mails auswerten,
obwohl diese als „vertraulich“ markiert waren oder durch unternehmensweite Regeln zum Schutz sensibler Daten gesichert wurden. Solche
Regeln sollen verhindern, dass besonders schützenswerte Informationen –
etwa Personalakten, Geschäftsgeheimnisse oder behördliche Vorgänge
– automatisiert verarbeitet oder weitergegeben werden. ...

Inzwischen sei das Problem in
den meisten betroffenen IT-Umge-
bungen behoben. "

Handelsblatt, 24.02.26

#Microsoft #Microsoft365 #Bayern #Füracker #Söder #KI

Show threadsnornik

@OhWeh Its not a bug, it's a feature!

Das is doch aber auch schon Wochen alt das das bekannt wurde? Dauert beim Handelsblatt wohl bis die techies das nach oben kommuniziert haben ^^ Ahhh oder erst veröffentlich auf deutsch wenn man dazu sagen kann es sei behoben... sonst sieht das ja evtl. nich so gut aus wenn man millarden steuergelder dafür rausschmeißt ^^ aka wer denkt denn Krankenkassen/Finanzämter arbeiten ohne Copilot :P

Das zu fixen ändert ja auch nichts dran für die Daten die schon einmal drin sind im LLM.

Feb 24 at 9:26pmWeb
Show threadsnornikFeb 24

@OhWeh Bin auch mal gespannt was da bei rauskommt... hab mal interesse halber 2-3 zeilen sehr spezifischen code von mir der unter copyright steht in ein LLM, geposted und gefragt wie beendet man die funktion? Und die Antwort hatt 1zu1 den rest davon geschrieben. Aber ich hab sowas dem nie gegegeben und die die diese zeilen haben ist nur eine einzige firma und die haben NDA's unterschrieben. das wird noch interessant....

Evtl. Bonus Punkte weil ein funktionsargument is der string des Firmennamens, was die KI "vervollsändigt" hat. Niemand sonst hätte der KI dieses Arg gefüttert. ^^

Show threadsnornikFeb 24
@OhWeh kann ich nur empfehlen is zwar eig dumm und kostet leistung aber erstes arg ein strcmp auf den namen des oder liste der existierenden kunden (bei init oder so, nix was jede ms aufgerufen wird oder zumindest ein nicht forlaufender int als customerID). dann weißt du genau wer den scheiß in ein LLM geladen hat. modern problems require modern solutions. (ein cracker blickt das klar aber ein llm nicht und verwendet dann immer das wo es herkommt.)
Show thread08/15 R.I.P. Natenom🖤Feb 24

@snornik

Deinem ersten Satz stimme ich zu.😉