Bianca KastlAlso halten wir fest: LLMs aktueller Bauart werden immer wieder halluzinieren und - wer hätte das gedacht außer alle mit normalem Verständnis von Vertrauen in irgendwelche Daten - lassen sich sehr einfach vergiften ☠️
Synapsenkitzler'Data Poisoning' kannte ich noch nicht. Gibts schon digitale Freiheitskämpfer die das gegen LLM einsetzen? Bzw. braucht es die ja gar nicht, geschieht ja auch so systemimmanent schon.
Gibts eine Bezeichnung (Wort) für ein sich selbst zerstörendes System? (So wie bei Kapitalismus z.B.)
KI = Kranke Informationstechnologie 🙃
AI = Anfällige Informationstechnologie 🤔
bicipoiesis@synapsenkitzler How about "MAD"?
@Katecrawford recently wrote: "...#AI systems degenerate when they are fed on too much of their own outputs—a phenomenon researchers call #MAD (Model Autophagy Disease). In other words, AI will eat itself, then gradually collapse into nonsense and noise. It happens slowly at first, then all at once. The researchers compare it to mad cow disease." https://www.e-flux.com/architecture/intensification/6782975/eating-the-future-the-metabolic-logic-of-ai-slop
btw: really recommend her book "Atlas of AI" https://katecrawford.net/atlas
@Katecrawford recently wrote: "...#AI systems degenerate when they are fed on too much of their own outputs—a phenomenon researchers call #MAD (Model Autophagy Disease). In other words, AI will eat itself, then gradually collapse into nonsense and noise. It happens slowly at first, then all at once. The researchers compare it to mad cow disease." https://www.e-flux.com/architecture/intensification/6782975/eating-the-future-the-metabolic-logic-of-ai-slop
btw: really recommend her book "Atlas of AI" https://katecrawford.net/atlas
