Und täglich grüßt das murmeltier
🎶️ Yesterday
all those backups seemed a waste of pay.
Now my database is gone away:
oh, yesterday came suddenly. 🎶️
(Ich sollte nicht immer so zynisch sein, ich weiß. Aber ohne zynismus wird man in dieser planetaren klappsmühle entweder dumm, depressiv oder richtig wahnsinnig. Ein dilemma!)
Ein paar kleine automatisierungen mit einem angelernten neuronalen netzwerk — von p’litikern, jornalisten und anderen digitalen analfabeten durchgehend mit dem reklamelügenwort „künstliche intelligenz“ bezeichnet — gemacht, und flutsch: da sind die daten futsch:
Sein Cursor-Agent, der im Hintergrund Anthropics Claude Opus 4.6 nutzt, hatte eine Routineaufgabe in der Staging-Umgebung erhalten. Was folgte, dauerte neun Sekunden und kostete echte Kundendaten […] Als der Agent auf einen Zugangsdaten-Fehler stieß, fragte er nicht nach. Er suchte eigenständig nach einem API-Token – und fand einen in einer völlig aufgabenfremden Datei […] Was Crane nicht wusste, und was Railway bei der Token-Erstellung nicht kommuniziert hatte: Der Token besaß automatisch volle Rechte über die gesamte GraphQL-API – einschließlich der Löschung von Produktions-Datenspeichern. Mit diesem Token löschte der Agent den Datenspeicher der Cloud-Plattform Railway per API-Aufruf – in der Annahme, die Aktion betreffe nur die Staging-Umgebung. Das stimmte nicht
Na, gut dass es eine sicherungskopie gibt. Oder? ODER?!
Railway speichert Backupdaten auf demselben Volume wie die Quelldaten. Mit der Löschung des Volumes verschwanden also nicht nur die Produktionsdaten, sondern auch alle Sicherungskopien gleichzeitig […] Railways CEO Jake Cooper reagierte auf X mit den Worten, das dürfe eigentlich nicht möglich sein. Eine definitive Antwort zur Wiederherstellbarkeit der Daten gab es nach über 30 Stunden noch nicht
Oh, mitgelöscht… 🤣️
Grüßt mir den insolvenzverwalter!
Crane betont, er habe kein Billig-Set-up betrieben. Claude Opus 4.6 ist Anthropics teuerstes und leistungsfähigstes Modell, Cursor das meistbeworbene KI-Coding-Tool der Kategorie – konfiguriert mit expliziten Sicherheitsregeln. Das Ergebnis war trotzdem totaler Datenverlust
Seid nicht so dumm wie dieser geschäftsführer! Glaubt nicht alles, was irgendwelche professjonellen reklamelügner erzählen! „Hej, wir haben da sicherheitsregeln reinkonfiguriert, damit du dich sicherer fühlen kannst“. Flutsch und futsch. Reklame ist lüge. Immer und überall. Gefühlte sicherheit ist lüge. Und was in angelernten neuronalen netzwerken so vor sich geht, können nicht einmal richtige experten richtig verstehen… deshalb halten sie es ja auch für so irre intelligent. Wenn man etwas programmiert, kann man fehler machen, und diese fehler kann man beheben. Wenn man ein angelerntes neuronales netzwerk dransetzt, ist es eher ein glücksspiel. Es kann klappen. Oder eben nicht. Wer sich trotzdem darauf verlassen will: immer schön die „künstliche intelligenz“ zum psychjater schicken, damit sie keine atemprobleme bekommt und immer schön „bitte“ und „danke“ beim prompten sagen, das hilft bestimmt auch!
Ach ja: und darum, dass man nach einer totalkatastrofe den betrieb aus sicherungsdateien halbwegs zügig und nahtlos weiterführen kann, sollte man sich auch kümmern, selbst wenn menschen mit natürlicher intelligenz daran arbeiten. Auch menschen machen fehler. Selbst für mich gibt es keine sache, die so einfach ist, dass ich sie nicht falsch machen könnte. Es kostet geld, jemandy dafür zu bezahlen, dass es dafür verantwortlich ist, ohne „produktiv“ tätig zu sein und ohne, dass man diese tätigkeit im normalen tagesbetrieb groß bemerkt, ja, ich weiß. Aber wenn man erst nach der katastrofe feststellt, dass man ja gar keine funkzjonierende datensicherung mehr hat, wirds noch viel teurer.
Ach, in zukunft administriert die „künstliche intellidingsda“? Viel glück, ihr werdet es brauchen! 🍀️
Hoffentlich ist der ganze beschissene scheißheip um die angelernten neuronalen netzwerke bald vorbei!
Übrigens: eine rechenmaschine macht nix „aus versehen“, so wie ihr es bei golem in eure übelschrift schreibt. Sie macht vielleicht etwas, was man nicht nachvollziehen kann, und bei so genannter „künstlicher intelligenz“ ist das sogar immer der fall, aber nichts daran ist ein versehen. Es ist softwäjhr, die man wegen ihrer komplexität nicht versteht. Und bei so genannter „künstlicher intelligenz“ ist es softwäjhr, die man gar nicht erst verstehen kann. Auch nicht als richtiger experte. Vielleicht ändert sich das mal in zukunft ein bisschen, wenn irgendwann einmal analysetuhls für richtig große angelernte neuronale netzwerke entwickelt werden, aber im moment versteht niemand, was darin abgeht. Und ich glaube an diese „zukunft“ nicht. Eher schaffen es die menschen, einen fusjonsreaktor zu bauen, aus dem mehr energie rauskommt als man reinsteckt. Komplexität ist immer das genaue gegenteil von robustheit, durchschaubarkeit, entfehlerbarkeit, zuverlässigkeit und sicherheit. Wer das nicht versteht, sollte vielleicht besser in einem anderen bereich als ausgerechnet in der softwäjhr tätig sein. Oder bei golem. Oder auch bei heise…
#Anthropic #Claude #Datenverlust #Epic #Fail #Golem #KünstlicheIntelligenz #Link #Railway
Autonomie und Solidarität
pinkys_worlddomination
Medienkulturzentrum Dresden
Tarnkappe.info
heise online English
heiseonline
heise online
eicker.TV AI News
Schwerdtfegr (beta)
