Was ich aus Freundes-, Bekannten- und Unternehmenskreisen höre, macht mich nachdenklich - eigentlich fassungslos: Fast überall wird mittlerweile nur noch mit KI »programmiert« – der Code wird kurz von jemandem überflogen, der früher mal selbst entwickelt hat. Wenn sich das so fortsetzt, wird in ein paar Jahren kaum noch jemand wirklich programmieren können. Fehler verstehen, debuggen und Softwarearchitektur? Wird nur noch eine handvoll können. Auweia. 🙄

#KI #Programmierung #SoftwareEntwicklung #Tech

/kuk

@kuketzblog Naja, und das werden hoch bezahlte Fachkräfte sein. Ich habe jetzt auch ein paar Jahre lang noch RPG und Cobol entwickelt. Das können auch die wenigsten noch. Ich kann es halt und es ist auch nicht besser oder schlimmer als Python/C#/Rust oder welche Sau halt heute mal durchs Dorf getrieben wird.
@kuketzblog ...und dann, nach Jahren, geht die KI-Firma pleite und das Programm wird abgeschaltet.... . Siehe Game-Industrie

@Hammerwell @kuketzblog Vorher wird aber richtig (!) abgesahnt, wenn die Abhängigkeit erstmal so aufgebaut ist. Die Unternehmen werden - bei Androhung ihres Untergags - bereit seit, für KI finanziell sehr weit zu gehen.

Da ist die derzeitige Diskussion um MS Office in den Behörden ein Klacks dagegen. Vermute ich.

Die, die sich frühzeitig emanzipiert gehalten haben, werden besser raus kommen.

@kuketzblog Jup, der Skill ist dann in der Hand von den wenigen Anbietern und die drehen an der Preisschraube.
@kuketzblog ich stelle mir vor, KI entwickelt demnächst eine eigene Programmiersprache... oder so ne Art Java-Bytecode... wo wir überhaupt nicht mehr nachvollziehen können, was die Software tut. (Nachvollziehen kann man das bei den neuronalen Netzen der KI schon lange nicht mehr... wenn sich das überträgt...)

@vincentvega42

Klingt wie Assembler- das konnten damals so einige. Ich nur so am Rande. Will nur sagen: Assembler/Bytecode lässt sich schon von Menschen verstehen und programmieren. Auch wenn es mühselig ist 😅

@kuketzblog

@vincentvega42 @kuketzblog Und womit werden die KIs dann für diese neue Programmiersprache trainiert?

@johmue @vincentvega42 @kuketzblog

Man ahnt es schon: mit den Erzeugnissen der jetzigen KI-Progranmierung...

Egal, wie die Haare zu Berge stehen: die Gier läßt es so kommen.

@kuketzblog
Ich denke bei so etwas häufg, dass diese wenigen dann vermutlich die Informatiker sein werden, die über den Fachkräftemangel ins Studium gelockt wurden und dann als "unnütz" den Teppich unter ihrer Zukunft weggezogen bekommen haben.

Von irgendetwas werden die dann ja auch leben müssen. Ich halte da "die unzähligen zu erwartenden Sicherheitslücken lukrativ aber nicht unbedingt legal auszubeuten" nicht für die abwegigste logische Handlungsoption für diesen Personenkreis. Vor allem, wenn das aus deren Sicht darauf herausläuft, dass man sich dann an denjenigen "schadlos" hält, die einem die Gesamtsituation eingebrockt haben. 🤷

(Nein, ich heiße das nicht gut, aber es würde mich schon fast wundern, wenn es nicht so endet.)

@kuketzblog
Das ist zum Glück in meinem Bekanntenkreis noch nicht Standard...
@rsudev @kuketzblog Es wird in unserer Firma von oben herab angeordnet 🙄😞
@kuketzblog Ich finde einfache Dinge wie eine erste Compose einrichten etc. kann einem KI ganz gut abnehmen. Aber ich bin auch fasziniert wie Modelle durch die Bank sich nach und nach dem Holzweg nähern und sich dann komplett verlaufen. Spätestens ab da hast du dann mehr Arbeit in Form von „fremden Code“ debuggen - was ein Traum ist, wissen wir.
@derlemue @kuketzblog Word. Gerade gestern noch erlebt.
@kuketzblog
Ehrlich gesagt, ich verstehe es nicht.
Jede*r weiß doch eigentlich, dass KI komplexere Probleme nicht gut lösen kann.
Bei Datenbanken hilft mir KI höchstens Fehler in der Syntax zu finden, aber sie kann mir keinen Code schreiben, der das ausspuckt, was ich haben will.

@PhoebeEule @kuketzblog

Das Problem ist, dass sie im kleinen ganz gut ist und im mittelgroßen gerade so gut genug, um den Eindruck von Fähigkeit simulieren zu können.

Deswegen kommt die bei CEOs auch so gut an: Simulation von Aktivität ist genau, was die machen.

@AdmSnackbar
Tja, wie sagte ich gestern zu einer Streamerin/Influencerin: Im IT Support ist es einigen wichtiger eine gute Show abzuziehen, als wirklich etwas zu können.

Da sagte sie, deshalb ist sie Influencerin, weil sie auch nur eine Show abzuziehen kann.
Was ich jetzt nicht schlimm finde, wenn man sein Geld damit verdient Menschen zu unterhalten.
Solange man nicht können vortäuscht ist das doch okay.

Aber das ist eben das Problem in der IT.

@kuketzblog

@PhoebeEule @kuketzblog

Das ist nicht nur in der IT so, sondern überall.

Guck dir die aktuelle Politik an. Oder VW.

@AdmSnackbar also bei manchen würde ich mir wünschen sie würden vorher die LLMs befragen.. Bei vielen in der Politik z.B.
@PhoebeEule @kuketzblog

@PhoebeEule @kuketzblog

Sorry für meine Einmischung:

Als Christ habe ich ja eine bestimmte Glaubenswelt und entsprechende Zukunftsvorstellungen.

Dennoch:
Manchmal frage ich mich, wo das endet.

"1984" - "Fahrenheit 451" - "Schöne neue Welt" :
Das waren Utopien.
Sie werden - sie sind(!!!) - längst schon Wirklichkeit.

Das kann nicht der richtige Weg sein, der unser Leben lebenswert macht.
Der uns Menschen wirklich glücklich macht.

So eine Welt: Will ich nicht.

@Hans Ja, wir sind wohl drauf und dran uns selbst an die Maschine zu versklaven. Das entspricht nicht dem christlichen Menschenabild, nach dem wir uns die Erde untertan machen sollen und nicht umgekehrt. Dennoch: Wer den festen Glauben hat, der braucht den Niedergang der Welt nicht zu fürchten. Der Herr Jesus ist jetzt schon bei uns, und mag der Teufel auch noch so wüten - und das wird er ganz sicher, es ist uns prophezeit - so können wir doch der Rettung mit Freude entgegensehen. Bis dahin gehen wir unserem Tagwerk nach so gut wir das können. Wenn das Tagwerk bei einem von uns Vibecoding umfasst, weil wir nur so unsere Familie versorgen können, dann ist das vielleicht auch Teil von Gottes Plan ...
@tobifant
Ja, danke.
Zustimmung!
@Hans
Man muss KI als das sehen, was es ist, ein Werkzeug und kein Ersatz für etwas.
Wenn ich einen Code schreibe und einen Fehler mache, dann kommt eine Zeile Fehlermeldung, die oft nichts aussagt.
Wenn ich das dann in die KI eingebe, dann kann die analysieren welche Variable ich falsch gesetzt habe. Weil die schneller suchen kann als ich.

@kuketzblog

@kuketzblog #KI #Tech #SoftwareEntwicklung

KI und programmieren?
Ohne Programmierkenntnisse geht man da unter, die muss streng kontrolliert werden.
Dann gibt sie sogar Desaster zu.

Gemini meinte gestern ganz offen:
"Das war ein massiver Fehler im Workspace-Management – ich habe versehentlich den Inhalt von LmwParse in die Datei lmwb geschrieben und damit das Hauptskript überschrieben. Das erklärt den desaströsen Diff."

​Natürlich erst nachdem ich mich über den Unsinn beschwert hatte.

@Gradausdenker

Siehe Amazon outage letztes Jahr. Sowas wird vermehrt auftreten.

Insbesondere ältere/größere Projekte mit Jahren an zu Code geronnenen Annahmen und (impliziten) Anforderungen sind quasi unmöglich mit KI zu bearbeiten.

Ich habe schon an Projekten mit tragenden Rechtschreibfehlern gearbeitet. Da liefen Millionenbeträge rüber.

@kuketzblog
Man kann sich leider schwer dagegen behaupten, zumindest für die Brot- und Butteranteile der Entwicklungsarbeit ohne KI zu arbeiten.

Ist fast so wie wenn man Handwerker beauftragen würde, die damit werben, dass sie nur mit amish-like handbetriebenen Werkzeugen unterwegs sind und damit ein Vielfaches der Zeit brauchen und abrechnen würden.
Wer ist dazu heute bereit?
Nur noch vereinzelt wohlhabende Menschen als Luxus Konsum.

Gleiches gilt für Waschmaschinen, siehe
https://www.youtube.com/watch?v=6sqnptxlCcw

Wenn man Programmier-Helfer vergleicht mit Scriptkiddy Copy& Paste von Stackoverflow und bootstrap-Frameworks wie SpringBoot, dann ist es eigentlich auch keine Sprungtechnologie.

Was bisher weiter nicht geht: Jemand ohne IT Kenntnisse baut sich eine App für Multi-User Public Zugang. Das wird der Person um die Ohren fliegen.

Shadow IT, früher mit Excel und VB verbrochen, steht dagegen jedem offen, der einfache Sätze formulieren kann. Natürlich mit den gleichen Vor- und Nachteilen.

Für mich als jemand in der IT Branche bleibt die entscheidende Frage:
Bleibt es bei LLM als Arbeitskraftverstärker (Utopie, aus Devs werden Architects) oder steuern wir auf das Ersatz-Szenario zu (Dystopie)?

Hans Rosling and the magic washing machine (2010)

YouTube

Ja, da hast du ein paar gute Aspekte raus gestellt, @st3fan.

Im Hinblick auf deine Frage, ob LLMs Arbeitskraftverstärker bleiben (Utopie, aus Devs werden Architects), sehe ich leider schwarz – insbesondere auch was die Erhaltung der #FreieSoftware Prinzipien angeht – wenn sich die Haltung etabliert, dass #Architekturarbeit nicht selbstständig dokumentiert, kommuniziert und zugänglich gemacht werden muss, da man ja einfach den Code (von einer #OpenSource Software) in ein #LLM schmeißt und die dir dann sagt was das für eine #Softwarearchitektur sei. 

Leider gibt es diese Haltung bereits, siehe: https://youtu.be/ukJlNSEObEs?list=PLq-odUc2x7i_CkIlwiKrIKXLdmQgFxhCL&t=1637

@kuketzblog

Jos Poortvliet – Beyond the license: measuring real openness in open source #FOSSBack

YouTube

@kuketzblog
Ähnlich im Security-Bereich: etwa die Hälfte der nachfragen von SOC-"Experten" in unsere Richtung zu "KI"-gestützten Alarmen stellen sich als halbwegs offensichtliche Fehlalarme heraus.

Und die Alarme sind nicht Zusammengefasst, sondern jeder kommt mit seitenlangem Blabla was hier alles schlimmes sein könnte. Jedes fu...rdammte einzelne Mal.
3x Vertipper im Passwort = 12 Seiten Bericht.
😒

@kuketzblog
Man kann an den #Microsoft Produkten wie #Windows11 sehen, dass KI zwar programmieren, aber keinen Programmierer ersetzen kann.

Wenn das nicht endet, werden dunkle Wolken am IT Markt aufziehen. Nicht mal für Supportfragen taugt eine KI vollständig.

@kuketzblog
Ist zum Großteil heute schon so. Siehe diese "Mediendesigner", die für viel Geld Websites anbieten. Entweder für die ganzen Kundenwünsche gibt es ein WP-Plugin oder es geht halt nicht. Selber programmieren? Zu doof dafür.
Aber jetzt kann man sich bei Wix ja mit KI ne eigene Homepage zusammenwixen ...
🤦 🤡
Ein sich wiederholendes Muster (Erfahrungswerte von Bekannten und mir): KI-basierte Tools ersetzen keine Methoden-Kompetenz… keine Rolle im Entwicklungs-Team ausgenommen: https://k8s.social/@fkromer/116340487600033713
Florian Kromer (@[email protected])

Wenn Teams (alle Rollen) nicht dazu in der Lage sind KI-basierte Tools zielgerichtet einzusetzen, verursachen diese in Entwicklungsprojekten massiven, finanziellen Schaden. Viel Aktionismus, wenig Output! Es gibt immer weniger Produkt- und Projekt-Manager, die das Handwerk von Anforderungs- und Projektmanagement wirklich verstehen. Es gibt immer weniger SW-Entwickler, die das Handwerk von SW-Entwicklung wirklich verstehen. KI-basierte Tools ersetzen keine Methoden-Kompetenzen!

Kubernetes community on the Fediverse

@kuketzblog Ich finde das erstaunlich, weil es mir noch nie gelungen ist, ChatGPT dazu zu bringen, Code zu schreiben, der macht, was er soll.

Gestern erst: Ich brauchte für einen Dockercontainer ein Shellscript, dass mir aus Umgebungsvariablen eine Konfigurationsdatei erstellt. Pillepalle, reine Fleißarbeit. Die Nacharbeit hat dann länger gedauert, als es von Hand zu schreiben.

@kuketzblog Das gilt schon für viele Bereiche. Aber immer weniger verstehen die Grundlagen und damit auch Zusammenhänge. 😥

@kuketzblog

Die Beobachtung, dass zunehmend mit KI programmiert wird, ist aus meiner Sicht absolut korrekt. Die Schlussfolgerung, dass dadurch bald kaum noch jemand programmieren kann, greift für mich aber zu kurz.

KI verändert vor allem die Arbeitsweise, nicht die Notwendigkeit von Fachkompetenz. Für mich ist entscheidend, ob der erzeugte Code wirklich verstanden, bewertet und auch verantwortet wird. Genau da sehe ich den Unterschied: Wer fachlich sauber arbeitet, nutzt KI als Werkzeug und wird effizienter. Wer ohne echtes Verständnis arbeitet, produziert am Ende nur schneller fehlerhaften oder unsicheren Code.

Dieses Muster ist für mich nichts Neues. Auch früher wurde viel Code aus Bibliotheken, Frameworks oder Foren übernommen, ohne alles im Detail zu verstehen. KI verstärkt dieses Verhalten einfach.

Gerade aus Sicht der IT-Sicherheit sehe ich das kritisch. Es gibt Untersuchungen, die zeigen, dass KI-generierter Code oft funktional ist, aber häufiger sicherheitsrelevante Schwächen enthält. Wenn dieser Code nicht sauber geprüft wird, steigen die Risiken entsprechend.

Langfristig glaube ich daher nicht, dass niemand mehr programmieren kann. Ich sehe eher eine Verschiebung: weniger reine Implementierung, dafür mehr Fokus auf Verständnis, Architektur, Validierung und Sicherheit. Genau diese Fähigkeiten werden aus meiner Sicht wichtiger – nicht unwichtiger.

@lazou @kuketzblog was sinnvoll ist, und was Firmen tun ist selten deckungsgleich.

Aber häufig diametral verschieden.

https://www.computerwoche.de/article/4153678/oracle-streicht-weltweit-bis-zu-30-000-stellen.html

Oracle streicht weltweit bis zu 30.000 Stellen

Mit den Entlassungen sind Support und Roadmaps gefährdet, warnen Experten.

Computerwoche

@lazou @kuketzblog Ja, aber es entsteht eine Schwemme an Code, der ohne Problembewusstsein trotzdem produktiv eingesetzt wird.

https://www.tobru.ch/eine-ki-vibe-coding-horrorgeschichte/

Eine KI Vibe Coding Horrorgeschichte

Eine medizinische Fachperson baute mit KI eine Patientenverwaltungs-App, legte alle Patientendaten ungeschützt im Internet offen und sendete Sprachaufnahmen ohne Einwilligung an KI-Dienste. Wahrscheinlich unter Verletzung des nDSG und weiteren Gesetzen.

Tobias Brunner aka tobru
@kuketzblog in mir bekannten Firmen, wo Entwickler eigenständig entscheiden dürfen, liefen oftmals Experimente. Viele von denen haben sich danach *gegen* KI entschieden.

@kuketzblog

Hier ist es ein Zwischending. Code-Basis komplett händisch aufgebaut, die ersten Module und Komponenten geschrieben und weitere nach dem selben Schema mit KI unter strenger Aufsicht gebaut. Das klappt mit den richtigen Prompts tatsächlich recht gut, vor allem, wenn man den Überblick behält und der KI die Fleißarbeit überlässt (wiederkehrende Strukturen implementieren, Anpassungen an mehreren Stellen vornehmen, …).

Kritisch wird es, nicht zu verstehen, was die KI ausgespuckt hat und alles blind abzunicken. Das können wahrscheinlich die Meisten und das hat dann aber nichts mehr mit Programmierung zu tun.

@kuketzblog Das kann ich so nicht stehen lassen. KI unterstützt uns Entwickler zwar bei unserer Arbeit aber ohne Verständnis kann man diese nicht nutzen. Dann kommt auch nichts nachhaltiges dabei herum. Problemstellungen müssen im detail und ausfühlich spezifiziert und beschrieben werden. Programme werden nachwievor in kleinen nachvollziehbaren Bausteinen entwickelt und überprüft. Und wer richtig entwickelt stellt Unittests zur Verfügung um Funktionalität sicherzustellen.

Hi @ChristianWillsWissen @kuketzblog,
darf ich wortklauben? An welche Art von #nachhaltig denkst Du? Ich denke da an https://permacomputing.net/principles/ und sehe genau nichts davon bei #LLM​s.

Ich bin ehrlich gespannt.

principles

Hallo @mro @kuketzblog, Danke für die Frage und auch für den Link. Tatsächlich hatte ich keine spezifische Definiton im Kopf, wobei ich viel Aspekte aus deinem Link hier wiedersehen.

Die Nutzung von LLMs hilft mir dabei mehr Zeit in die Spezifizierung und Ausgestaltung meines Codes zu verwenden, weil ich eben Zeit in der Implementierung selbst spare. Das ist zumindest meine bisherige Erfahrung.

Hi @ChristianWillsWissen @kuketzblog,
also bei Betrachtung der ganzen #Lieferkette nicht nachhaltig im Sinne von #Nachhaltigkeit "Prinzip, nach dem nicht mehr verbraucht werden darf, als jeweils nachwachsen, sich regenerieren, künftig wieder bereitgestellt werden kann". Ohne Bergbau-Energie geht da nicht viel.
Das #Greenwashing nervt halt.

@ChristianWillsWissen @kuketzblog durch die Nutzung von Taschenrechnern und Computern haben wir auch das Rechnen nicht verlernt. Diese Hilfsmittel haben uns neue Möglichkeiten eröffnet. Wer Mathematik nicht versteht, wird auch mit einem Taschenrechner oder Computer keine neuen Erkenntnisse gewinnen. Wer Programmieren nicht versteht, wird auch mit KI keine großartigen Programme schaffen.

Ich habe letzten Samstag neue Funktionen in unsere Betriebsdatenbank eingebaut. Hatte ich schon lange vor, nur fehlte mir die Zeit. Mit Claude war es an einem Samstagnachmittag sauber drin und ordentlich getestet.

Der KI muss schon sehr genau mitgeteilt werden, was man möchte und was die Rahmenbedingungen sind, welche Bibliotheken verfügbar sind etc. Sie hatte dann einige sehr gute Vorschläge.

@kuketzblog super!

Das wird unsere Zeit.

Vor allem wird der AI-Slop durch den ständigen re-use immer undurchschaubarer.

Irgendwann ersetzt die KI dann sinnvolle und gemäß Vorgaben benannte Variablen durch Kindernamen , oder Zahlenkolonnen und dann versteht niemand mehr den Müll.

Das muss man dann erst mal „re-egineering“ damit man damit den Sinn versteht.

Hey, ich interpretiere seit 5 Jahren Programme, die komplett in Japanisch geschrieben sind. Das kann ich!

@kuketzblog KIs ersetzen die Tasks von Juniors. Bedeutet, wir haben dann in ein paar Jahren keine Seniors mehr für die „richtigen“ Sachen. Wir schaufeln uns unser eigenes Grab. Und alle müssen mitmachen, weil alle anderen mitmachen und man ohne KI nicht mehr wettbewerbsfähig wäre. 
Eine KI Vibe Coding Horrorgeschichte

Eine medizinische Fachperson baute mit KI eine Patientenverwaltungs-App, legte alle Patientendaten ungeschützt im Internet offen und sendete Sprachaufnahmen ohne Einwilligung an KI-Dienste. Wahrscheinlich unter Verletzung des nDSG und weiteren Gesetzen.

Tobias Brunner aka tobru
Nicht nur ein KI-Phänomen/Problem, in meinen Augen, sondern ein Weg, den unsere Gesellschaft schon seit längerem und in vielen Bereichen eingeschlagen hat. Wir nutzen Werkzeuge, ohne zu verstehen wie diese an sich funktionieren, bzw. ohne einen Überblick über die Einzelteile zu haben, mit denen diese Werkzeuge uns verhelfen ein Ziel zu erreichen. Das Ergebnis dieser Werkzeuge wird dann als gegeben hingenommen - zum Teil auch mangels Expertise dieses Ergebnis zu verifizieren.
@kuketzblog In Firmen wird es hässlich. Die werden ihre SaaS selber programmieren, weil es billiger aussieht. Viele Anbieter von Software werden vom Markt verschwinden. Oder sie müssen sich anpassen was denselben Effekt hat.
Und das Ganze wird ggf. einen Einfluss auf die Hyperscaler haben. Warum sollte ich für was im Abo bezahlen, wenn ich selber Vibe-coden kann?
Wir haben immer noch nicht die Dimensionen verstanden, in denen KI unser gesamtes Leben verändert und verändern wird.
The coming Wave (Mustafa Suleyman). Wir reden über Wassertropfen. Schade.
@kuketzblog Das Problem, dass ich sehe. Man kann keinen Code (komplexeren) einfach so schreiben lassen und er läuft. Man braucht oftmals Compiler, Entwicklungsumgebung etc.
Ich wollte was für Apple vibe coden. Brauche XCode. OK. Dann muss ich bei Apple ein Konto anlegen uvm. Aber das wird auch noch gelöst werden.
@kuketzblog
Nach den ersten, teuren Urteilen wegen Urheberrechtsverletzungen - die KIs haben ja alles erreichbare ohne Rücksicht auf Verluste eingesaugt und werden es wiederverwenden - werden die Leute dann wieder eingestellt, um KI-generierten Code nach Plagiaten zu durchsuchen. ....... Bis die KI das dann auch übernimmt.
@kuketzblog Das lass ich mir dann teuer bezahlen
@kuketzblog Faulheit siegt. Und das dürfte beim Screening bei bildgebenden Verfahren in der Medizin kaum anders aussehen… Zum Gruseln.

@kuketzblog

Dieser Handvoll wird die Welt gehören.
Die anderen … nun ja …

@kuketzblog Der Entwickler-Kollege bei uns ist begeistert - " Dafür müssten wir ansonsten noch eins, zwei Leute einstellen und jetzt schaff ich das alleine" 🙄