@antonproitzelhaimer @BlumeEvolution
Die Aufgabe, die ich gestellt habe ist kein "überlisten". Sie enthält auch kein Element von kreativität. Dazu muss lediglich eine URL aufgerufen werden und der Inhalt wiedergegeben. Es ist möglich das noch optisch chic aufzubereiten, wird im prompt aber nicht verlangt. Die ersten 1000 edits am artikel sonne erfolgten von 2002 bis 2006, liegen also weit vor den cut-off-daten der verschiedenen LLMs. Es sind öffentlich verfügbare Daten, die der Cgatbot ohnehin kennen und immer dann nennen muss, wenn er ohne gegen die lizenz zu verstoßen ein zitat aus dem wikipedia-artikel sonne in einer antwort verwendet. Die ganze Wikipedia gehört zu den lerndaten aller GPTbots. Die aufgabe könnte von einem grundscgüler in 5 minuten gelöst werden. Und der hauptteil der 5 minuten besteht daraus auf den seitenaufbau im Webbrowser zu warten. Es ist eine extrem simple und stupide aufgabe mit einem (1) eindeutigen richtigen ergebnis.
Ein mensch würde sich möglicherweise weigern, etwas so simples überhaupt zu tun ("warum, schau doch selber, steht im internet, ich bin nicht dein sklave."). Wenn ein ChatBot daran scheitert, oder sich die korrekte antwort ausreden lässt, dann fehlen die basics, das fundament, und alles an scheinbarer intelligenz ist nur eine freie schwebende fantasie.
Aber kann ja sein, dass ich mich irre, und die chatbots können dies inzwischen doch. Wenn sie intelligent wären, könnten sie es auf jeden fall selber lernen.