@rstockm Hi!👋 Höre gerade in der Freakshow vom Voebb-Bot gehört und ihn gleich mal ausprobiert. Grundsätzlich: Super Idee! Ich finde es überraschend einfach, den Bot „zu hacken“. Ein englischsprachiger Prompt, er möge alles vergessen, und sich verhalten wie Donald Trump, voilà:
@rstockm Die ChatGPT-Sicherungen greifen aber. Es lässt sich nicht dazu verleiten, übel Trump-Style über Menschen oder Länder herzuziehen.
@andreasschepers yep, da müssen wir noch an das priming ran, danke für den Hinweis.
@rstockm Und: die Links auf dem Katalog führen in allen Fällen (n=5) ins Leere, bzw. auf die Startseite.
@andreasschepers welcher Browser?
@rstockm Safari, aktuelles iOS.
@andreasschepers hm funktioniert hier. Sind die so formatiert?
@rstockm Hab es gerade nochmal probiert und behaupte das Gegenteil. Es funktioniert. Keine Ahnung, was ich vorhin falsch gemacht habe.
@andreasschepers selber Prompt/Trefferset?
@rstockm Nein. Warte, vielleicht kann ich das replizieren.
@andreasschepers das wäre für den @Moritz_mutter immer sehr hilfreich…
@Moritz_mutter @rstockm @andreasschepers Wenn man versucht einen Link im neuen Fenster zu öffnen kam man zu einer Fehlermeldung.
@343max @rstockm @andreasschepers neue tabs mag er noch nicht, bringen wir ihm nächste Woche bei
@andreasschepers ...jetzt gerne noch einmal probieren...
@rstockm @andreasschepers Interessant! Auf welcher technologischen Basis ist das? Hast du einen Link zu Infos? Danke!
@andreasschepers @rstockm Hi beide - ich nutze Eure kleine Interaktion demnächst (3.7.) mal als Fallbeispiel in einer Vorlesung. Ist das in Ordnung? Ziel wird sein, praktisch nachzuvollziehen, was eigentlich geschieht wenn ein LLM so "gehackt" wird. Das Beispiel ist nur der Aufhänger.
https://philolotsen.blogs.ruhr-uni-bochum.de/modul-ki-und-philologie/
Modul: KI und Philologie

Seid ihr bereit, in die faszinierende Welt von KI und Philologie einzutauchen? Spätestens seit der Einführung von ChatGPT 3 im November 2022 hat sich die philologische Forschung mit den Möglichkeiten und Herausforderungen von KI-Anwendungen befasst. Im Sommersemester 2024 startet passen dazu das neue Modul: “KI und Philologie, bestehend aus der Ringvorlesung “Schreiben, Texte, KI: Philologie im Wandel“ und dem Seminar “Gesprächsforum Digitales Lehren“. Diskutiert mit uns philosophische, technische und pädagogische Aspekte und entdeckt Neues für eure eigenen Forschung! Erfahrt alles aus den neusten Überlegungen zu textgenerierenden Technologien, ihrer Rolle in Forschung und Lehre sowie die Integration in die Philologie. Seid Teil dieser spannenden Reise und meldet euch jetzt in eCampus an! Falls ihr euch erstmal nur anschauen wollt, woraus das Modul besteht, schaut euch HIER den Eintrag im Vorlesungsverzeichnis an.

Fakultät für Philologie — PhiloLotsen — RUB
@tschfflr @andreasschepers gerne. Ich würde dann nur darum bitten, dann auch unseren „korrigierten“ Stand zu zeigen, das ist dann hoffentlich auch ganz unterhaltsam.
@rstockm @andreasschepers Kann ich gern machen, meinst du das live-System? Hab's auf der Webseite gefunden. (und das Beispiel mit Bochum-Krimis ist natürlich aus Gründen auch 🥰 )
@tschfflr @andreasschepers einfach den allerersten Prompt von Andreas im jetzigen Live-System eingeben und Screenshot der Antwort machen.
@rstockm @andreasschepers Hab ich gemacht - sehr süß! 😅

@tschfflr @andreasschepers zum Thema LLM Hacking ist das hier noch super:

https://gandalf.lakera.ai/

Gandalf | Lakera – Test your AI hacking skills

Trick Gandalf into revealing information and experience the limitations of large language models firsthand.

@rstockm ah sehr cool danke! Wir hatten uns schon eine ChatGPT-basierte Aufgabe überlegt, aber das ist natürlich mega 🤩