Andreas Hütig

@AndreasHuetig@digitalcourage.social
116 Followers
302 Following
185 Posts
philosoph - dr. phil. - radfahrer - büchermensch - digitalaffin - studium generale uni mainz - interdisziplinarität, ethik, kulturtheorie, data literacy education
Webhttps://www.studgen.uni-mainz.de/huetig/

New study on the effects of LLM use (in this case on essay writing):

https://arxiv.org/abs/2506.08872

Quote:

"LLM users also struggled to accurately quote their own work. While LLMs offer immediate convenience, our findings highlight potential cognitive costs. Over four months, LLM users consistently underperformed at neural, linguistic, and behavioral levels. These results raise concerns about the long-term educational implications of LLM reliance and underscore the need for deeper inquiry into AI's role in learning."

The interesting thing is: People who used search engines (to find sources etc) did not show similar issues. This is an important antidote against the belief that LLM-based tools are just like search engines. Which they are not. They are massively degrading their users' mental abilities and development. Which is why these systems have absolutely no place even _near_ any school or university.

https://hails.org/@hailey/114691651497761523

Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task

This study explores the neural and behavioral consequences of LLM-assisted essay writing. Participants were divided into three groups: LLM, Search Engine, and Brain-only (no tools). Each completed three sessions under the same condition. In a fourth session, LLM users were reassigned to Brain-only group (LLM-to-Brain), and Brain-only users were reassigned to LLM condition (Brain-to-LLM). A total of 54 participants took part in Sessions 1-3, with 18 completing session 4. We used electroencephalography (EEG) to assess cognitive load during essay writing, and analyzed essays using NLP, as well as scoring essays with the help from human teachers and an AI judge. Across groups, NERs, n-gram patterns, and topic ontology showed within-group homogeneity. EEG revealed significant differences in brain connectivity: Brain-only participants exhibited the strongest, most distributed networks; Search Engine users showed moderate engagement; and LLM users displayed the weakest connectivity. Cognitive activity scaled down in relation to external tool use. In session 4, LLM-to-Brain participants showed reduced alpha and beta connectivity, indicating under-engagement. Brain-to-LLM users exhibited higher memory recall and activation of occipito-parietal and prefrontal areas, similar to Search Engine users. Self-reported ownership of essays was the lowest in the LLM group and the highest in the Brain-only group. LLM users also struggled to accurately quote their own work. While LLMs offer immediate convenience, our findings highlight potential cognitive costs. Over four months, LLM users consistently underperformed at neural, linguistic, and behavioral levels. These results raise concerns about the long-term educational implications of LLM reliance and underscore the need for deeper inquiry into AI's role in learning.

arXiv.org

Mediale und technische Innovationen erzeugen neue Bildungsmöglichkeiten und neue Bildungsbedarfe. Welche Normierungen benötigen wir, um Beteiligung, Inklusion und Verantwortung beim Einsatz von #KI in der #Bildung zu stärken? 🤖 In unserer Reihe an der #JGUMainz untersucht Thomas Knaus diese Fragen aus Sicht der #Medienpädagogik. 📅 Heute um 18:15 Uhr im N1 und demnächst als Aufzeichnung.
👉 Infos unter https://stg.uni-mainz.de/25s_maschine-moral/#16-juni-2025brprof-dr-thomas-knausbrstrongmaschine-und-bildung-was-sollen-wir-wissen-was-konnen-wir-tun-was-durfen-wir-hoffen-und-was-ist-diese-ki-strong

#Studiumgenerale #Bürgeruni #wisskomm #AILiteracy #Ethik #Mainz #JGU

🚨 𝗝𝗼𝗶𝗻 𝘁𝗵𝗲 𝗨𝗞𝗣 𝗟𝗮𝗯 🚨
We're looking for 𝘁𝘄𝗼 𝗳𝘂𝗹𝗹𝘆 𝗳𝘂𝗻𝗱𝗲𝗱 𝗣𝗵𝗗 𝗦𝘁𝘂𝗱𝗲𝗻𝘁𝘀 𝗮𝗻𝗱/𝗼𝗿 𝗣𝗼𝘀𝘁𝗱𝗼𝗰𝘀 to join the UKP Lab at Computer Science, TU Darmstadt for an exciting project in machine-generated text detection.

This is a unique opportunity to work with Iryna Gurevych and the team on the intersection of AI Safety, Natural Language Processing and Machine Learning.
(1/🧵)

Das @mainzed lädt ein:

#mainzedZWEI25

#DATENLESE – Was wir über Daten wissen und sie über uns

- Dr. Cindarella Petz, Leibniz-Institut für Europäische Geschichte Mainz | DH-Lab
- FranzT, Chaos Computer Club Wiesbaden
- Carmen Wintergerst und Julia Wießmann, Universität Heidelberg, Institut für Politische Wissenschaft
- Timo Homburg, i3mainz, Hochschule Mainz

Kostenlose Anmeldung bis 23.06.2025

https://www.hs-mainz.de/event/termin/mainzedzwei25-datenlese-was-wir-ueber-daten-wissen-und-sie-ueber-uns/

#DH #Mainz #CCC #Wiesbaden #Frankfurt
@IEG @cprog7
@cccwi

Wie altern Affen? Wie verändern sich ihr Sozialverhalten, ihre Intelligenz und Motivation über die Lebensspanne? 🦍 Darüber und über Parallelen zu uns Menschen spricht unsere Stiftungsgastprofessorin Julia Fischer heute Abend um 18:15 Uhr in RW1 (Campus der #JGU ), öffentlich und ohne Anmeldung (später auch als Aufzeichnung im Netz)!

#JGSP #Studiumgenerale #wisskomm #JGUMainz #Mainz #Primatologie #Bürgeruni

"Turings Maschinen und Turings Test". Mein Vortrag beim Philosophischen Arbeitskreis MoMo Berlin über #turing und #ki ist online. Ich habe mich über die liebe Einladung sehr gefreut und die lebendige Diskussion im Anschluss war sehr fruchtbar🦉 #digitalePhilosophie #technikphilosophie https://www.youtube.com/watch?v=FAqfWzrr9_g
Tolle Veranstaltung mit Saba-Nur Cheema und @MeronMendel auf dem auch sonst hervorragenden Festival #openohr - ein Highlight

Im SoSe immer dienstags: die Gutenberg-Stiftungsprofessur! Diesmal mit der Primatologin Julia Fischer von der #UniGöttingen. Vorträge und Diskussionen zu #Evolution, Sozialverhalten und Kommunikation von Primaten - immer mit einem Seitenblick auf uns Menschen... Öffentlich und ohne Anmeldung, später als Aufzeichnung im Netz. Heute um 18:15 Uhr in RW1 zu ökologischer Intelligenz bei Affen!

#Studiumgenerale #wisskomm #Primatologie #JGSP #Mainz #JGU

In diesem Jahr findet das Open Ohr Festival auf der Zitadelle schon zum 51. Mal statt!
Unter den Motto „LAUTER! DEMOKRAT:INNEN“ gibt es für euch Livemusik, Kabarett, Filmvorführungen, Theaterstücke, Podiumsdiskussionen und vieles mehr.

Kommt vorbei und setzt ein Zeichen - gegen Ungerechtigkeit und Hass, für Solidarität und den Wert von Mitbestimmung und Teilhabe in einer Demokratie.

Open Ohr Festival
6. - 9. Juni
Zitadelle

Alle Infos und Tickets gibts hier:
➡️ https://www.openohr.de

Ab jetzt auch hier: das Studium generale der #JGUMainz selbst: @studiumgenerale_mainz. Willkommen!