| Research Group Website | https://www.responsible-nlp.net |
| Foto | Martin Schäfer |
There is still some time left (until 2nd of May) to apply for one of the three PhD positions in the project "Human-in-Control: Implementing employee co-determination in the design, development, and deployment of AI" in my NLP research group at Marburg University. The expected start date is between October 2026 and February 2027.
More info:
www.responsible-nlp.net/nfg/
Ich freue mich in Zukunft als Mitglied des Beirats Digitaler Verbraucherschutz das Bundesamt für Sicherheit in der Informationstechnik beraten zu dürfen und der Vertreter der Gesellschaft für Informatik (@informatik) in diesem Gremium zu sein.
Mehr Informationen über die Arbeit des Beirats gibt es auf der Seite BSI:
Die #Vorratsdatenspeicherung ist wieder Thema. Die Position der GI hat sich nicht geändert: Wir lehnen das Vorhaben grundsätzlich ab. Drei Gründe:
❌ Eine anlasslose Speicherung von IP-Adressen sowie Portnummern stellt Nutzende unter Generalverdacht.
❌ Die Sicherungsanordnung zum Einfrieren von Verkehrsdaten ist zu niedrigschwellig möglich.
❌ Die lange Speicherdauer birgt die Gefahr von Missbrauch oder einem verheerenden Datenleck.
https://gi.de/meldung/gi-bezieht-stellung-zum-erneuten-vorstoss-der-vorratsdatenspeicherung
Das Bundesministerium der Justiz und für Verbraucherschutz (BMJV) hat Ende Dezember 2025 einen neuen Gesetzesentwurf für die Vorratsdatenspeicherung zu Ermittlungszwecken vorgestellt. Im Fokus steht die anlasslose Speicherung von IP-Adressen. Der Vorschlag sieht darüber hinaus bei Verdachtsfällen auch ein Quick-Freeze-Verfahren für weitere Verkehrsdaten und Funkzellen vor. Die Gesellschaft für Informatik e.V. kritisiert den Vorschlag und weist auf die Gefahren für den Schutz von Grundrechten und der Privatsphäre sowie Risiken für Missbrauch und IT-Sicherheit hin.
We are looking for 3 PhD students!
The Hans-Böckler-Foundation is funding a research group on “Human-in-Control: Implementing employee co-determination in the design, development, and deployment of artificial intelligence” and we are looking for 3 PhD students.
More information: https://responsible-nlp.net/nfg/
Are LLMs “Yes Sayers”?
Humans often show acquiescence bias, i.e. prefer positive answers in questionnaires and surveys regardless of their actual belief. We investigated if LLMs show a similar bias and found: they’re disproportionately likely to answer “No,” even when the meaning flips.
This shows how small prompt changes can hugely affect outputs and could raise doubts about the so-called “reasoning abilities” of LLMs.
Acquiescence bias, i.e. the tendency of humans to agree with statements in surveys, independent of their actual beliefs, is well researched and documented. Since Large Language Models (LLMs) have been shown to be very influenceable by relatively small changes in input and are trained on human-generated data, it is reasonable to assume that they could show a similar tendency. We present a study investigating the presence of acquiescence bias in LLMs across different models, tasks, and languages (English, German, and Polish). Our results indicate that, contrary to humans, LLMs display a bias towards answering no, regardless of whether it indicates agreement or disagreement.
Gesellschaft für Informatik eV
Amy Isard