Mark DingemanseJul 17, 2023

⚡️New! Opening up ChatGPT
https://dl.acm.org/doi/10.1145/3571884.3604316 (  https://doi.org/10.48550/arXiv.2307.05532 )

TL;DR #chatgpt is unfit for responsible use in science & education. Open instruction-tuned text generators (LLM + RLHF) are on the rise. But how open are they? We track degrees of openness in this #CUI23 paper & live at https://opening-up-chatgpt.github.io

We hope this paper & repository will help more people make mindful choices about tech

work with @andreasliesenfeld and @alianda

Opening up ChatGPT: Tracking openness, transparency, and accountability in instruction-tuned text generators | Proceedings of the 5th International Conference on Conversational User Interfaces

ACM Conferences
Show threadTon Zijlstra
@dingemansemark @andreasliesenfeld @alianda Great and useful work! The interprovincial digital ethics committee released an advice wrt the use of ChatGPT by provinces https://www.ipo.nl/nieuws/advies-over-het-gebruik-van-chatgpt-in-provincies/ (PDF https://www.ipo.nl/media/5u4gjtr5/ipo-whitepaper-verkenning-chatgpt.pdf ) I think your work is very useful for improving the section on technological alternatives or lack thereof.
Advies over het gebruik van ChatGPT in provincies

Aug 24, 2023 at 12:28pmWeb
Show threadMark DingemanseAug 24, 2023
@ton Interessant! — en inderdaad, ons werk is hier zeer relevant. Zo zou ik bijvoorbeeld vermijden Llama2 "open source" te noemen: werkelijk niets van de source is open (code, trainingsdata, finetuning); het enige dat gedeeld is zijn de zg. model weights, die (zo geeft Meta zelf toe) met 1 miljoen Meta-specifieke instructies gefinetuned zijn zonder dat gebruikers inzage krijgen in wat dat precies betekent (bias? marketing? beïnvloeding? alles is mogelijk)
Show threadTon ZijlstraAug 24, 2023
@dingemansemark De intentie met dat IPO document is het wanneer relevant te actualiseren. In de IPO ethische commissie zitten oa Jeroen v.d. Hoven v TUD, Esther Keymolen (Tilburg), Roel Dobbe (TUD) en Erna Ruijer (Utrecht) uit academische hoek. Op 21-9 organiseren we een bijeenkomst v PhD studenten in Utrecht over m.n. governance / toewijzing verantwoordelijkheden bij inzet van AI/algo's. Wellicht is er ook een promovendus bij Radboud voor wie dat interessant is?
Show threadTon ZijlstraAug 24, 2023
@dingemansemark (ik heb je ook even gemaild)