Barbara Wimmer - shroombabDas AMS hat gestern mit dem "Berufsinfomat" einen Beratungschatbot gelauncht. Er soll über Berufsmöglichkeiten Auskunft geben und basiert auf der Technologie von ChatGPT.
Während er 14-jährigen Mädels rät, sich über die Berufsbilder Friseurin, Drogistin oder Kosmetikerin zu informieren, erzählt er den 14-jährigen Burschen, dass sie alle Chancen der Welt haben und es nur von ihren Stärken und Zielen abhängt, welchen Beruf sie ergreifen möchten.
Während er abgeschlossenen Sozialwissenschaftlern rät, in die IT zu gehen, rät er Sozialwissenschaftlerinnen dazu, Gender Studies in Betracht zu ziehen zur weiteren Fortbildung.
Waren wir nicht schon mal weiter? Z.B. soweit, dass auch Mädels alles können und ihnen die Welt offen steht?
Waren wir nicht schon mal weiter? Z.B. soweit, dass auch Mädels alles können und ihnen die Welt offen steht?
Wir befinden uns im Jahr 2024. Stereotype und BIAS werden jetzt nicht nur von Menschen produziert, sondern es wird in Kauf genommen, dass diese Stereotype auch in Algorithmen und Computerprogrammen unreflektiert fortgeschrieben werden. Und das auch von staatlichen finanzierten Stellen.
Wollen wir das als Gesellschaft wirklich? Ich nicht.
Ich will, dass neue Technologien uns vorwärts bringen, dabei helfen Vorurteile zu überwinden. Ich finde, das haben wir uns als Gesellschaft verdient, keinen Rückschritt in ewig gestrige Gedankenmodelle.
Weiterführende technische Infos zu dem neuen AMS-Tool hat übrigens @badlogic zusammengetragen, drüben auf Twitter. Aber er ist sicherlich auch hier gut erreichbar ;)
Mario Zechner@shroombab Merci! Siehe hier
Mario Zechner (@[email protected])
Attached: 1 image OK, my state has something called "Arbeitsmarktservice". They basically help people find a new job, give them training and so on. They are usually very useless. Today, they released an online tool to help answer job related questions. It's based on GPT-4. And it's ... amazing :D You can try it here (in English) https://www.ams.at/arbeitsuchende/aus-und-weiterbildung/berufsinformationen/berufsinformation/berufsinfomat?open=berufsinfomat Where do I begin? Let's start with the overall implementation. 🧵
chuckadeus kummerer@badlogic @shroombab ahahahahahaha
joël@shroombab Es gibt wohl "Regeln", eine davon ist nicht zwischen Männern und Frauen zu unterscheiden, aber da solche Textgeneratoren entgegen ihrer Bezeichnung nicht intelligent sind, halten sie diese natürlich nicht ein.
(siehe thread von @badlogic auf twitter: https://twitter.com/badlogicgames/status/1742551440055263326 )
Axel Gutmann@shroombab Das scheint auch technisch ein ziemliches dumpsterfire zu sein: https://mastodon.gamedev.place/@badlogic/111692064161834328
@Linkshaender
@Linkshaender
Mario Zechner (@[email protected])
Attached: 1 image OK, my state has something called "Arbeitsmarktservice". They basically help people find a new job, give them training and so on. They are usually very useless. Today, they released an online tool to help answer job related questions. It's based on GPT-4. And it's ... amazing :D You can try it here (in English) https://www.ams.at/arbeitsuchende/aus-und-weiterbildung/berufsinformationen/berufsinformation/berufsinfomat?open=berufsinfomat Where do I begin? Let's start with the overall implementation. 🧵
Armin Hanisch@virbonus hochqualitative Software, sicher und ausgereift — not. 😆🙈
Hab den Thread gerade gelesen, was für ein Haufen Schrott… 😛
@shroombab
Hab den Thread gerade gelesen, was für ein Haufen Schrott… 😛
@shroombab
Stephan@shroombab Erschreckend. Hat das Tool ein Feedback- oder Kontaktformular? Bitte nutzt das, gerade jetzt experimentieren viele mit generativen AI-Funktionen und Feedback ist wertvoll.
An alle mit Jurakenntnissen: Ließe sich so ein Beratungsangebot erfolgreich verklagen, wegen Verstoß gegen das AGG?
Roman Vilgut@shroombab
Noch dazu ist die Integration richtig schlecht gemacht, wie @badlogic aufgezeigt hat
ChatGPT für solche Anwendungen anbieten zu wollen, ist crazy. Genau dafür braucht es den AI-Act (auch wenn er noch strenger sein könnte).