https://redlib.perennialte.ch/r/pcmasterrace/comments/1tg631f/some_of_you_memers_need_reminders_about_why_pc/

#GenAI #AInt #Slop

AI-based image sharpening tools

#ai #photography #tools #genai #slop

RE: https://chaos.social/@RainerMuehlhoff/116595290244520791

Jetzt wird es wichtig.

#GenAI #Faschismus #KI #AI #NieWieder #FckAfD

RE: https://hachyderm.io/@mnl/116507196473706970

I’ll slop your shit up by generously giving away my time and tokens! Incredible opportunity! #llms #llm #genai

Anti-AI people strongly stating assumptions as if they were inalienable truths, based on… vibes?

“I tried this thing once a year ago and it didn’t work, so it’s _a fact_ nobody using AI is doing QA and thinks of themselves as a product manager” (barely paraphrasing here).

Alright then…

#llms #llm #genai

I vibe-coded a self-hostable, turn-based, multiplayer board game as a Progressive Web App in a week.

https://github.com/svenjacobs/pearls

#game #GameDev #selfhost #selfhosting #pwa #Svelte #SvelteKit #TypeScript #WebDev #AI #GenAI #LLM #VibeCoding #VibeCode

Ingezonden: We moeten AI pauzeren en niet normaliseren op de Hogeschool Rotterdam

In dit essay of ‘academische blog’ beargumenteert docent en onderzoeker Felix van Hoften (RBS) dat AI schadelijk is voor de planeet, de samenleving en het onderwijs. Hij is kritisch op de deterministische houding over AI – ‘het is er nu eenmaal, we kunnen er niet omheen’- binnen de Hogeschool Rotterdam. Hij pleit ervoor een stap terug te doen en eerst kritisch na te denken hoe we genAI willen inzetten.

Dit stuk in een minuut

Felix van Hoften (RBS) roept in zijn essay de Hogeschool Rotterdam op om kritischer te kijken naar generatieve kunstmatige intelligentie (genAI). Hij beargumenteert dat door een groot aantal nadelen van genAI uiteen te zetten.

Hij haalt Aldous Huxley aan, de schrijver van Brave New World. Huxley voorspelde in zijn boek uit 1932 hoe technologie kan leiden tot verslaving, verlies van kritisch denkvermogen en afhankelijkheid van een kleine elite. Van Hoften ziet deze ontwikkeling terug in de manier waarop genAI wordt omarmd: deterministisch en weinig terughoudend, ‘het kan niet anders’.

GenAI wordt vaak gepresenteerd als een oplossing voor grote problemen (zoals klimaatverandering, economische groei en ongelijkheid); Van Hoften plaatst hier kanttekeningen bij en wijst bijvoorbeeld op onderzoek dat aantoont dat AI werk juist intensiveert en mensen geestelijk uitput.
Van Hoften gaat ook kritisch in op de ecologische impact van genAI, met de bijbehorende datacenters, energieverbruik, watergebruik en grondstoffenwinning. Deze groei legt extra druk op het milieu en kan de energietransitie ondermijnen.
GenAI levert daarnaast onderbetaalde arbeid op zoals content-moderatie in lage-inkomenslanden die neokoloniale verhoudingen versterkt.
De winst van AI komt ondertussen vooral terecht grote techbedrijven, wat ongelijkheid kan vergroten en afhankelijkheid versterkt. Daarbij is de ideologie van een aantal techbazen verontrustend, bijvoorbeeld antidemocratisch.

Van Hoften betoogt dat genAI schadelijk kan zijn voor kritisch denken en daarmee voor het onderwijs. Onderzoek suggereert dat intensief gebruik van genAI leidt tot minder cognitieve ontwikkeling, oppervlakkig leren en uiteindelijk afhankelijkheid van technologie. Studenten verliezen mogelijk het vermogen om zelfstandig te denken, diep te lezen en complexe problemen te begrijpen. De gezamenlijke kennisbasis neemt af, en het vermogen problemen op te lossen dreigt af te nemen.
Dit staat haaks op de kerntaken van onderwijsinstellingen, zoals het bevorderen van kritisch denken, autonomie en burgerschap. Het staat ook haaks op de visie van de Hogeschool Rotterdam die naar eigen zeggen een kritische, onderzoekende houding bij studenten en docenten wil stimuleren.

De auteur pleit om genAI op de HR kritisch te benaderen en niet vanuit de visie: ‘het is er nu eenmaal’. Van Hoften betoogt dat innovatie in dienst moet staan van samenleving, moet passen binnen planetaire grenzen en aandacht moet hebben voor welzijn, rechtvaardigheid en democratie. Zolang genAI daar niet aantoonbaar aan bijdraagt, moet de samenleving, en zeker het onderwijs, terughoudend en kritisch blijven.

In 1932 publiceerde Aldous Huxley zijn befaamde boek A brave new world. Deze dystopische toekomstroman beschrijft hoe het denkvermogen van mensen is platgelegd door de volledige omarming van en verslaving aan technologie. Huxley’s werk wordt de laatste tijd vaker aangehaald om onze tijd te duiden. Zo weeft Paul Schenderling in zijn nieuwe boek Continent van de kwaliteit zijn werk als leidraad voor een nieuw economisch paradigma. Ander werk van Huxley, De Tijd van oligarchen, heeft ook weer aandacht gekregen. Sterker nog, het is opnieuw uitgebracht door meesterverteller Bas Heijne.

Dit is geen toeval. De combinatie van deze twee profetische werken zijn een spiegel voor onze tijd. Huxley voorzag (90 jaar geleden!) de combinatie van entertainment, desinformatie, verslaving en het verlies van kritisch denkvermogen, met als gevolg een afhankelijkheid van een kleine groep ‘ondernemers’, als voorbode van het eroderen van het autonome en goede leven.

Is de laatste telg van de technofamilie: generatieve kunstmatige intelligentie, kortweg genAI, de samenloop van innovatie die Huxley voorzag? Dit essay bekijkt, door de lens van Huxley, hoe genAI onze wereld gaat beïnvloeden en specifieker ons onderwijs. Want is er een wereld mogelijk, waarin kritisch denken, autonomie, welzijn, verantwoordelijkheid en rechtvaardigheid bestaat én waarin AI is doorgedrongen tot elk haarvat van onze samenleving? Ik betwijfel het.

GenAI(-positiviteit) is werkelijk o-ve-ral

Als we the Economist, het Financieele Dagblad en allerlei tech-optimisten mogen geloven, is genAI dé messiaanse technologie: klimaatproblematiek wordt opgelost, de economie gaat groeien en, volgens musicus en tech-ondernemer Will.I.Am, gaat AI zelfs ongelijkheid oplossen. GenAI verhoogt arbeidsproductiviteit, we kunnen saai werk uitbesteden en ons concentreren op taken die leuk zijn. We moeten we er allemaal aan, want dit is dé toekomst voor iedereen. De positiviteit rondom AI groeit hand in hand met zijn alomtegenwoordigheid.

Dit debat verloopt vergelijkbaar als andere technologiedebatten. Nadat eerst Big Tech-ondernemers euforie roepen en gezaghebbende bladen en opiniemakers hun plasje hebben gedaan, staan nieuwbakken AI-consultants en andere ‘experts’ te springen om hun verhaal te doen. Vaak zijn dit deterministen: ‘’De technologie is er nu eenmaal, dus je moet maar gewoon mee.’’ Een Thatcheriaans there-is-no-alternative opvatting. Dat dit een invalide argument is, beschreven Rob van der Rijt en ik in het academische blad Real-world Economic Review, want dan zouden we alles wat bedrijven ontwikkelen maar moeten accepteren? Gelukkig  zijn we niet zo naïef geweest met asbest, röntgenstraling, en de duizenden chemische stoffen die inmiddels zijn verboden in de EU, en hebben we er paal en perk aan gesteld.

Dit argument negeert daarnaast een veel belangrijkere vraag: wat is het doel van technologie en innovatie? Innovatie-onderzoeker Mario Pansera vraagt dit ook in zijn boek Post-growth innovations af en komt tot drie doelen: een probleem oplossen, welzijn bevorderen of het aanpakken van vormen van ongelijkheid en onrechtvaardigheid. Gaat genAI één van deze doelen bereiken?

Laten we de belofte van verhoogde arbeidsproductiviteit bekijken. Een andere groep technoverdedigers, de productivisme-optimisten, stelt dat we arbeidsproductiever worden en zo minder hoeven te werken, of saaie klussen kunnen uitbesteden aan het algoritme. Onderzoekers van Harvard hebben gekeken naar deze claim, en stellen ondubbelzinnig: AI Doesn’t Reduce Work, It Intensifies It.  Mensen nemen meer taken op zich, doen werk waarvoor ze niet zijn getraind en werken vaker buiten werktijden. Het gevolg: cognitive fatigue, burnouts en lagere kwaliteit werk. Ander onderzoek bevestigt dit: e-mailtijd verdubbelt, chatgebruik stijgt met 145% en diepe focus op werk verminderde. Sommige onderzoekers zien zelfs een vorm van, wat zij noemen, Brain fry[1]. Werknemers ervaren grote vermoeidheid door te veel genAI gebruik omdat onze cognitieve capaciteit wordt overschreden. We werken meer en raken nóg vermoeider. Niet verstandig in een samenleving die al hypernerveus is.

Maar er is ook iets anders aan de hand. En om dat te duiden moeten we theorie lenen uit de ecologische economie. Deze toename van werk komt door een fenomeen dat we de Jevons Paradox noemen. Jevons, econoom, beschreef in 1865 dat efficiënter gebruik van middelen – wat een kostenbesparing oplevert – zal leiden tot een groter gebruik van dat middel, omdat het goedkoper wordt. Dit fenomeen zien we overal in onze economie: vliegen, koelen, verlichting, energiegebruik, en ook in de (digitale) diensten. De introductie van digitale tools om efficiënter te werken, heeft het tegenovergestelde effect: in plaats van de werklast te verminderen, wordt die juist meer. We zien dit ook bijvoorbeeld in gezondheidszorg. GenAI bevrijdt ons niet van taken, het frituurt ons brein, omdat de agenda te vol zit, te vol om te herstellen.

Ecologische realiteit

Er is nog een domein waar herstel cruciaal is. Onze leefomgeving. De productivisme-optimisten zijn ook op dit terrein zelfverzekerd. Zij stellen, dat genAI onze economie duurzamer gaat maken. Zakenbladen zoals Forbes en Bloomberg zien de toekomst zonnig tegemoet. Om dit beter te begrijpen moeten we ook hier een systemische bril uit de ecologische economie opzetten: het principe van sociaal metabolisme.

GenAI is niet alleen het appje op je telefoon of de chatbot in je browser, maar álle stromen van energie, grondstoffen en arbeid die verwerkt zitten in de totale supply chain. GenAI is niet alleen software, maar een infrastructuur. De laptops, smartphones waarop we genAI gebruiken draaien op computerchips die gefabriceerd worden via een extreem complex en wereldwijd verspreid productieproces. Daarbij komen honderden ketens samen waarin zeldzame metalen worden gewonnen, componenten worden geproduceerd en systemen worden geassembleerd. Op de achtergrond draaien gigantische datacenters in enorme, vaak anonieme gebouwen volgestouwd met servers in stalen racks. Die datacenters draaien niet ‘in de cloud’, maar op fysieke energie-, water- en arbeidssystemen. Uiteindelijk loopt die hele keten door tot in ons huis: door glasvezel- en koperen kabels onder de grond, via wifi-signalen tot aan het scherm in je hand. Het voelt als een lichtgewicht digitale interactie, maar is in werkelijkheid het eindpunt van een intensief wereldwijd metabolisch systeem.

Onderzoeker Ed Conway ziet geen cloud, hij ziet een groeiend netwerk van mijnbouw van kritische grondstoffen, logistiek, energie, arbeid en kapitaal. En dit systeem blijft groeien. Zo bouwen we in Nederland aan zeven megadatacentra; wereldwijd zien we eenzelfde ontwikkeling. Omdat deze datacenters enorm veel energie gebruiken, zal (een deel van) onze energietransitie worden opgeslokt om genAI te faciliteren.

Daarnaast is het jaarlijkse waterverbruik van genAI nu al even groot als de hoeveelheid die per jaar in flessen wordt verkocht. Big Tech-bedrijven, ooit voorlopers in emissiereductie, hebben stilletjes hun CO2 doelen op pauze gezet of zelfs stopgezet.

Ook deze technologie gaat leiden tot achteruitgang in onze leefomgeving, bijvoorbeeld het verlies van plant- en diersoorten die nooit meer terugkomen. Mijnbouwgroei is nu al één van de redenen waarom we grote stukken oerbos aan het slopen zijn. Een van de bekendste AI-onderzoekers ter wereld, Kate Crawford, is bang dat de groeiende AI-slop  onze ‘toekomst opvreet’. Waar willen we energie en grondstoffen eigenlijk voor gebruiken: AI-troep of algemeen welzijn?

Neokolonialisme

Het metabolistische perspectief opent ook andere denkdeuren. Er is namelijk veel arbeid nodig om onze genAI systemen aan de praat te houden. Zo moet toch iemand content en context controleren en modereren. Medemensen in Oost-Afrika beoordelen expliciet gewelddadige, of erger, content, met als gevolg psychisch trauma. En dit gebeurt, weer, onderbetaald[2]. Onderzoekers in een snel groeiend onderzoeksveld noemen dit AI-kolonialisme; een onrechtvaardigheid waar mensen nauwelijks van op de hoogte zijn.

Ook op macroniveau versterkt genAI neokolonialisme. Zo reproduceren AI-modellen WEIRD (Western, educated, industrialized, rich and democratic) standpunten, zelfs als ze expliciet worden geïnstrueerd dat niet te doen. De werking van het  sociaal metabolisme vergroot de druk op goedkope rare earth metals die tegen veel te lage kosten worden gemijnd, en waardoor neokoloniale relaties blijven bestaan en zelfs worden versterkt.

Kritisch denken

Kolonialisme vindt niet alleen in de fysieke wereld plaats, maar ook in onze meta-fysieke. In Huxley’s Brave new world krijgen baby’s elektrische shocks als ze een boek zien. Zo worden ze geconditioneerd om bang te zijn voor kennis.

GenAI is ons denken en onze autonomie aan het beïnvloeden met niet te negeren consequenties voor het hoger onderwijs. Als hoger onderwijs en onderzoeksinstelling zou je zeggen dat wij hiervan tot in detail van op de hoogte zijn, dat we genAI kritisch bekijken en niet naïef normaliseren of zelfs actief verkopen aan de jonge leiders van de toekomst. Want, wat zijn wij als onderwijsinstelling? Waar leiden we voor op? Onze net gepubliceerde Impact Agenda: talent voor transitie zet onder meer ‘toekomstbestendigheid’, ‘duurzaamheid’ en ‘rechtvaardigheid’ centraal. Als we dit serieus nemen, moeten we minimaal het bovenstaande ecologische en neokolonialistische perspectief verwerken in onze curricula. De Strategische Agenda stelt: ‘We ontwikkelen een kritische, onderzoekende houding bij studenten en docenten, die vraagstukken vanuit meerdere perspectieven benaderen’ (p.14). Top, een instelling die kritisch denken op een voetstuk plaatst. Maar hoe is de onderzoekende, kritische houding te vergoelijken met de argeloze explosie van genAI in onze curricula?

Want dat laatste is misschien wel de grootste crux van dit verhaal. We weten uit onderzoek van Massachusetts Institute of Technology dat studenten die regelmatig genAI inzetten, minder breinverbindingen aanmaken en dat het lees- en analytisch vermogen negatief beïnvloedt. Er is kritiek op dat onderzoek, zo is er bijvoorbeeld een zeer kleine onderzoekspopulatie gebruikt. Maar het is zeker niet het enige onderzoek dat verontrustende resultaten laat zien. Als AI-normalisatie in het onderwijs doorzet, kunnen studenten steeds minder zelf  denken, zich authentiek uitdrukken en andere perspectieven zien.

De overtreffende trap van de gefrituurd brein hypothese is, cognitive surrender, breinovergave of AI-onderwerping, zoals onderzoekers in deze paper het noemen. Zij claimen dat er langzaam een derde manier van denken aan het ontstaan is naast Kahnemans systeem 1, snel en automatisch denken, en systeem 2, diep en bewust denken. Systeem 3: niet meer denken. Hoogleraar Erik Scherder concludeert dit ook in zijn boek Liever moe: ‘AI staat voor afnemende intelligentie. Heel simpel gezegd: generatieve AI leidt ertoe dat je je hersenen minder gaat gebruiken’. 

Hoogleraar van Baalen stelt dat inspanning, twijfel en mentale herstructurering noodzakelijk zijn voor duurzame kennisopbouw. De momenten waarop studenten moeten worstelen met de stof zijn essentieel. ‘No pain, no gain.’ Roxanne van Iperen beschrijft skim reading: We lezen tekst vluchtig zonder het op te nemen. We raken het vermogen tot deepreading kwijt en daarmee het diep begrip van complexe ideeën. Studenten hebben wellicht een oppervlakkig antwoord op de vraag van een docent, maar ze zijn niet in staat die kennis ergens anders te gebruiken.

Zelfs techoptimisten van de blog MT/Sprout beginnen zich te roeren. Door genAI begin je namelijk steeds meer op je collega en medestudent te lijken. Hoe zit dat? Wat CHATGPT voor jou bedenkt, bedenkt hij voor iedereen. ‘Als elk denkpatroon uit een robot komt, wie ben jij dan nog?’, schrijft Laura Borghols in een artikel in Trouw. Van Iperen pakt het nog een stapje verder. Zij vergelijkt de mens met een fruitvlieg die instinctief van vrucht naar vrucht hopt. Als we niet meer hoeven te denken, wat is de mens dan nog?

Pedagogische taak

Daarnaast hebben we als instelling ook een pedagogische rol. Jonge mensen groeien op in onze klas, naar een hopelijk nieuwsgierige en geïnformeerde burger. Een duidelijke doelstelling van de RBS betekeniseconomie, gebouwd op de basis van Gert Biesta. Ook hier moeten we alert zijn. Veel genAI gebruik kan leiden tot emotionele groei-achterstand, door een consequentie die wordt aangeduid als social offloading. Het uitbesteden van ongemak en onzekerheid aan een chatbot, die wél weet hoe je moet reageren, als je ruzie hebt met je vriendin, collega, of medestudent. Dit kan gevoelens van eenzaamheid en isolatie versterken en zal ‘veerkracht’ zeker niet doen toenemen. Het naar de mond praten, ‘Wat een goede vraag Felix, zo had ik het zelf nog niet bekeken’, door AI-chatbots kan leiden tot psychoses, overmatige zelfbevestiging en een afname aan cognitieve flexibiliteit.

Dat we de deterministen (’het is nu eenmaal zo’) pedagogisch niet serieus moeten nemen verwoordt Ilyaz Nasrullah goed in Trouw: ‘Vervang de term “AI gebruiken” door “sigaretten roken” en het wordt direct duidelijk hoe onzinnig het argument …. is: “Scholieren roken toch wel sigaretten, het is daarom beter om ze te leren die op de juiste manier te roken.” Dat jongeren “toch wel” AI gebruiken, betekent natuurlijk niet dat dat ook goed voor hun ontwikkeling is.’

Als je sinds je middelbare school al je denkwerk hebt uitbesteed aan een genAI en op de hogeschool ook, dan verlies je het vermogen om kritisch te kunnen denken, je probleemoplossend vermogen en databegrip. Dan zullen doelen uit de strategische agenda onder druk komen te staan. ‘Veerkracht’, één van de doelen uit de agenda is namelijk verbonden met autonomie door agency. Het gevoel hebben dat je de wereld begrijpt en invloed kan hebben.

Macroschaal kennisvorming

Want een minimaal begrip van de wereld is belangrijk in de interpetatie van diezelfde wereld. Nobelprijswinnaar Daron Acemoglu theoretiseert en berekent dat genAI-gebruik op macro-schaal een bizar sneeuwbaleffect kan veroorzaken:  een knowledge collapse. Als individuen meer op AI vertrouwen, dan is er een kans dat het leerprikkels, experimentatie en cognitieve kwaliteiten beïnvloedt. Omdat kennisvorming vaak een bijproduct is van deep learning en het experimentele leerproces, kunnen we die kennis inzetten om problemen op te lossen. Door genAI zijn we steeds minder aan het experimenteren, en komt er geen kennis meer bij als bijproduct én snappen we het probleem steeds minder, waardoor we eerder geneigd zijn om genAI weer in te zetten om het te begrijpen. Met als gevolg….Een positieve feedback loop uit de system sciences.

Dat kan leiden tot een knowledge collapse, waar we uiteindelijk de simpelste processen niet meer begrijpen, omdat we die uitbesteed hebben. Filosoof Lisanne Bainbridge noemt dit de ironie van automatisering. Hoe beter een technologie menselijke taken overneemt, hoe minder goed we de basis van technologie begrijpen en minder goed problemen kunnen oplossen. Als het dan misgaat, gaat het ook goed mis. Siri Berends en Lisa Doeland beschrijven dit in de Groene Amsterdammer: ‘Doordat ik de makkelijke delen van het werk niet meer beoefende, werd ik ook minder goed in de lastigere delen van het werk’. En misschien gaat Lisa nog een stapje verder. Deze filosoof vreest ook doordat we steeds minder zelf iets maken, we ook vertrouwen verliezen in onszelf.

Plagiaat

In Nederland wordt AI in het onderwijs onkritisch genormaliseerd en ingevoerd. Dit is de titel van een open brief van 1700 wetenschappers en bezorgde burgers aan universiteiten en hogescholen. Ook zie ik dit – met enkele uitzonderingen – op onze hogeschool. AI-trainingen worden aangeboden aan medewerkers zonder dat het genoeg kritisch wordt ingelijst. Ook aan de andere kant van de plas zie je dezelfde normalisering en daaropvolgende reacties: universiteiten adopteren de technologie onkritisch en weinig transparant.

De normalisering van AI in onderwijsinstellingen leidt tot een curieuze paradox. De heilige graal van onderwijs, plagiaat, wordt langzaam onze achilleshiel. Want genAI is de grootste plagiaatmachine die de mens ooit heeft verzonnen. Vrijwel alle genAI apps worden getraind door het plunderen van archieven, teksten en afbeeldingen, gemaakt door artiesten, tekenaars, ontwerpers, fotografen, schrijvers en onderzoekers, zonder toestemming, zonder verwijzing en zonder compensatie. Dat is geen innovatie, maar extractie.

Wie profiteert?

AI is de toekomst dus. Als een technologie ons leven diep gaat beheersen dan is het cruciaal te analyseren wie er baat bij heeft. In de betekeniseconomie duiden we dit met de term cui bono geleend van onderzoeker/schrijver Sjors Roeters. Want in de kern is dit ook een politiek-economisch vraagstuk.

De bekendste econoom van de 20e eeuw, John Maynard Keynes, voorspelde in de jaren 1930 dat door arbeidsproductiviteitsverhoging mensen in de 21e eeuw nog maar 14 uur per week zouden werken. Dit is niet gebeurd,  onder andere omdat we de baten van ons economische proces niet ten behoeve van de arbeiders- en middenklasse zijn gaan inzetten, maar ten behoeve van een kleine bovenlaag  Zeker in de laatste veertig jaar hebben we de neoliberalistische ideologie in Nederland stevig omarmd. Gaat AI Keynesiaans functioneren, of zal zoals Huxley voorspelt de ongelijkheid nóg verder doen toenemen?

Relax, zegt de derde groep AI-verdedigers, de naïeve productivisten, er komen banen bij, net als toen de auto op de markt kwam, of de pc. Het lijkt mij echter naïef om de stortvloed aan rapporten te negeren die stellen dat AI de middenklasse gaat slopen, zoals dit rapport, of dit, of dit. We zien al dat bedrijven mensen ontslaan omdat genAI goedkoper is en er zijn vooral zorgen over kantoorbanen op bachelor afstudeerniveau.

Werk kan ook minder betekenisvol worden. Mijn buurman, een programmeur, vertelde me dat de magie van zijn werk is verdwenen. De creatieve taken heeft genAI overgenomen en hij controleert alleen nog maar. Tekstschrijvers, communicatiemedewerkers, ontwerpers en filmmakers geven hetzelfde aan.

De genAI levert inmiddels ook echte foute ‘innovaties’. Met Meta glasses en Grok kun je van iedereen een foto nemen, uitkleden en alles mee doen zonder toestemming. Barbie gaat bijna haar genAI doll lanceren. In plaats van buiten te spelen gaan kinderen spelen met poppen waar de beste vriend een statistisch algoritme wordt in een plastic omhulsel met een te kleine taille. De next frontier in oorlogsvoering is natuurlijk ook genAI,

De Big Tech-ondernemers zien AI natuurlijk als onvermijdelijk en nodig. Onderzoeker Daniel Mügge van de UvA draait er in zijn net gepubliceerde boek de AI matrix niet omheen. Het is een misvatting dat technologie een neutrale tool is die mensen op een ‘goede’ of ‘verkeerde’ manier kunnen gebruiken. Dit schrijft ook Thomas Dekeyser in het boek Techno-negative. Elke technologie heeft inherente eigenschappen die, los van hoe je het gebruikt, problematisch kunnen zijn voor mens, natuur en samenleving.

Ideologie

Mügge ziet bij de vormgevers van genAI een ideologie met vier hoofdingrediënten: onkritisch techno-solutionisme waar sociale problemen kunnen worden opgelost met een app, morele superioriteit (tech-ondernemers weten wat goed is voor iedereen), een diep wantrouwen van overheidsactiviteiten en tot slot een anti-mens mindset waar geld verdienen menselijk lijden kan legitimeren.

Sommige Big Tech-ondernemers zoals Peter Thiel vinden de democratie een achterhaald concept. Dekeyser vraagt zich daarom af: in een wereld waar Big Tech steeds meer verweven is met autoritarisme, moeten we ons de vraag stellen, waar leidt technologie eigenlijk toe? En dan komen we weer terug bij de onderzoeker Mario Pansera. Hij stelt dat technologie een middel kan zijn om macht en middelen te concentreren bij een kleine groep.

We accepteren deze technologie geluidloos, maar beseffen we dat het ons economisch afhankelijk gaat maken van een kleine groep mensen aan de andere kant van de plas? Piketty liet in 2014 al zien dat ongelijkheid het belangrijkste probleem van onze tijd is. Deze ontwikkeling zal dit alleen maar versterken. Want we gaan afhankelijk worden van diegene die deze technologie bezit. En afhankelijkheid is de vijand van autonomie, de onafhankelijkheid om ons leven vorm te geven.

Zou onderwijs niet een krachtig tegengeluid moeten laten horen, zoals Paulo Freire al beschreef in zijn Pedogagie van de onderdrukten? Ook onderwijs is nooit neutraal. Het is een instrument om macht in stand te houden of om mensen te bevrijden.

Oplossingen

Het eerder genoemde Harvard-onderzoek stelt dat we minimaal moeten inzetten op minder genAI, meer pauzes en actiever met mensen connectie maken. Bizar dat dat we dat op papier moeten gaan zetten. Connectie maken is wat ons mens maakt. 

Daarnaast kunnen we in mijn optiek minimaal transparanter en completer gaan communiceren richting onze collega’s en studenten over de complicaties van genAI. Misschien kunnen we een genAI disclaimer toevoegen aan onderwijsactiviteiten, of aan de edu-genAI versie die we wellicht als hogeschool gaan gebruiken?

Leidende instituten maken een pedagische en didactische draai. Ze worden weer old school. Print, minimaal laptopgebruik en directe instructie met docenten. Kinderen van tech-ondernemers gaan naar deze scholen. Als we niet opletten wordt denken voor een heel klein groepje mensen, aldus Lubach over het onderwerp. Zit de échte toegevoegde waarde van het onderwijs niet in jonge mensen leren denken? En is dit niet een betere manier om ons als instituut te onderscheiden?

En sure, sommige onderzoekers zien dit anders. Ik zie ook wel dat in de gezondheidszorg genAI echt waarde kan toevoegen. Maar dan moet dit wel gericht gebeuren, binnen duidelijk kaders. Toen de röntgenstraling in 1895 werd ontdekt, richtte men het werkelijk op alles. Totdat het gevaar duidelijk werd. Nu gebruiken we het alleen voor toepassingen die er toe doen en met mate. Zitten we nu op het equivalent van 1885, we richten AI maar op alles, en negeren de nadelen? 

Conclusie

Innovatie moet uiteindelijk met Huxley’s woorden, in dienst van de samenleving staan en niet alleen in dienst van de zakken van een paar ondernemers. Dat schrijven Rob en ik ook in Real-World Economist Review. Wij hebben vier pilaren omschreven waar algemene innovatie aan zou moeten voldoen:

1 – Het moet passen binnen planetaire grenzen.
2 – Het moet welzijnsverhogend zijn.
3 – Het moet rechtvaardigheid versterken.
4 – Het moet bijdragen aan de kwaliteit van de democratie.

Als genAI hieraan gaat bijdragen dan wil ik mee. Maar laat me eerst bewijs zien, voordat we dit in alle lagen gaan normaliseren. En dan blijft nog steeds: ik vind zelf denken zo leuk!

Het is geen defaitistisch, deterministisch gegeven. Wij hebben invloed op deze technologie. Als maatschappij, als onderzoeks- en onderwijsinstelling, en als individu. We kunnen beslissen dat we mens zijn en onderdeel van de samenleving. En dan moeten we ons veel vaker de vraag stellen: wat is het doel van technologie en innovatie? En gaat het ons leven verbeteren? Hopelijk kunnen we de lessen van Huxley gebruiken om genAI te weerstaan en ons simpele mensbrein te beschermen tegen naïef techno-optimisme, kritisch denkvermogenverlies en autonomie-inperking.

Als iedereen vol gaat op AI, moeten wij, de HR, dan niet het tegenovergestelde doen? Op deze hogeschool kun je wel écht leren, een eigen stem ontwikkelen, kritisch nadenken en betekenisvol ondernemen voor een betere toekomst. Gaan we, zoals Bas Heijne stelt in de heruitgave van Huxley, onze onderwerping hartstochtelijk omarmen? Of gaan we kritisch inkaderen hoe ons onderwijs eruit moet zien? Een speciale HR-taskforce zou dit eerst moeten gaan onderzoeken.

Bedankt voor het lezen.

Felix van Hoften, onderzoeker-docent HRO en Universiteit van Amsterdam

Naschrift

Dit waarschuwingsdocument is niet hyperbolisch. Het is een verzameling van bekende kennis. Daarnaast is het old school. Onderzocht, opgeschreven en geredigeerd door een mens (met een hart). Meer info? Check Against AI, Pause AI en The Algorithmic Justice Lead