'#LargeLanguageModels, de achterliggende techniek van #chatbots, zien er misschien indrukwekkend uit, zegt ze. „Maar uiteindelijk is het gewoon fancy autocomplete.” Het is een computer die heel goed is in het voorspellen van het volgende woord in een zin, de recente snelle ontwikkelingen in #AI veranderen daar voor haar niets aan.'
'Het centrale inzicht in haar boek is dat voorspellingen over menselijk gedrag geen neutrale beschrijvingen zijn, maar verhulde bevelen en machtsuitoefening. Wanneer machthebbers of techbedrijven de toekomst voorspellen in grootse en meeslepende toekomstvisies, is dat eigenlijk een manier om precies die toekomst te dicteren. „Omdat voorspellingen op feiten lijken, schikken we ons er onbewust naar via anticiperende gehoorzaamheid, wat een self-fulfilling prophecy activeert.”
Véliz stelt dat een hoge voorspellende nauwkeurigheid over individuen geen wetenschappelijke vooruitgang is, maar een symptoom van tirannie: „Als een algoritme exact weet wat jij gaat doen, is dat omdat de wereld via massasurveillance zo is ingericht dat je geen keuzevrijheid meer hebt.” Haar waarschuwing is helder: behandel voorspellingen niet als feiten, maar herken ze als sociale controle en zie ze als uitnodiging tot protest en ongehoorzaamheid.'
Geen betaalmuur:
https://www.nrc.nl/nieuws/2026/06/12/een-ai-voorspelling-is-nooit-een-feit-het-is-een-versluierd-bevel-a4929592?gift_token=4929592~1782031200~aJm4rJ0IEeKfgABQVoV_mg~L5gmXD201erWqrKHl94i6M3UQNIbwcfoHQsH7qYyW2M