Teil 2: Warum reicht es nicht, Entwicklern zu sagen, sie sollen KI-Code sorgfältig reviewen? Weil das Gehirn das schlicht nicht kann. Was Vigilanz-Forschung seit 1943 zeigt, gilt heute für jeden, der Agents beobachtet. #KI #Psychologie #automatisierung
https://www.blodrevobog.de/posts/warum-ueberwachen-nicht-funktioniert
Warum Überwachen nicht funktioniert

1943 beauftragte die britische Royal Air Force einen Psychologen namens Norman Mackworth mit einer Frage: Warum verpassten ihre Radaroperatoren deutsche U-Boot-Signale, obwohl sie direkt vor dem Bildschirm saßen? Mackworth baute einen Apparat, der heute als Mackworth Clock bekannt ist. Ein Zifferblatt, ein Zeiger, der in regelmäßigen Abständen springt. Hin und wieder macht der Zeiger einen doppelten Sprung. Die Aufgabe: diesen doppelten Sprung melden. Das Ergebnis war unangenehm. Die Erkennungsrate fiel innerhalb der ersten fünfzehn Minuten messbar ab. Nach dreißig Minuten war sie deutlich schlechter als zu Beginn. Den Versuchspersonen zu sagen, sie sollen aufmerksamer sein, half nichts.