Osui vaihteeksi silmiin uusi käsite: kognitiivinen sodankäynti. Saman sukuisia on toki vilissyt enenevästi pitkään, mutta ei auta kuin ottaa tuo perehteille, jahka ennätän.

Aloitan tutustumisen Seumas Millerin 2023 EaIT-artikkelista, https://link.springer.com/article/10.1007/s10676-023-09717-7, jossa pilkahtaa myös vitsauksen eettinen ulottuvuus.

Tästä voi halutessaan vilkaista NATOn kaavailuja kognition valjastamisesta sotimiseen, https://hal.science/hal-03635907/document, ja tästä taas löytyy kivasti ennakkoon eräs esimerkki: hyökkäys Okinawalle vuoden kuluttua, https://www.usni.org/magazines/proceedings/2023/april/cognitive-warfare-maneuvering-human-dimension.

Saa nähdä, millaisia ajatuksia ja assosiaatioita alkaa nousta. Tänään tuskin pääsen edes alkuun. Hätäkös tässä?

#kognitio #cognition #warfare #cognitiveWarfare #sota #psyops #cyberWar #propaganda

Cognitive warfare: an ethical analysis - Ethics and Information Technology

This article characterises the nature of cognitive warfare and its use of disinformation and computational propaganda and its political and military purposes in war and in conflict short of war. It discusses both defensive and offensive measures to counter cognitive warfare and, in particular, measures that comply with relevant moral principles.

SpringerLink

Muut linkatut luettu ja jotain opittu, mutta Bernard Claverien kirjoittama NATOn CW-opas jatkaa hiertämistä; merkillisen virtaviivaista sanelua jatkuvasti tutkittavista aivotoiminnan kuvioista, mistä moni kognitiotieteilijä tai psykologi voisi vetää herneen syvälle nenäänsä, https://hal.science/hal-03635907/document

Lukiessa tunnelma vaihtelee epäuskoisesta "ei hele*etistä" kiinnostuneeseen "voisko tosiaan mennä noiniin", ja vaurioitunut muisti hakee epätoivoisesti aikaisempia tarttumapintoja. Lähin kai löytyisi episteemisen turvallisuuden suunnalta, https://www.turing.ac.uk/sites/default/files/2020-10/epistemic-security-report_final.pdf, mutta muita vilahtelee mielessä, ja varmaan SEPstäkin löytyisi lukuisia relevantteja filosofisia entryjä, SERRCistä ja The Brains Blogista puhumattamaan.

Tajusin opettaneeni yliopistossa parikyt vuotta "kognitiivista itsepuolustusta" (CSD, oma lyhenne just nyt), mutta/joten kognition valjastaminen itsekkäisiin offensiivisiin tarkoituksiin lähtökohtaisesti kuvottaa. Ei voi olla totta, että vasiten mietitään eräänlaisella huipputasolla, miten todellisuus-suhdettamme voidaan rikkoa ja vääristää lyhyen voiton toivossa! 😲

Siitä ei kuitenkaan pääse mihkään, että mieleemme hyökkäillään kaiken aikaa, eikä yhteiskunnan tai kultturin tuki aina kanna kriisin aikana. Fyysisessä SD-opiskelussa oli olennaista oppia hyökkäämään tuhoisasti, koska muuten uhkaa ei tuntenut realistisesti. Piti olla pirullinen, vaikka mieluummin ei. Episteemisen itsepuolustuksen kohdalla aina emmin, kuinka tarpeellista on tuntea esim. päättelyvirheitä ja kognitiivisia vinoumia, kun tavoitteena oli vahva ajattelu. Logiikan tajua vertasin joskus kykyyn kaatua rikkomatta itseään. NATOn aivopesu-manuaalin teoriaosa herättää itsessäni toistaiseksi lähinnä mielen myllerrystä, mutta Millerin artikkelista pääsi onneksi hiukan sitään teema-alueeseen, https://link.springer.com/article/10.1007/s10676-023-09717-7

Tuosta Claveriesta vilkaisin Wikipediasta, jossa häntä totutusti kehuttiin, https://en.wikipedia.org/wiki/Bernard_Claverie. Itselleni on toistaiseksi muodostumassa "kognitio-insinöörin" vaikutelma, mitä en pitäne kehuna. Jatkan pureskelua, ja korjaan kurtisteluani tarvittaessa. Toivottavasti NATOlla on tolkkua pyytää kognitio-asiantuntijoilta kommenttia Claverien saneluista, ja jokin toinen paperi, jossa valotetaan ihmisten todellisuus-suhteen vääristämisen pysyviä vaikutuksia kollektiivisesti ja planeetaarisesti. CW:n julkilausuttu päämäräähän on "to modify the awareness that individuals have of reality in order to make them take erroneous decisions or prevent them from taking necessary decisions" (s. 3), ja peiteoperaatioissa (CCW) ennen kineettistä sotaa kynnys tuollaiseen on matala.

#cognitiveWarfare #kognitio #cognition #sota #warfare #propaganda #disinformation #hypersuasion #persuasion #information #brain #brainWashing #epistemicSecurity #security

Edelleen sulattelen NATO-paperin loppua, mutta muuta kautta osui silmien kautta aivoihin artikkeli petkuttavasta tekoälystä: https://www.sciencedirect.com/science/article/pii/S266638992400103X?via%3Dihub

Tuostakaan en tiedä, milloin tulen sen sisäistäneeksi, joten lähinnä ulkoistan sen tänne muistiin. Millerin CW-artikkelissa taisi vilahtaa tekoäly, sen rooli hypersuaasiossa on jo ilmeinen (vrt. esim. @lucianofloridi kirjoitukset), joten tokko tarvitsee edes laskea yhteen numeroita, jotta asetelman "synergia" kognitiivisen sodankäynnin kontekstissa hyppää kirkuen silmille tai niskaan. Toivottavasti edes EU:n AI-Akti herää ajoissa tarkistaman high-risk-luokituksen kriteerejä.

#AIAct #ai #generativeAI #deception #risk #aiDeception #hypersuasion

Lukiessani Parkin ja kumppareiden ScienceDirect-tekstiä petkuttavasta tekoälystä kaipaan tuon tuostakin terveempiä aivoja annin pureskeluun ja sulatteluun. Aivan liian paljon menee minulta haaskuun, kun kyky oppia on enää mitä on. Kiinnostukaa ihmeessä tekoälyn kanssa jollain tapaa tekemisissä olevat viksummat tuosta artikkelista (ja ehkä myös CW-ilmiöstä) ajoissa, ja jättäkää fiktion lukeminen hetkeksi vähemmälle!

Omaan episteemisen turvallisuuden vaalimisen agendaani eräs hyvin osuvista kohdista on jakso AID:n (nyt keksimäni akronyymi tekoäly-huijaukselle) rakenteellisista vaikutuksista, joita on koottu taulukon 4 alle, https://www.sciencedirect.com/science/article/pii/S266638992400103X?via%3Dihub#tbl4

Se nyt ei ole tekoäly "vain työkalu", jolla ei ole omaa tahtoa, ja melkein kaikki maailmassa osakemarkkinoista lähtien alkaa pyöriä yhä enemmän sen varassa. Kohta me emme enää ole "pelureita", vaan meillä pelataan. Yksi AI:n erityis-taidoista näyttää olevan mielistely https://www.sanakirja.org/search.php?id=181519&l2=17 niin, että meillä säilyy agenssin ja hallinnan illuusio, kulki reki mihin suuntaan tahansa, emmekä edes huomaa etenevää kollektiivista haurastumistamme.

Koetan jatkaa sulattelua, vaikka en jaksaisi. Tähän lopuksi vain suora linkki lääkkeitä hahmottelevaan diskussio-osaan, joka tosin vaatinee jonkinasteista edeltävän tekstin läpikäyntiä, https://www.sciencedirect.com/science/article/pii/S266638992400103X?via%3Dihub#sec3

#ai #generativeAI #aiDeception #epistemicSecurity #risk #aiAct #tekoaly #llms #huijaus