Þegar raun­veru­leikinn er for­ritaður

Sérhver skák fylgir sínum reglum, sérhvert taflborð hefur sín takmörk, og sérhver leikmaður ræður sínum leik. En hvað gerist þegar leikmennirnir hætta að stýra ferðinni og verða sjálft taflborðið? Þegar ekki er lengur spilað við þig heldur spilað með þig?

Leikurinn hefst áreynslulaust. Við skráum okkur á samfélagsmiðla, samþykkjum skilmála sem enginn les, sækjum öpp sem eiga að einfalda lífið. Þjónustan er „ókeypis“, en greiðslan kemur í öðru formi. Með hverri hreyfingu á taflborðinu færast persónuupplýsingar okkar dýpra inn í gagnavædda flóru sem enginn hefur fulla yfirsýn yfir. Gögnin – hegðun, venjur, langanir, efasemdir – verða verðmætasta auðlind samtímans. Fyrirtækin fórna peði en vinna taflmann.

Þegar mynstrin verða sýnileg hefst miðtafl upplýsinganna. Stjórnendur leiksins færa sig nær miðjunni, lesa leikstílinn, kortleggja hreyfingarnar. Hvað vekur áhuga? Hvað kallar fram ótta? Hvað kallar fram tilhlökkun? Smám saman þrengist hreyfisviðið, valkostir afmarkast, og frelsið verður tálsýn. Skynjun okkar á sjálfstæðu vali dofnar, því hver ákvörðun hefur þegar verið reiknuð út. Fréttirnar sem birtast, auglýsingarnar sem fanga athyglina, umræðuefnin sem virðast óhjákvæmileg – allt er þetta sniðið að réttu mynstri. Taflið gengur áfram og taflmennirnir halda sig innan sinna reita, uns leikurinn færist inn í endataflið, þar sem markmiðið verður annað en að selja. Þá er ekki lengur reynt að spá fyrir um ákvarðanir heldur móta þær.

Efnahagsleg gildi, stjórnmálaskoðanir, jafnvel siðferðileg viðmið taka á sig það form sem þeim var ætlað. Ótti og tortryggni eru vopn, traust og trú tæki. Þegar skynjun á raunveruleikanum er orðin forrituð, er leikurinn unninn.

Stjórnvöld hafa reynt varnarleik. GDPR, persónuverndarlög, takmarkanir á gagnasöfnun. En þetta eru aðeins skref til varnar gegn andstæðingi sem sér nokkra leiki fram í tímann. Tryggður er rétturinn til að eyða gögnum – en aðeins þeim sem þú veist af.

Áfram gengur taflið og teygir sig ekki lengur einungis inn í netvafrið heldur djúpt inn í grunnkerfi samfélagsins. Gervigreindardrifnar ráðningar útiloka fólk án þess að það viti af því, lánshæfismat er ákvarðað af reikniritum sem enginn skilur nema þau sjálf, tryggingafélög greina staðsetningarsögu og nethegðun til að reikna út áhættu, og stjórnmálaherferðir sníða skilaboð sín að veikleikum. Þeir sem skilja leikinn, stjórna honum.

En skákir enda ekki alltaf í mát. Stundum birtist óvænt flétta sem enginn sá fyrir. Það er hægt að vinda ofan af leiknum, brjóta hann upp og neita að færa peðið sem ætlunin var að myndi hreyfast sjálfkrafa. En það gerist ekki með því að haka í reiti í stillingum – heldur með því að skilja mynstrin sem áttu aldrei að sjást og rýna leikreglurnar til að endurskrifa þær.

Tæknin þarf að þjóna manneskjunni, ekki markaðnum. Það er kominn tími á öryggi sem sjálfgefið ástand, þar sem varnir gegn eftirliti, árásum og misnotkun eru innbyggðar í grunnkerfi tækniheimsins – ekki valmöguleiki sem notendur þurfa að virkja eða greiða fyrir. Við þurfum dulkóðuð samskipti sem ekki er hægt að rekja, vafra sem tryggja nafnleynd, leitarvélar sem safna ekki gögnum.

Gagnagredda verður að víkja fyrir sjálfgefnu öryggi. Gögn eiga að vera í höndum þeirra sem þau varða, tryggð með dulritun og dreifstýrðum lausnum, frekar en geymd á miðlægum netþjónum stórfyrirtækja sem nýta þau í eigin þágu. Dreifstýrðar lausnir, eins og blokkkeðjur, geta veitt einstaklingum raunverulega stjórn á eigin upplýsingum, myndað sjálfbær samfélög þar sem enginn einn getur breytt leikreglunum eftir hentugleika.

Við þurfum gagnsæi í stað svartra kassa og reiknirit sem skýrt er hvernig virka – fremur en dulda dómara sem hafa ómæld áhrif á líf fólks.

Fyrst og fremst þurfum við meðvitund. Ekki aðeins vitneskju um hvernig kerfið virkar, heldur hugrekki til að segja nei. Til að velja þjónustur sem virða friðhelgi, til að krefjast gagnsæis, til að neita að taka þátt í leik sem var aldrei spilaður með okkur heldur á okkur.

Tíminn er skammur, skákin heldur áfram og taflmennirnir færast nær lokatakmarkinu.

Ætlum við að spila – eða ætlum við að fleygja borðinu?

Höfundur er lögfræðingur.