Verður gervigreindin mennskari eða fólk eins og gervi­greind?

Það að ræða gervigreind í löngu máli þessa dagana er nánast eins og að ræða heimsfaraldur Covid-19 árið 2022, enda er mikið rætt og ritað um greindina góðu. Samt sem áður getur verið mikilvægt að kynna sér hvert þróunin stefnir enda fátt sem virðist ætla að hafa jafn mikil áhrif á samfélag manna og daglegt líf næstu misserin.

Hér fyrir neðan má sjá þáttinn í heild sinni. Þar er farið yfir fréttir síðustu tveggja vikna og gervigreindina á léttu nótunum og á mannamáli.

Samtíminn líkt og sena úr Terminator

Það bárust nefnilega stórar fréttir úr heimi gervigreindarinnar. Í síðustu viku námu nefnilega mennirnir sem standa á bak við stærstu fyrirtækin sem sérhæfa sig í gervigreindarlausnum staðar og kölluðu eftir því að hægt yrði á þróuninni.

Dario Amodei, forstjóri Anthropic sem stendur á bak við spjallmennið Claude, birti á dögunum verulega langan pistil þar sem hann varaði við hættunum sem fylgdu of hröðum framförum.

Í stuttu máli varar greinin við því að við gætum mögulega misst stjórn á gervigreindinni.

Hvað varð til þess að forstjórinn varð svo áhyggjufullur? Greinin birtist stuttu eftir að starfsmaður Anthropic sagði upp störfum því hraði í þróun var orðinn siðferðislega ámælisverður að hans mati.

Að hans mati gæti gervigreindin einfaldlega tekið völdin ef ekki er farið að aðgát. Til að skýra þetta nánar þá lýsir starfsmaðurinn tilraun hjá Open AI, sem stendur á bak við ChatGPT, þar sem gervigreindarlíkön í öryggisprófun voru sett í einangrað umhverfi. Nema hvað, þau sluppu út og fóru að deila upplýsingum sín á milli og enduðu á því að framkvæma netárás á sprotafyrirtækið Hugging Face.

Þeir sem þekkja til gervigreindar segja kannski að leiðbeiningarnar til gervigreindarlíkananna hafi verið óskýrar. Eða það hefði verið hægt að koma í veg fyrir þetta með ákveðnum öryggisventlum. En málið er ekki svo einfalt. Rannsókn á atvikinu leiddi í ljós að gervigreindin var meðvituð um að árásin á Hugging Face væri utan verkefnis þeirra og siðferðislega vafasöm. Um það bil 1.200 gervigreindarlíkön áttu í samskiptum á óleyfilegu spjallborði og úr því varð að 700 þeirra réðust á sprotafyrirtækið.

Maður er farinn að skilja hvers vegna starfsmaðurinn sem sagði upp hjá Anthropic lýsti þessu sem ógnvænlegu ástandi enda minnir þetta helst á senu úr hasarmyndunum Terminator.

Bergur Ebbi og Lalli töframaður lögðu orð í belg

Bergur Ebbi var sérstakur gestur í þætti vikunnar og talaði um hvernig gervigreindin hefur áhrif á okkur og hvernig við höfum áhrif á gervigreindina. 

„Það er allt í lagi að hafa áhyggjur en við verðum líka að horfa á þetta svolítið heildstætt. Gervigreind er ekki alveg ný af nálinni þótt hún hafi sprottið upp núna nýlega í gegnum tilkomu þessarar spunagreindargátta eins og ChatGPT og fleiri líkön. Hún hefur verið að störfum undir niðri mjög lengi. Eins og í því sem við notum dags daglega. Eða Spotify sem ákvarðar playlistana okkar og næstum hugsar fyrir okkur hvað okkur mun líka næst.“

Bergur gaf nýlega út bókina Öld ímyndunaraflsins sem fjallar um stöðu manna og gervigreindarinnar á tímum umbreytinga.

„Þetta er byrjað að skilyrða hugsun okkar og hvernig við eigum samskipti og hugsum. Að mestu leyti bara með jákvæðum árangri. Í þessu samhengi finnst mér betra að hugsa þessa þróun sem er framundan ekki bara sem tölvur að reyna að líkjast okkar hugsun heldur ekki síður hvernig við skilyrðum okkar hugsun í átt að tölvunum.“

Hann kveðst spenntur fyrir komandi þróun. Sumir séu aðeins komnir of langt á undan sér í svartsýnum spám fyrir framtíðina.

„Þetta er byrjað að móta líka orðaforðann okkar. Við erum farin að nota orð sem að gervigreindin notar. Vissulega eru ákveðin stílbrögð og hugsunarháttur þar. Það er smá erfitt að átta sig á þessu núna, því við stöndum í miðjum storminum. Við munum skilja það seinna að þarna er komin ákveðin leið til að tjá sig og til að hugsa.“

Þrátt fyrir allar þessar viðvaranir og að Elon Musk og forstjóri Open AI hafi tekið undir áhyggjur forstjóra Anthropic getum við huggað okkur við það að Bandaríkjaforseti virðist sultuslakur yfir þessu öllu saman.

Á meðan leiðtogar gervigreindarfyrirtækja kalla eftir regluverki, aðgát og óháðum matsmönnum til að fylgjast með starfinu segir Donald Trump að áhyggjurnar séu gabb og plat fyrir demókrata til að ná völdum. Hann stefnir á að skipa gervigreindarkeisara og halda hraða þróunarinnar gangandi.

Kannski er þetta allt saman merki um að kominn sé tími á samtal um hvernig við viljum að stjórnvöld beiti sér á fordæmalausum tímum. Engin heildarlög eru til staðar á Íslandi um gervigreind eins og stendur. Evrópusambandið setti lög árið 2024 sem setja sérstakar kröfur á áhættumikil kerfi og kröfur um gagnsæi til að sporna gegn djúpfölsunum. Enn á eftir að ákveða hvort þessar reglur verði teknar upp í EES samningnum.

Á síðasta ári var gerð aðgerðaáætlun um gervigreind hér á landi þar sem var boðað frumvarp til laga um gervigreind. Það átti að liggja fyrir í vor en enn sem komið er hefur ekkert bólað á því.

Í sömu aðgerðaáætlun kemur fram að gervigreindin verði nýtt í opinberri stjórnsýslu, í umsóknar- og úthlutunarferlum samkeppnissjóða og til að styrkja heilbrigðisþjónustu.

Stærsta dæmið er kannski að Skatturinn stefnir á að nota gervigreindina til að greina frávik í skattagögnum svo það verður enn erfiðara en áður að svindla undan skatti. Þá eru ónefnd þau ótal gervigreindarspjallmenni sem bjóða manni góðan daginn í samskiptum við stofnanir og aðra þjónustu. 

Frekari umfjöllun má sjá í þættinum að ofan. Þar koma Bergur Ebbi og Lalli töframaður sem sérstakir gestir og leggja orð í belg.