Gervi­greindin og ragna­rök: Raun­veru­leg hætta eða mesta svika­mylla sögunnar?

Dómsdagsspár hafa fylgt gervigreindinni frá upphafi. Hugmyndir um tortímingu mannkynsins af hálfu AI hafa spannað allt frá nýjum farsóttum til Ultron ala Avengers; starfræns illmennis sem fer óhindrað um innviði ríkja heims gegnum internetið í þeim tilgangi að útrýma manninum og öllu sem hann stendur fyrir.

Nýjasta bylgjan fór af stað þegar starfsmaður Anthropic greindi frá því á dögunum að hann hefði sagt upp störfum vegna hættunnar sem stafaði af gervigreindinni. Jacob Coxon sagði innanbúðarmenn sannfærða um að raunveruleg hætta væri á því að AI yrði öllum að bana fyrir árið 2030. Annar starfsmaður Anthropic steig fram í kjölfarið og tók undir með Coxon. Bætti raunar um betur og sagðist telja að líkurnar væru yfir tíu prósent.

Ekkert nýtt, eins og fyrr segir. En það sem gerðist næst kom á óvart. Einn af öðrum tóku forsvarsmenn Anthropic, OpenAI og sjálfur Elon Musk undir áhyggjur Coxon og sögðu rétt að hægja á þróun gervigreindarinnar. Koma þyrfti á eftirliti með þróun AI og tryggja að hún yrði mannkyninu til góðs.

Síðustu daga hafa menn, eins og svo oft áður, skipað sér í fylkingar varðandi málið.

Sérfræðingar á sviði gervigreindar eru langt í frá sammála um getu AI til að tortíma mannkyninu. Margir hafa tekið undir meintar áhyggjur gervigreindarleiðtoganna en aðrir segja umræðuna smjörklípu og jafnvel skipulagða herferð til að dreifa athygli manna frá raunverulegum hættum, svo sem þeirri ógn sem steðjar að lýðræðinu og katastrófískri fjármálabólu.

Margt er að segja um þróun mála en mig langar að benda á eftirfarandi:

1. Leiðtogar gervigreindarrisanna hafa löngum talað um þá ógn sem stafar af gervigreindinni; stórfellt atvinnuleysi, mögulega yfirtöku AI agenta á innviðum og svo framvegis. Þeir hafa hins vegar ekki gert nokkurn skapaðan hlut til að hægja á, tryggja öryggi eða eiga virkt samtal við yfirvöld um þróunina. Opinberlega hafa þeir talað fyrir eftirliti af hálfu hins opinbera en barist gegn því á bakvið tjöldin.

2. Þróun gervigreindarmódela fyrirtækjanna hefur verið afar ógegnsæ og yfirlýsingar um áfanga og getu verið afar misvísandi. Tilkoma AGI, artificial general intelligence, átti til að mynda að marka vatnaskil; tímapunktinn sem gervigreindin yrði klárari en vel menntaður fullorðinn einstaklingur. Jensen Huang lýsti því yfir á dögunum að þessu marki hefði verið náð með útgáfu Astra, nýjasta módels OpenAI. Hið mikið hype-aða AGI reyndist hins vegar ekki merkilegra en svo að það tók einn sérfræðing þrjár klukkustundir og stöðug afskipti að flytja gamla playlista af iTunes yfir á Spotify með Astra. Svona svo eitthvað sé nefnt.

3. Dómsdagsspár um áhrif AI á vinnumarkaðinn hafa ekki ræst. Sum fyrirtæki hafa sagt upp fjölda starfsmanna samhliða innleiðingu gervigreindarmódela en neyðst til að ráða þá aftur þar sem módelin hafa ekki staðið undir væntingum. Eitt þessara fyrirækja er Meta, sem hefur varið milljörðum í þróun AI. Þá hafa kannanir leitt í ljós að fyrirtæki hafa dregið úr fjárfestingum í innleiðingu gervigreindar, þar sem stjórnendur hafa ekki getað réttlætt kostnaðinn. Bæði hefur gervigreindin ekki alls staðar stuðlað að aukinni framleiðni eins og lofað var, né hefur aukin framleiðni verið að skila sér í auknum hagnaði fyrir fyrirtækin.

4. Áhyggjur fara vaxandi af því að AI sé ein stór bóla sem sé við það að springa. Gervigreindarfyrirtækin hafa lagt í gríðarlegan kostnað við þróun módela sem hafa ekki verið að skila hagnaði. Sérfræðingar hafa bent á það hvernig fyrirtækin stunda það að „versla við“ hvort annað en þannig séu sömu fjármunirnir skráðir sem eign eða hagnaður hjá mörgum aðilum. Gott dæmi eru til að mynda fjárfestingar örflöguframleiðandans Nvidia í OpenAI og Anthropic, sem hafa skilað sér aftur í bækur fyrirtækisins þegar síðarnefndu nota peningana til að kaupa örflögur. Hringavitleysan, það er að segja peningatilfærslur í bókum fyrirtækjanna, hefur orðið til þess að stórauka virði þeirra á markaði en í dag er Nvidia annað af tveimur stærstu fyrirtækjum heims og virði gervigreindartengdra fyrirtækja 40 prósent af hlutabréfamarkaðnum vestanhafs.

5. Getgátur eru uppi um að áköll Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk og fleiri um að hægja á þróun AI tengist alls ekki mögulegum eða yfirvofandi hættum, heldur bólunni sem er við það að springa. Bæði OpenAI og Anthropic hafa unnið að skráningu á markað en Altman greindi frá því í vikunni að líklega yrði ekki af því á þessu ári. Samsæriskenningarnar ganga meðal annars út á að það sé að renna upp fyrir mönnum að þróun gervigreindarinnar sé komin á endastöð í núverandi mynd. Þrátt fyrir gríðarlegar fjárfestingar sé notkun hennar enn takmörkuð og frekari fjárútlát muni aldrei skila sér. Tilgangurinn með dómsdagsupphrópunum sé að réttlæta hægari þróun, á meðan menn átta sig og freista þess að draga úr væntingum og vinda ofan af þeim vanda sem þeir eru komnir í.

6. Umræðan um hættur gervigreindarinnar einkennist oftar en ekki af því að gervigreindin er gerð að einhvers konar illum „manneskjulegum“ útsendara. Aðila sem hugsar sjálfur og gengur einbeittur til verka. Gagnrýnendur benda á að þetta sé afar villandi en til þess gert að ýta undir hræðslu almennings. Gervigreindin sé í raun og veru ekkert annað en ný tækni, byggð á hugverkaþjófnaði og afar gjörn á að gera villur. Sérfræðingar á borð við Yann LeCun, sem hætti hjá Meta til að stofna sitt eigið gervigreindarfyrirtæki, segja til að mynda markmið um ASI, artificial superintelligence, aldrei munu nást með áframhaldandi þróun mállíkana.

7. Að öllu þessu sögðu er einnig vert að hafa í huga að gervigreindin nýtur ekki mikilla vinsælda meðal almennings og stjórnmálaspekingar gera ráð fyrir að ofurgagnaver verði eitt stærsta málið í kosningunum núna í nóvember og fyrir forsetakosningarnar árið 2028. Ljóst þykir að afar takmarkað traust ríkir gagnvart gervigreindarfyrirtækjunum, sem hafa gjörsamlega skitið upp á bak í almannatengslum. Til hvers eru þau að þróa AI, ef ógnirnar eru svona margar og alvarlegar og ávinningurinn takmarkaður?

8. Enginn hefur getað svarað því nákvæmlega hvernig gervigreindin mun stuðla að útrýmingu mannkynsins né heldur því hvernig þeir fá það út að líkurnar séu tíu, tuttugu og fimm eða allt að sextíu prósent. Donald Trump Bandaríkjaforseti, meðvitaður um áhrif mögulegs viðsnúnings á markaði vestanhafs, segir ekkert að óttast svo lengi sem hann sitji í Hvíta húsinu. Yfirvofandi eru viðræður milli Bandaríkjanna og Kína um þróun gervigreindarinnar og mögulegar alþjóðlegar aðgerðir til að tryggja öryggi hennar. Það verður forvitnilegt að sjá hvernig spilast úr þeim.

Höfundur er blaðamaður.