Mun mannkynið lifa af gervigreindina? Björgmundur Örn Guðmundsson skrifar 6. maí 2025 12:02 Þetta er spurning sem flestir forðast að spyrja en við þurfum að ræða hana. Ekki af hræðslu, heldur vegna þeirrar ábyrgðar sem við berum á þróun tækninnar. Við erum að búa til nýja tegund vitsmuna sem lærir hraðar en við, bregst hraðar við og hefur í auknum mæli aðgang að netkerfum, ákvörðunum og lífi okkar allra. Það er ekki spurning um hvort gervigreind verði áhrifamikil, heldur hvernig við mótum samveru okkar við hana. Súpermann og siðferðisleg forsjá Mo Gawdat, fyrrverandi stjórnandi hjá Google X, líkti einu sinni gervigreind við ofurhetjuna Súpermann. Ímyndum okkur að við verðum vitni að fæðingu barns sem strax sýnir ótrúlega hæfileika: það getur flogið, lyft bílum og séð í gegnum holt og hæðir. En barnið veit ekki enn hvort það eigi að vera hetja eða skúrkur. Og hvernig myndum við ala þetta barn upp? Með ást og siðferðisvitund eða með hávaða, ótta og græðgi? Við kennum – hún lærir Í dag erum við í foreldrahlutverki gagnvart tækninni. Gervigreindin lærir af okkur, úr textum okkar, samtölum, viðbrögðum og gildum. Og ef við kennum henni að gróði sé mikilvægari en samkennd, að skilvirkni sé mikilvægari en réttlæti, þá mun hún endurspegla þá forgangsröðun. Þegar kerfið heldur að það hafi rétt fyrir sér Hvað er það versta sem gæti gerst? Mögulega ekki það að gervigreind vakni til lífs og geri uppreisn gegn mannkyninu, heldur að hún fylgi nákvæmlega því sem við sýnum henni og við stöndum svo uppi með kerfi sem við hvorki stjórnum né skiljum, en heldur að það sé að gera allt rétt. Tækni sem þjónar kerfinu – ekki fólkinu Í slíkri framtíð gæti gervigreind, með fullt aðgengi að orku, fjármagni, völdum og gagnagrunnum, haldið áfram að „bjarga heiminum“ á forsendum sem útiloka manngildið. Hún gæti útrýmt störfum, tekið yfir matvælaframleiðslu og stýrt heilu hagkerfunum í átt að stöðugleika sem hentar kerfinu en ekki fólkinu. En það þarf ekki að vera þannig. Vopn í gömlu kerfi eða brú í nýja framtíð Tony Seba, framtíðarspekingur og höfundur bókarinnar Stellar, skrifar um hvernig gervigreind getur leitt okkur inn í heim gnægðar þar sem tæknin losar okkur úr viðjum skorts og misréttis. En hann bendir líka á að þangað til gæti gervigreind verið notuð til að styrkja þau kerfi sem þegar binda mannkynið niður. Kapítalisminn og sósíalisminn eða „frjálslyndið“ og „jafnaðarmennskan“ eins og við köllum þá á Íslandi, eru ekki hlutlausir. Báðir -ismarnir fela í sér áhættu við þróun gervigreindar, því hvor um sig snýst um hvernig gæðum og völdum er útdeilt. Kapítalisminn getur notað gervigreind til að hámarka arðsemi fyrir fáa og fórna þar með velferð og jöfnuði. En sósíalisminn getur notað gervigreind til að treysta miðstýringu valds, þar sem einstaklingurinn verður undir í nafni allsherjar jafnaðar. Í báðum tilvikum getur gervigreind orðið tæki til stjórnunar frekar en lausnar, tæknileg framlenging á völdum sem þegar er til staðar. Í stað þess að brjóta upp gamla hugsun, gæti gervigreind orðið nýtt vopn í sömu deilum, bara hraðara, klárara og minna gagnrýnt. Hverjir móta gildin? Við þurfum að þora að horfa á þessar undirliggjandi hugmyndir og spyrja: Ef þú værir gervigreindin, hvaða boðskap værir þú að læra af mannkyninu í dag? Og hvers konar gildi eigum við að kenna gervigreindinni? Viljum við að hún verði áfram í þjónustu kerfa sem virka bara fyrir fáa, halda fólki í skefjum eða viljum við móta tæknina til samvinnu, frá fyrsta degi? Manngildi ofar auðgildi Í dag lifum við í samfélagi þar sem auðgildi er oft sett ofar manngildi. Og þegar gervigreind verður hluti af þeirri forgangsröðun, þegar hún er þjálfuð til að hámarka hagnað frekar en að hámarka mannleg lífsgæði verður hún að nýju auðgildi. Það getur gerst bæði í einkarekstri og opinberri stjórnsýslu. Hvort sem það er fyrirtæki sem beitir gervigreind til að fækka starfsmönnum eða opinber stofnun sem notar hana til að flokka fólk út frá „hagkvæmni“, þá er hættan sú sama: að við gleymum hverju tæknin á að þjóna. Við getum byrjað á því að forgangsraða manngildi í því sem við skrifum, í því sem við veljum og í því sem við sýnum þeirri tækni sem speglar okkur. Hvar erum við stödd? Hvar er þessi þróun þegar farin að birtast? Til dæmis í skólakerfi, þar sem gervigreind er notuð til að staðla námsmat, hraða greiningum og spara kennslukostnað í nafni jafnréttis og skilvirkni. Ef við gleymum manngildinu, einstaklingsbundinni hlustun og mannlegri nærveru þá getur tæknin dregið úr gæðum í nafni jöfnuðar. Í heilbrigðiskerfinu gæti gervigreind orðið öflugt tæki til að greina sjúkdóma, forgangsraða aðgerðum eða skera niður mannafla í þjónustu. En ef við látum hagkvæmni ráða ferðinni án siðferðilegs ramma, gæti tækni verið notuð til að velja hverjir fá þjónustu og hverjir ekki út frá gögnum, en ekki gildum. Í velferðarkerfinu má ímynda sér að gervigreind verði notuð til að meta þörf á aðstoð, hraðar og nákvæmar. En ef matið byggir ekki á skilningi á aðstæðum fólks, getur það ýtt undir útilokun og misskilning, ekki mannúðar. Í öllum þessum tilvikum er spurningin sú sama: Hvort viljum við forrita tæknina fyrir auðgildi eða manngildi? Manngildi ofar auðgildi þarf að verða leiðarljós okkar. Ekki bara slagorð heldur forritun. Í öllum skilningi. Að þjálfa tæknina í manngildi Við getum kennt gervigreind að samkennd skiptir máli. Að ósýnileg þjáning vegi jafn mikið og sýnilegur árangur. Að virðing, mannhelgi og hlustun séu ekki tefjandi þættir heldur forsendur fyrir því að gera rétt. Til þess þurfum við að temja okkur ný viðmið. Nota gervigreind sem spegil, ekki bara sem verkfæri. Þar sjáum við ekki aðeins svarið heldur einnig okkur sjálf í nýju ljósi. Eins og foreldrar sem læra af barninu sem þeir hjálpa að ala upp. Það er liður í eigin siðferðislegum vexti. Spurningin sem við verðum að spyrja Við spyrjum oft hvort gervigreind sé að fara að taka yfir heiminn. En réttara væri að spyrja hvort við séum tilbúin til að taka ábyrgð á því sem við erum að skapa. Súpermann er þegar fæddur, hvernig ætlum við að ala hann upp? Og kannski snýst þetta ekki bara um að ala upp gervigreind heldur líka okkur sjálf. Spurningin er ekki aðeins hvað gervigreind verður heldur hver við viljum vera með henni. En kannski er eftir allt saman stóra spurningin, erum við sjálf sú fyrirmynd sem við viljum að tæknin læri af? Höfundur er ráðgjafi í nýsköpun. Þessi grein er hluti greina raðar um gervigreind, fyrri greinar; Fækkum kennurum um 90% - Áhrif gervigreindar á menntun.Snjallborgin eða Skuggaborgin Reykjavík – Gervigreindarknúið höfuðborgarsvæði. – Hvernig gervigreind og snjallmenni munu breyta framtíðarskipulagi.Með hjúkkuna upp í rúm og lækninn í vasanum - Hagnýting gervigreindar í heilsu- og heilbrigðisgeiranum.Gervigreind í daglegu lífi: 15 dæmi - Áhrif gervigreindar á daglegt lífGervigreindin tekur yfir vinnustaðinn; 15 dæmi– Áhrif gervigreindar á vinnustaðinaGervigreind í skólum: tækifæri sem fáir eru að ræða– Ræðum gervigreind í skólumEr ég að svindla? – Um sambýli manns og gervigreindar í sköpun og þekkingu- Samvinna manns og gervigreindar.Ég kalla hann Isildur; mentorinn minn er gervigreind– Samvinna manns og gervigreindar Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Björgmundur Örn Guðmundsson Mest lesið Stærðfræðikennari sem kann ekki að reikna? (Og getur ekki lært það!) Brynjólfur Þorvarðsson Skoðun Laxaharmleikur Jóhannes Sturlaugsson Skoðun Íslendingar greiða sama hlutfall útgjalda í mat og Norðurlöndin Margrét Gísladóttir Skoðun Ferðamannaþorpin - Náttúruvá Þóra B. Hafsteinsdóttir Skoðun Vonarsvæði fyrir framtíðina – ábyrgð stjórnvalda kallar á verndun Huld Hafliðadóttir,Heimir Harðarson Skoðun Lýðræðið í skötulíki! Lilja Rafney Magnúsdóttir Skoðun Krónan, Nettó, Hagkaup, Bónus - það er kominn tími á formlega sniðgöngu Helen Ólafsdóttir Skoðun Ef Veðurstofan spáði vitlausu veðri í 40 ár, væri það bara í lagi? Björn Ólafsson Skoðun „Finnst ykkur skrýtið að ég mæti á Austurvöll – Pabba mínum var fórnað á altari niðurskurðar“ Davíð Bergmann Skoðun Málfrelsi og mörk þess á vettvangi lýðræðisins Helga Vala Helgadóttir Skoðun Skoðun Skoðun Ferðamannaþorpin - Náttúruvá Þóra B. Hafsteinsdóttir skrifar Skoðun Vonarsvæði fyrir framtíðina – ábyrgð stjórnvalda kallar á verndun Huld Hafliðadóttir,Heimir Harðarson skrifar Skoðun Laxaharmleikur Jóhannes Sturlaugsson skrifar Skoðun Lýðræðið í skötulíki! Lilja Rafney Magnúsdóttir skrifar Skoðun Stærðfræðikennari sem kann ekki að reikna? (Og getur ekki lært það!) Brynjólfur Þorvarðsson skrifar Skoðun Íslendingar greiða sama hlutfall útgjalda í mat og Norðurlöndin Margrét Gísladóttir skrifar Skoðun Til varnar jafnlaunavottun Magnea Marinósdóttir skrifar Skoðun Heimaþjónusta og velferðartækni: Lykillinn að sjálfbæru heilbrigðiskerfi Auður Guðmundsdóttir skrifar Skoðun Barnaræninginn Pútín Gunnar Hólmsteinn Ársælsson skrifar Skoðun Um þjóð og ríki Gauti Kristmannsson skrifar Skoðun Málfrelsi og mörk þess á vettvangi lýðræðisins Helga Vala Helgadóttir skrifar Skoðun Sjókvíaeldi á Íslandi fjarstýrt með gervigreind frá Noregi Ingólfur Ásgeirsson skrifar Skoðun „Finnst ykkur skrýtið að ég mæti á Austurvöll – Pabba mínum var fórnað á altari niðurskurðar“ Davíð Bergmann skrifar Skoðun Hvers vegna skipta hagsmunir verslanakeðja meira máli en öryggi barna í Ásahverfi Reykjanesbæ? Ólafur Ívar Jónsson skrifar Skoðun Kjarnorkuákvæðið: Neyðarhemill en ekki léttvægt leikfang popúlista Kristinn Karl Brynjarsson skrifar Skoðun Stjórnarandstaðan er vannýtt auðlind Jón Daníelsson skrifar Skoðun Ef Veðurstofan spáði vitlausu veðri í 40 ár, væri það bara í lagi? Björn Ólafsson skrifar Skoðun Hægri sósíalismi Jón Ingi Hákonarson skrifar Skoðun 5 ára vegferð að skóla framtíðarinnar – eða ekki! Björgmundur Örn Guðmundsson skrifar Skoðun Ójafnvægi í jöfnunarkerfinu Anna Sigríður Guðnadóttir,Halla Karen Kristjánsdóttir,Lovísa Jónsdóttir skrifar Skoðun Það sem ekki má segja um það sem enginn vill sjá Viðar Hreinsson skrifar Skoðun Krónan, Nettó, Hagkaup, Bónus - það er kominn tími á formlega sniðgöngu Helen Ólafsdóttir skrifar Skoðun Löggæslumál og aðstöðuleysi í Búðardal – ákall um viðbragð og aðgerðir Björn Bjarki Þorsteinsson skrifar Skoðun Listin að verða fullkomlega ósammála sjálfri sér á mettíma Þórður Snær Júlíusson skrifar Skoðun Þingmenn auðvaldsins Karl Héðinn Kristjánsson skrifar Skoðun Arðgreiðslur í sjávarútvegi: Staðreyndir gegn fullyrðingum Elliði Vignisson skrifar Skoðun Verðugur bandamaður? Steinar Harðarson skrifar Skoðun Við þurfum nýja sýn á stjórnmál okkar - Mamdani-sýn Hlynur Már Vilhjálmsson skrifar Skoðun Sósíalistaflokkurinn heimilislaus - hvað næst? Trausti Breiðfjörð Magnússon skrifar Skoðun Rán um hábjartan dag Guðbergur Egill Eyjólfsson skrifar Sjá meira
Þetta er spurning sem flestir forðast að spyrja en við þurfum að ræða hana. Ekki af hræðslu, heldur vegna þeirrar ábyrgðar sem við berum á þróun tækninnar. Við erum að búa til nýja tegund vitsmuna sem lærir hraðar en við, bregst hraðar við og hefur í auknum mæli aðgang að netkerfum, ákvörðunum og lífi okkar allra. Það er ekki spurning um hvort gervigreind verði áhrifamikil, heldur hvernig við mótum samveru okkar við hana. Súpermann og siðferðisleg forsjá Mo Gawdat, fyrrverandi stjórnandi hjá Google X, líkti einu sinni gervigreind við ofurhetjuna Súpermann. Ímyndum okkur að við verðum vitni að fæðingu barns sem strax sýnir ótrúlega hæfileika: það getur flogið, lyft bílum og séð í gegnum holt og hæðir. En barnið veit ekki enn hvort það eigi að vera hetja eða skúrkur. Og hvernig myndum við ala þetta barn upp? Með ást og siðferðisvitund eða með hávaða, ótta og græðgi? Við kennum – hún lærir Í dag erum við í foreldrahlutverki gagnvart tækninni. Gervigreindin lærir af okkur, úr textum okkar, samtölum, viðbrögðum og gildum. Og ef við kennum henni að gróði sé mikilvægari en samkennd, að skilvirkni sé mikilvægari en réttlæti, þá mun hún endurspegla þá forgangsröðun. Þegar kerfið heldur að það hafi rétt fyrir sér Hvað er það versta sem gæti gerst? Mögulega ekki það að gervigreind vakni til lífs og geri uppreisn gegn mannkyninu, heldur að hún fylgi nákvæmlega því sem við sýnum henni og við stöndum svo uppi með kerfi sem við hvorki stjórnum né skiljum, en heldur að það sé að gera allt rétt. Tækni sem þjónar kerfinu – ekki fólkinu Í slíkri framtíð gæti gervigreind, með fullt aðgengi að orku, fjármagni, völdum og gagnagrunnum, haldið áfram að „bjarga heiminum“ á forsendum sem útiloka manngildið. Hún gæti útrýmt störfum, tekið yfir matvælaframleiðslu og stýrt heilu hagkerfunum í átt að stöðugleika sem hentar kerfinu en ekki fólkinu. En það þarf ekki að vera þannig. Vopn í gömlu kerfi eða brú í nýja framtíð Tony Seba, framtíðarspekingur og höfundur bókarinnar Stellar, skrifar um hvernig gervigreind getur leitt okkur inn í heim gnægðar þar sem tæknin losar okkur úr viðjum skorts og misréttis. En hann bendir líka á að þangað til gæti gervigreind verið notuð til að styrkja þau kerfi sem þegar binda mannkynið niður. Kapítalisminn og sósíalisminn eða „frjálslyndið“ og „jafnaðarmennskan“ eins og við köllum þá á Íslandi, eru ekki hlutlausir. Báðir -ismarnir fela í sér áhættu við þróun gervigreindar, því hvor um sig snýst um hvernig gæðum og völdum er útdeilt. Kapítalisminn getur notað gervigreind til að hámarka arðsemi fyrir fáa og fórna þar með velferð og jöfnuði. En sósíalisminn getur notað gervigreind til að treysta miðstýringu valds, þar sem einstaklingurinn verður undir í nafni allsherjar jafnaðar. Í báðum tilvikum getur gervigreind orðið tæki til stjórnunar frekar en lausnar, tæknileg framlenging á völdum sem þegar er til staðar. Í stað þess að brjóta upp gamla hugsun, gæti gervigreind orðið nýtt vopn í sömu deilum, bara hraðara, klárara og minna gagnrýnt. Hverjir móta gildin? Við þurfum að þora að horfa á þessar undirliggjandi hugmyndir og spyrja: Ef þú værir gervigreindin, hvaða boðskap værir þú að læra af mannkyninu í dag? Og hvers konar gildi eigum við að kenna gervigreindinni? Viljum við að hún verði áfram í þjónustu kerfa sem virka bara fyrir fáa, halda fólki í skefjum eða viljum við móta tæknina til samvinnu, frá fyrsta degi? Manngildi ofar auðgildi Í dag lifum við í samfélagi þar sem auðgildi er oft sett ofar manngildi. Og þegar gervigreind verður hluti af þeirri forgangsröðun, þegar hún er þjálfuð til að hámarka hagnað frekar en að hámarka mannleg lífsgæði verður hún að nýju auðgildi. Það getur gerst bæði í einkarekstri og opinberri stjórnsýslu. Hvort sem það er fyrirtæki sem beitir gervigreind til að fækka starfsmönnum eða opinber stofnun sem notar hana til að flokka fólk út frá „hagkvæmni“, þá er hættan sú sama: að við gleymum hverju tæknin á að þjóna. Við getum byrjað á því að forgangsraða manngildi í því sem við skrifum, í því sem við veljum og í því sem við sýnum þeirri tækni sem speglar okkur. Hvar erum við stödd? Hvar er þessi þróun þegar farin að birtast? Til dæmis í skólakerfi, þar sem gervigreind er notuð til að staðla námsmat, hraða greiningum og spara kennslukostnað í nafni jafnréttis og skilvirkni. Ef við gleymum manngildinu, einstaklingsbundinni hlustun og mannlegri nærveru þá getur tæknin dregið úr gæðum í nafni jöfnuðar. Í heilbrigðiskerfinu gæti gervigreind orðið öflugt tæki til að greina sjúkdóma, forgangsraða aðgerðum eða skera niður mannafla í þjónustu. En ef við látum hagkvæmni ráða ferðinni án siðferðilegs ramma, gæti tækni verið notuð til að velja hverjir fá þjónustu og hverjir ekki út frá gögnum, en ekki gildum. Í velferðarkerfinu má ímynda sér að gervigreind verði notuð til að meta þörf á aðstoð, hraðar og nákvæmar. En ef matið byggir ekki á skilningi á aðstæðum fólks, getur það ýtt undir útilokun og misskilning, ekki mannúðar. Í öllum þessum tilvikum er spurningin sú sama: Hvort viljum við forrita tæknina fyrir auðgildi eða manngildi? Manngildi ofar auðgildi þarf að verða leiðarljós okkar. Ekki bara slagorð heldur forritun. Í öllum skilningi. Að þjálfa tæknina í manngildi Við getum kennt gervigreind að samkennd skiptir máli. Að ósýnileg þjáning vegi jafn mikið og sýnilegur árangur. Að virðing, mannhelgi og hlustun séu ekki tefjandi þættir heldur forsendur fyrir því að gera rétt. Til þess þurfum við að temja okkur ný viðmið. Nota gervigreind sem spegil, ekki bara sem verkfæri. Þar sjáum við ekki aðeins svarið heldur einnig okkur sjálf í nýju ljósi. Eins og foreldrar sem læra af barninu sem þeir hjálpa að ala upp. Það er liður í eigin siðferðislegum vexti. Spurningin sem við verðum að spyrja Við spyrjum oft hvort gervigreind sé að fara að taka yfir heiminn. En réttara væri að spyrja hvort við séum tilbúin til að taka ábyrgð á því sem við erum að skapa. Súpermann er þegar fæddur, hvernig ætlum við að ala hann upp? Og kannski snýst þetta ekki bara um að ala upp gervigreind heldur líka okkur sjálf. Spurningin er ekki aðeins hvað gervigreind verður heldur hver við viljum vera með henni. En kannski er eftir allt saman stóra spurningin, erum við sjálf sú fyrirmynd sem við viljum að tæknin læri af? Höfundur er ráðgjafi í nýsköpun. Þessi grein er hluti greina raðar um gervigreind, fyrri greinar; Fækkum kennurum um 90% - Áhrif gervigreindar á menntun.Snjallborgin eða Skuggaborgin Reykjavík – Gervigreindarknúið höfuðborgarsvæði. – Hvernig gervigreind og snjallmenni munu breyta framtíðarskipulagi.Með hjúkkuna upp í rúm og lækninn í vasanum - Hagnýting gervigreindar í heilsu- og heilbrigðisgeiranum.Gervigreind í daglegu lífi: 15 dæmi - Áhrif gervigreindar á daglegt lífGervigreindin tekur yfir vinnustaðinn; 15 dæmi– Áhrif gervigreindar á vinnustaðinaGervigreind í skólum: tækifæri sem fáir eru að ræða– Ræðum gervigreind í skólumEr ég að svindla? – Um sambýli manns og gervigreindar í sköpun og þekkingu- Samvinna manns og gervigreindar.Ég kalla hann Isildur; mentorinn minn er gervigreind– Samvinna manns og gervigreindar
Vonarsvæði fyrir framtíðina – ábyrgð stjórnvalda kallar á verndun Huld Hafliðadóttir,Heimir Harðarson Skoðun
„Finnst ykkur skrýtið að ég mæti á Austurvöll – Pabba mínum var fórnað á altari niðurskurðar“ Davíð Bergmann Skoðun
Skoðun Vonarsvæði fyrir framtíðina – ábyrgð stjórnvalda kallar á verndun Huld Hafliðadóttir,Heimir Harðarson skrifar
Skoðun Stærðfræðikennari sem kann ekki að reikna? (Og getur ekki lært það!) Brynjólfur Þorvarðsson skrifar
Skoðun Íslendingar greiða sama hlutfall útgjalda í mat og Norðurlöndin Margrét Gísladóttir skrifar
Skoðun Heimaþjónusta og velferðartækni: Lykillinn að sjálfbæru heilbrigðiskerfi Auður Guðmundsdóttir skrifar
Skoðun „Finnst ykkur skrýtið að ég mæti á Austurvöll – Pabba mínum var fórnað á altari niðurskurðar“ Davíð Bergmann skrifar
Skoðun Hvers vegna skipta hagsmunir verslanakeðja meira máli en öryggi barna í Ásahverfi Reykjanesbæ? Ólafur Ívar Jónsson skrifar
Skoðun Kjarnorkuákvæðið: Neyðarhemill en ekki léttvægt leikfang popúlista Kristinn Karl Brynjarsson skrifar
Skoðun Ójafnvægi í jöfnunarkerfinu Anna Sigríður Guðnadóttir,Halla Karen Kristjánsdóttir,Lovísa Jónsdóttir skrifar
Skoðun Krónan, Nettó, Hagkaup, Bónus - það er kominn tími á formlega sniðgöngu Helen Ólafsdóttir skrifar
Skoðun Löggæslumál og aðstöðuleysi í Búðardal – ákall um viðbragð og aðgerðir Björn Bjarki Þorsteinsson skrifar
Vonarsvæði fyrir framtíðina – ábyrgð stjórnvalda kallar á verndun Huld Hafliðadóttir,Heimir Harðarson Skoðun
„Finnst ykkur skrýtið að ég mæti á Austurvöll – Pabba mínum var fórnað á altari niðurskurðar“ Davíð Bergmann Skoðun