Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Fellur helsti stuðningsmaður menningarmála af þingi? Magnús Logi Kristinsson Skoðun „Við andlát manns lýkur skattskyldu hans“ Þórður Gunnarsson Skoðun Sjálfstæðismenn boða víst skattalækkanir á þá efnamestu Haukur V. Alfreðsson Skoðun Nýtanleg verðmætasköpun um allt land Jóhann Frímann Arinbjarnarson Skoðun Viltu borga 200 þús á mánuði eða 600 þús á mánuði af íbúðinni? Hildur Þórðardóttir Skoðun ESB kærir sig ekkert um Ísland í jólagjöf Ole Anton Bieltvedt Skoðun Íslenskufræðingurinn Sigmundur Davíð Hákon Darri Egilsson Skoðun Dýrkeyptur aðgangur Stella Guðmundsdóttir Skoðun Gerum betur Hilmar Björnsson Skoðun Við þurfum stjórnmálamenn sem skilja mikilvægi stærstu atvinnugreinar landsins Aðalheiður Ósk Guðmundsdóttir Skoðun Skoðun Skoðun Nýtanleg verðmætasköpun um allt land Jóhann Frímann Arinbjarnarson skrifar Skoðun Geðrænn vandi barna og ungmenna Eldur S. Kristinsson skrifar Skoðun Það er kominn verðmiði á fangelsið en hvað má ungmenni í alvarlegum vanda kosta? Davíð Bergmann skrifar Skoðun Hinn opni tékki samgöngusáttmálans – ljósastýring og Sundabraut Eiríkur S. Svavarsson skrifar Skoðun Eru sumir heppnari en aðrir? Anna Kristín Jensdóttir skrifar Skoðun Við þurfum stjórnmálamenn sem skilja mikilvægi stærstu atvinnugreinar landsins Aðalheiður Ósk Guðmundsdóttir skrifar Skoðun Kallað eftir fyrirsjáanleika í opinberum framkvæmdum Þorsteinn Víglundsson ,Jónína Guðmundsdóttir,Karl Andreassen skrifar Skoðun Sjálfstætt fólk Kristín Linda Jónsdóttir skrifar Skoðun Óstjórn í húsnæðismálum Ragnar Þór Ingólfsson skrifar Skoðun Arfur stjórnmálanna 2024 Elvar Eyvindsson skrifar Skoðun Kjósum rétt(indi) fyrir fatlað fólk! Unnur Helga Óttarsdóttir,Anna Lára Steindal skrifar Skoðun Frelsi er allra, ekki fárra útvaldra Jón Óskar Sólnes skrifar Skoðun Menntun og tækifæri: Hvað veljum við fyrir Ísland? Kolbrún Halldórsdóttir skrifar Skoðun Eyðimerkurganga kosningabaráttunnar? Viðar Hreinsson skrifar Skoðun Krónan eða evran? Kostir og gallar Hilmar Þór Hilmarsson skrifar Skoðun Kjóstu meiri árangur Bryndís Haraldsdóttir skrifar Skoðun Hvaða hlekkur ert þú í keðjunni? Ellý Tómasdóttir skrifar Skoðun Laxeldið verður ekki stöðvað Kristinn H. Gunnarsson skrifar Skoðun Þroskamerki þjóðar Tómas Torfason skrifar Skoðun Afvegaleidd umræða um áskoranir heilbrigðiskerfisins Áslaug Arna Sigurbjörnsdóttir skrifar Skoðun Var stytting náms til stúdentsprófs í þágu ungmenna? Sigurður E. Sigurjónsson skrifar Skoðun Það sem ekki má fjalla um fyrir kosningar til Alþingis Árni Jensson skrifar Skoðun Launafólk sýndi ábyrgð – Hvað með bankana og fjármagnseigendur? Finnbjörn A. Hermannsson skrifar Skoðun Sjálfstæðar konur? Sonja Ýr Þorbergsdóttir skrifar Skoðun Fullveldinu er fórnað með aðild að Evrópusambandinu Anton Guðmundsson skrifar Skoðun Endurhugsum dæmið, endurnýtum textíl Guðbjörg Rut Pálmadóttir skrifar Skoðun Betri Strætó 2025 og (svo) Borgarlína Dagur B. Eggertsson skrifar Skoðun Um kosningar, gulrætur og verðbólgu Jean-Rémi Chareyre skrifar Skoðun Gæti aukin einkavæðing og skólaval í grunnskólakerfinu bætt námsárangur og aukið jafnrétti? Jón Páll Haraldsson,Linda Heiðarsdóttir,Ómar Örn Magnússon skrifar Skoðun Fellur helsti stuðningsmaður menningarmála af þingi? Magnús Logi Kristinsson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Við þurfum stjórnmálamenn sem skilja mikilvægi stærstu atvinnugreinar landsins Aðalheiður Ósk Guðmundsdóttir Skoðun
Skoðun Það er kominn verðmiði á fangelsið en hvað má ungmenni í alvarlegum vanda kosta? Davíð Bergmann skrifar
Skoðun Hinn opni tékki samgöngusáttmálans – ljósastýring og Sundabraut Eiríkur S. Svavarsson skrifar
Skoðun Við þurfum stjórnmálamenn sem skilja mikilvægi stærstu atvinnugreinar landsins Aðalheiður Ósk Guðmundsdóttir skrifar
Skoðun Kallað eftir fyrirsjáanleika í opinberum framkvæmdum Þorsteinn Víglundsson ,Jónína Guðmundsdóttir,Karl Andreassen skrifar
Skoðun Afvegaleidd umræða um áskoranir heilbrigðiskerfisins Áslaug Arna Sigurbjörnsdóttir skrifar
Skoðun Launafólk sýndi ábyrgð – Hvað með bankana og fjármagnseigendur? Finnbjörn A. Hermannsson skrifar
Skoðun Gæti aukin einkavæðing og skólaval í grunnskólakerfinu bætt námsárangur og aukið jafnrétti? Jón Páll Haraldsson,Linda Heiðarsdóttir,Ómar Örn Magnússon skrifar
Við þurfum stjórnmálamenn sem skilja mikilvægi stærstu atvinnugreinar landsins Aðalheiður Ósk Guðmundsdóttir Skoðun