Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Til þeirra sem fagna Sigurður Gísli Bond Snorrason Skoðun Stöðvum helvíti á jörðu Birna Þórarinsdóttir,Bjarni Gíslason,Gísli Rafn Ólafsson,Sigríður Schram,Stella Samúelsdóttir,Tótla I. Sæmundsdóttir Skoðun Tekist á um hvort lýðræðið á Íslandi sé virkt eða hvort hefðaréttur sé á völdum Þórður Snær Júlíusson Skoðun Orðhengilsháttur og lygar Elín Erna Steinarsdóttir Skoðun Óboðlegt ástand á Landspítala – okkar sjónarhorn Hildur Jónsdóttir,Einar Freyr Ingason,Þórir Bergsson Skoðun Hversu mikið er nóg? Guðríður Eldey Arnardóttir Skoðun Að semja er ekki veikleiki – það er forsenda lýðræðis Elliði Vignisson Skoðun Sumar og sól – en ekki alltaf sátt í sálinni Ellen Calmon Skoðun Þetta eru ekki eðlileg vinnubrögð Bryndís Haraldsdóttir Skoðun Geislameðferð sem lífsbjörg Ingibjörg Isaksen Skoðun Skoðun Skoðun Kúnstin að vera ósammála sjálfum sér Heiða Ingimarsdóttir skrifar Skoðun Óboðlegt ástand á Landspítala – okkar sjónarhorn Hildur Jónsdóttir,Einar Freyr Ingason,Þórir Bergsson skrifar Skoðun Geislameðferð sem lífsbjörg Ingibjörg Isaksen skrifar Skoðun Þetta eru ekki eðlileg vinnubrögð Bryndís Haraldsdóttir skrifar Skoðun Stöðvum helvíti á jörðu Birna Þórarinsdóttir,Bjarni Gíslason,Gísli Rafn Ólafsson,Sigríður Schram,Stella Samúelsdóttir,Tótla I. Sæmundsdóttir skrifar Skoðun Hversu mikið er nóg? Guðríður Eldey Arnardóttir skrifar Skoðun Til þeirra sem fagna Sigurður Gísli Bond Snorrason skrifar Skoðun Að semja er ekki veikleiki – það er forsenda lýðræðis Elliði Vignisson skrifar Skoðun Tekist á um hvort lýðræðið á Íslandi sé virkt eða hvort hefðaréttur sé á völdum Þórður Snær Júlíusson skrifar Skoðun Sumar og sól – en ekki alltaf sátt í sálinni Ellen Calmon skrifar Skoðun Að flokka hver vinnur og hver tapar Tryggvi Rúnar Brynjarsson skrifar Skoðun Hagur hluthafanna alltaf og undantekningarlaust í forgangi Jón Kaldal skrifar Skoðun Má berja blaðamenn? Sigríður Dögg Auðunsdóttir skrifar Skoðun Nýr rektor og 2025 – tímamót í háskólamálum Ástráður Eysteinsson,Magnús Karl Magnússon,Margrét Helga Ögmundsdóttir,Tinna Laufey Ásgeirsdóttir skrifar Skoðun Vonir um vopnahlé eins og hálmstrá Sveinn Rúnar Hauksson skrifar Skoðun Samfélagið innan samfélagsins Sigríður Svanborgardóttir skrifar Skoðun Til hamingju Íslendingar með nýja Óperu Andri Björn Róbertsson skrifar Skoðun Hvers vegna hatar SFS smábáta? Svarið tengist veiðigjöldum Kjartan Páll Sveinsson skrifar Skoðun „Oft er flagð undir fögru skinni“ Guðmunda G. Guðmundsdóttir skrifar Skoðun Orðhengilsháttur og lygar Elín Erna Steinarsdóttir skrifar Skoðun Fjögurra daga vinnuvika – nýr veruleiki? Sigvaldi Einarsson skrifar Skoðun Ráðherra gengur fram án laga Svanur Guðmundsson skrifar Skoðun Hagkvæmur kostur utan friðlands Jóna Bjarnadóttir skrifar Skoðun Gagnsæi og inntak Halldóra Lillý Jóhannsdóttir skrifar Skoðun Sumargjöf Þórunn Sigurðardóttir skrifar Skoðun Hannað fyrir miklu stærri markaði Hjörtur J. Guðmundsson skrifar Skoðun Grafarvogur framtíðar verður til Sara Björg Sigurðardóttir skrifar Skoðun Málþófið um veiðigjöldin vekur miskunnsama Samverja Sigurjón Þórðarson skrifar Skoðun Menntastefna 2030 Guðmundur Ingi Kristinsson skrifar Skoðun Ágætu fyrrum samstarfsaðilar á Þjóðminjasafni Íslands Uggi Jónsson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Stöðvum helvíti á jörðu Birna Þórarinsdóttir,Bjarni Gíslason,Gísli Rafn Ólafsson,Sigríður Schram,Stella Samúelsdóttir,Tótla I. Sæmundsdóttir Skoðun
Tekist á um hvort lýðræðið á Íslandi sé virkt eða hvort hefðaréttur sé á völdum Þórður Snær Júlíusson Skoðun
Óboðlegt ástand á Landspítala – okkar sjónarhorn Hildur Jónsdóttir,Einar Freyr Ingason,Þórir Bergsson Skoðun
Skoðun Óboðlegt ástand á Landspítala – okkar sjónarhorn Hildur Jónsdóttir,Einar Freyr Ingason,Þórir Bergsson skrifar
Skoðun Stöðvum helvíti á jörðu Birna Þórarinsdóttir,Bjarni Gíslason,Gísli Rafn Ólafsson,Sigríður Schram,Stella Samúelsdóttir,Tótla I. Sæmundsdóttir skrifar
Skoðun Tekist á um hvort lýðræðið á Íslandi sé virkt eða hvort hefðaréttur sé á völdum Þórður Snær Júlíusson skrifar
Skoðun Nýr rektor og 2025 – tímamót í háskólamálum Ástráður Eysteinsson,Magnús Karl Magnússon,Margrét Helga Ögmundsdóttir,Tinna Laufey Ásgeirsdóttir skrifar
Stöðvum helvíti á jörðu Birna Þórarinsdóttir,Bjarni Gíslason,Gísli Rafn Ólafsson,Sigríður Schram,Stella Samúelsdóttir,Tótla I. Sæmundsdóttir Skoðun
Tekist á um hvort lýðræðið á Íslandi sé virkt eða hvort hefðaréttur sé á völdum Þórður Snær Júlíusson Skoðun
Óboðlegt ástand á Landspítala – okkar sjónarhorn Hildur Jónsdóttir,Einar Freyr Ingason,Þórir Bergsson Skoðun