Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Hvar er stjarna Framsóknarflokksins í síðustu kosningum núna? „Barnaverndarpáfinn“! Davíð Bergmann Skoðun Opið bréf til samninganefnda KÍ og SÍS Guðrún Eik Skúladóttir Skoðun Hvenær ætlarðu að flytja heim? Jón Þór Kristjánsson Skoðun Leikskólaverkfall - slæmur draumur Jóhanna Dröfn Stefánsdóttir Skoðun Verstu kennarar í heimi Gígja Bjargardóttir Skoðun Hefðbundnar og lögmætar hvalveiðar Heiðrún Lind Marteinsdóttir,Vilhjálmur Birgisson,Árni Sverrisson Skoðun Ólögmæt sóun skattfjár Markús Ingólfur Eiríksson Skoðun Vertu ekki að plata mig Helgi Brynjarsson Skoðun Ertu karlmaður á miðjum aldri á breytingarskeiðinu? Gunnar Dan Wiium Skoðun Svalur, Valur og Hvalur Þorvaldur Logason Skoðun Skoðun Skoðun Meira fyrir minna: Bætt nýting opinberra fjármuna Álfrún Tryggvadóttir skrifar Skoðun Ný Ölfusárbrú – af hverju svona brú? Guðmundur Valur Guðmundsson skrifar Skoðun Friðhelgar fótboltabullur Hjálmtýr Heiðdal skrifar Skoðun Sex af níu flokkum á móti hvalveiðum Valgerður Árnadóttir skrifar Skoðun Allt fyrir listina Brynhildur Björnsdóttir skrifar Skoðun Tryggjum nýliðun bændastéttarinnar Þórdís Bjarnleifsdóttir skrifar Skoðun Óskalisti minn SIgurlín Margrét Sigurðardóttir skrifar Skoðun Aukin stuðningur við ferðasjóð íþróttafélaga dregur úr ójöfnuði Hannes S. Jónsson skrifar Skoðun Það er þetta með traustið Helga Sigrún Harðardóttir skrifar Skoðun Plan Samfylkingar: Svona náum við niður vöxtunum Jóhann Páll Jóhannsson skrifar Skoðun 6000 íbúðirnar sem vantar - í boði borgarinnar Áslaug Arna Sigurbjörnsdóttir skrifar Skoðun Samvinnufélög - sóknarfæri á húsnæðismarkaði? Elín H. Jónsdóttir,Guðrún Johnsen skrifar Skoðun Kæri oddviti Samfylkingarnar í Reykjavíkurkjördæmi suður Kristinn Karl Brynjarsson skrifar Skoðun Það er enginn á vakt Áslaug Ýr Hjartardóttir skrifar Skoðun Svalur, Valur og Hvalur Þorvaldur Logason skrifar Skoðun Opið bréf til samninganefnda KÍ og SÍS Guðrún Eik Skúladóttir skrifar Skoðun Ungt fólk og þörfin fyrir skjótar aðgerðir í menntun Fannar Logi Waldorff Sigurðsson skrifar Skoðun Mikilvægasta launaviðtalið Bessí Þóra Jónsdóttir skrifar Skoðun Leikskólaverkfall - slæmur draumur Jóhanna Dröfn Stefánsdóttir skrifar Skoðun Burt með baráttusöngva úr virkjunarkafla stóriðjustefnunnar Andrés Ingi Jónsson skrifar Skoðun Örugg skref Samfylkingar í geðheilbrigðismálum Alma Möller,Elín Anna Baldursdóttir,Sævar Már Gústavsson skrifar Skoðun Meiri árangur…fyrir útvalda Aðalheiður Marta Steindórsdóttir skrifar Skoðun Ertu karlmaður á miðjum aldri á breytingarskeiðinu? Gunnar Dan Wiium skrifar Skoðun Hvenær ætlarðu að flytja heim? Jón Þór Kristjánsson skrifar Skoðun Verndum íslenskuna- líka á Alþingi Íslendinga Helga Dögg Sverrisdóttir skrifar Skoðun Ungt fólk er meira en bara meme og sketsar á TikTok Skúli Bragi Geirdal skrifar Skoðun Hefðbundnar og lögmætar hvalveiðar Heiðrún Lind Marteinsdóttir,Vilhjálmur Birgisson,Árni Sverrisson skrifar Skoðun Vertu ekki að plata mig Helgi Brynjarsson skrifar Skoðun 11.11. - Aldrei aftur stríð Sveinn Rúnar Hauksson skrifar Skoðun Velferðarsamfélag í anda jafnaðarmennskunnar Kristján Þórður Snæbjarnarson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Hvar er stjarna Framsóknarflokksins í síðustu kosningum núna? „Barnaverndarpáfinn“! Davíð Bergmann Skoðun
Hefðbundnar og lögmætar hvalveiðar Heiðrún Lind Marteinsdóttir,Vilhjálmur Birgisson,Árni Sverrisson Skoðun
Skoðun Kæri oddviti Samfylkingarnar í Reykjavíkurkjördæmi suður Kristinn Karl Brynjarsson skrifar
Skoðun Örugg skref Samfylkingar í geðheilbrigðismálum Alma Möller,Elín Anna Baldursdóttir,Sævar Már Gústavsson skrifar
Skoðun Hefðbundnar og lögmætar hvalveiðar Heiðrún Lind Marteinsdóttir,Vilhjálmur Birgisson,Árni Sverrisson skrifar
Hvar er stjarna Framsóknarflokksins í síðustu kosningum núna? „Barnaverndarpáfinn“! Davíð Bergmann Skoðun
Hefðbundnar og lögmætar hvalveiðar Heiðrún Lind Marteinsdóttir,Vilhjálmur Birgisson,Árni Sverrisson Skoðun