Forsvarsmenn OpenAI kalla eftir Alþjóðagervigreindarstofnun Hólmfríður Gísladóttir skrifar 24. maí 2023 07:12 Margir sjá fyrir sér að ofurgreind gæti tortímt mannkyninu en ógnirnar eru í raun mun fleiri og lúmskari. Stofnendur og stjórnendur OpenAI, sem eru að þróa gervigreindarforritið ChatGPT, kalla eftir því að komið verði á laggirnar stofnun á borð við Alþjóðakjarnorkumálastofnunina til að vernda mannkynið frá því að þróa „ofurgáfaða“ gervigreind sem gæti tortímt mannkyninu. Í ávarpi á vefsíðu fyrirtækisins kalla stofnendurnir Greg Brockman og Ilya Sutskever og framkvæmdastjórinn Sam Altman eftir því að alþjóðasamfélagið hefji vinnu við að rannsaka hvernig draga megi úr „tilvistarlegri áhættu“ gervigreindar með eftirliti, öryggisstöðlum og takmörkunum. Stjórnendur OpenAI segja mögulegt að á næstu tíu árum muni gervigreind taka fram úr sérfræðikunnáttu mannsins á flestum sviðum. Þetta muni hafa kosti og galla í för með sér en ofurgreind muni verða öflugasta tæknin sem maðurinn hefur nokkurn tímann þurft að fást við. Þeir segja gervigreindina munu opna á fordæmalausa hagsæld en tilvistarleg ógn geri það að verkum að grípa þurfi til forvarna. Til skemmri tíma ættu fyrirtæki sem eru leiðandi í þróun gervigreindar að taka sig saman um samfélagslega aðlögun með öryggi að leiðarljósi. Initial ideas for governance of superintelligence, including forming an international oversight organization for future AI systems much more capable than any today: https://t.co/9hJ9n2BZo7— OpenAI (@OpenAI) May 22, 2023 Center for AI Safety (CAIS) hefur tekið saman lista yfir mögulegar sviðsmyndir þar sem gervigreindin hefur fengið að þróast án eftirlits. Sérfræðingar stofnunarinnar sjá meðal annars fyrir sér að mannkynið gæti orðið algjörlega háð vélum og/eða að varanleg stéttskipting gæti orðið milli þess fámenna hóps sem á og stjórnar gervigreindinni og allra annara. Stjórnendur OpenAI segja því mikilvægt að fólk alls staðar í heiminum taki lýðræðislega ákvörðun um takmörk og umfang gervigreindarforrita. Þeir séu hins vegar ekki með svörin við því hvernig eigi að útfæra eftirlitið. Það sé ekki raunhæft að ætla að stöðva þróun gervigreindar, bæði vegna þess hversu jákvæðar breytingar hún muni hafa í för með sér en einnig vegna þess að maðurinn sé nú þegar komin á þá braut að gervigreindin sé það sem koma skal. Umfjöllun Guardian. Gervigreind Tækni Vísindi Mest lesið Eldur Smári segir að sér sé markvisst haldið í myrkrinu Innlent „Nú hættir þú Sigurður!“ Innlent Beittu neyðarstöðvun til að forðast árekstur við Herjólf Innlent Segir 60 mínútur hafa misst sjálfstæðið og hættir Erlent Beint flug milli Akureyrar og útlanda aldrei verið meira Innlent Valdatafl í Vatíkaninu: Hver verður næsti páfi? Erlent Sagður bjóða frið fyrir formlega eign á Krímskaga Erlent Úkraínufundinum í London frestað Erlent Frjálslyndir með forskot á lokaspretti kosningabaráttunni Erlent Mikil reiði eftir árásina í Kasmír Erlent Fleiri fréttir Eigandi Paramount með puttana í umfjöllun 60 mínútna Frjálslyndir með forskot á lokaspretti kosningabaráttunni Úkraínufundinum í London frestað Lík páfans flutt í Péturskirkju í dag Mikil reiði eftir árásina í Kasmír Segir 60 mínútur hafa misst sjálfstæðið og hættir Sagður bjóða frið fyrir formlega eign á Krímskaga Valdatafl í Vatíkaninu: Hver verður næsti páfi? Banað af hákörlum þar sem fólk hefur lengi synt með þeim Á þriðja tug látnir eftir árás á ferðamenn í Kasmír Meirihluti eftirlifenda helfararinnar hverfur næsta áratuginn Harvard stefnir Bandaríkjastjórn vegna þvingunaraðgerða hennar Leyniþjónustustjóri ber Netanjahú þungum sökum Drottningin lögð inn vegna veikinda Eldur í öðrum hreyfli vélar Delta í Flórída Útför páfans á laugardag Greint frá dánarorsök páfans Dánarorsök páfans talin vera heilablóðfall Trump styður Hegseth: Neitar að um trúnaðarbrest hafi verið að ræða Breskir þingmenn leggjast gegn því að Trump ávarpi þingið Skýrslan sé „full af lygum“ Leiðtogar minnast páfans Hvernig er nýr páfi valinn? Loftvarnarsírenur óma á ný eftir skammvinnt „vopnahlé“ Frans páfi er látinn Deildi hernaðarupplýsingum í öðru spjalli með konu sinni og bróður Segja samfélagsmiðla valda auknu kvenhatri og rasisma í skólum Ísraelsher játar „fagleg mistök“ í máli hjálparstarfsmannanna Samsetning lyfja gæti komið í veg fyrir þúsundir hjartaáfalla Páfinn fordæmdi gyðingahatur og ástandið á Gasa Sjá meira
Í ávarpi á vefsíðu fyrirtækisins kalla stofnendurnir Greg Brockman og Ilya Sutskever og framkvæmdastjórinn Sam Altman eftir því að alþjóðasamfélagið hefji vinnu við að rannsaka hvernig draga megi úr „tilvistarlegri áhættu“ gervigreindar með eftirliti, öryggisstöðlum og takmörkunum. Stjórnendur OpenAI segja mögulegt að á næstu tíu árum muni gervigreind taka fram úr sérfræðikunnáttu mannsins á flestum sviðum. Þetta muni hafa kosti og galla í för með sér en ofurgreind muni verða öflugasta tæknin sem maðurinn hefur nokkurn tímann þurft að fást við. Þeir segja gervigreindina munu opna á fordæmalausa hagsæld en tilvistarleg ógn geri það að verkum að grípa þurfi til forvarna. Til skemmri tíma ættu fyrirtæki sem eru leiðandi í þróun gervigreindar að taka sig saman um samfélagslega aðlögun með öryggi að leiðarljósi. Initial ideas for governance of superintelligence, including forming an international oversight organization for future AI systems much more capable than any today: https://t.co/9hJ9n2BZo7— OpenAI (@OpenAI) May 22, 2023 Center for AI Safety (CAIS) hefur tekið saman lista yfir mögulegar sviðsmyndir þar sem gervigreindin hefur fengið að þróast án eftirlits. Sérfræðingar stofnunarinnar sjá meðal annars fyrir sér að mannkynið gæti orðið algjörlega háð vélum og/eða að varanleg stéttskipting gæti orðið milli þess fámenna hóps sem á og stjórnar gervigreindinni og allra annara. Stjórnendur OpenAI segja því mikilvægt að fólk alls staðar í heiminum taki lýðræðislega ákvörðun um takmörk og umfang gervigreindarforrita. Þeir séu hins vegar ekki með svörin við því hvernig eigi að útfæra eftirlitið. Það sé ekki raunhæft að ætla að stöðva þróun gervigreindar, bæði vegna þess hversu jákvæðar breytingar hún muni hafa í för með sér en einnig vegna þess að maðurinn sé nú þegar komin á þá braut að gervigreindin sé það sem koma skal. Umfjöllun Guardian.
Gervigreind Tækni Vísindi Mest lesið Eldur Smári segir að sér sé markvisst haldið í myrkrinu Innlent „Nú hættir þú Sigurður!“ Innlent Beittu neyðarstöðvun til að forðast árekstur við Herjólf Innlent Segir 60 mínútur hafa misst sjálfstæðið og hættir Erlent Beint flug milli Akureyrar og útlanda aldrei verið meira Innlent Valdatafl í Vatíkaninu: Hver verður næsti páfi? Erlent Sagður bjóða frið fyrir formlega eign á Krímskaga Erlent Úkraínufundinum í London frestað Erlent Frjálslyndir með forskot á lokaspretti kosningabaráttunni Erlent Mikil reiði eftir árásina í Kasmír Erlent Fleiri fréttir Eigandi Paramount með puttana í umfjöllun 60 mínútna Frjálslyndir með forskot á lokaspretti kosningabaráttunni Úkraínufundinum í London frestað Lík páfans flutt í Péturskirkju í dag Mikil reiði eftir árásina í Kasmír Segir 60 mínútur hafa misst sjálfstæðið og hættir Sagður bjóða frið fyrir formlega eign á Krímskaga Valdatafl í Vatíkaninu: Hver verður næsti páfi? Banað af hákörlum þar sem fólk hefur lengi synt með þeim Á þriðja tug látnir eftir árás á ferðamenn í Kasmír Meirihluti eftirlifenda helfararinnar hverfur næsta áratuginn Harvard stefnir Bandaríkjastjórn vegna þvingunaraðgerða hennar Leyniþjónustustjóri ber Netanjahú þungum sökum Drottningin lögð inn vegna veikinda Eldur í öðrum hreyfli vélar Delta í Flórída Útför páfans á laugardag Greint frá dánarorsök páfans Dánarorsök páfans talin vera heilablóðfall Trump styður Hegseth: Neitar að um trúnaðarbrest hafi verið að ræða Breskir þingmenn leggjast gegn því að Trump ávarpi þingið Skýrslan sé „full af lygum“ Leiðtogar minnast páfans Hvernig er nýr páfi valinn? Loftvarnarsírenur óma á ný eftir skammvinnt „vopnahlé“ Frans páfi er látinn Deildi hernaðarupplýsingum í öðru spjalli með konu sinni og bróður Segja samfélagsmiðla valda auknu kvenhatri og rasisma í skólum Ísraelsher játar „fagleg mistök“ í máli hjálparstarfsmannanna Samsetning lyfja gæti komið í veg fyrir þúsundir hjartaáfalla Páfinn fordæmdi gyðingahatur og ástandið á Gasa Sjá meira