Nauðsynlegt að fólk fái úrræði til að vernda sig frá djúpfölsunum Hólmfríður Gísladóttir skrifar 8. ágúst 2025 06:51 Eins og sakir standa eru einstaklingar nokkuð úrræðalausir gagnvart djúpfölsunum, sem nánast hver sem er getur framleitt með gervigreindinni. Hjördís Halldórsdóttir, hæstaréttarlögmaður og formaður Höfundarréttarfélags Íslands, segir að forvitnilegt verði að fylgjast með þróun frumvarps sem nú liggur fyrir í Danmörku, þar sem tryggja á einstaklingum höfundarréttinn að eigin persónu og rödd. Hvaða leiðir sem verða fyrir valinu sé ljóst að breyta verði lögum til að taka á mögulegri misnotkun með aðstoð gervigreindar. Vísir greindi frá því á dögunum að stjórnvöld í Danmörku hygðust bregðast við aukningu í fölsuðum myndum og myndskeiðum vegna framþróunar gervigreindar með því að tryggja einstaklingum réttinn yfir eigin persónu og rödd. Eins og sakir standa er afar auðvelt að búa til myndir og myndskeið sem sýna raunverulegar persónur í óraunverulegum aðstæðum en erfitt fyrir einstaklinga að leita réttar síns. Breytingunum er ætlað að tryggja að einstaklingar geti krafist þess að vefsíður og miðlar fjarlægi falsað efni þar sem viðkomandi kemur við sögu. Þá er gert ráð fyrir því að þeim verði gert kleift að sækja bætur. Hjördís segir að forvitnilegt verði að fylgjast með málinu þar sem höfundarréttur hafi hingað til ekki náð yfir persónur heldur það sem hún kallar andleg sköpunarverk. Markmiðið sé að tryggja einstaklinga og vernda gegn djúpfölsunum og borðleggjandi að huga að réttindum fólks, þótt það sé ekki endilega á grundvelli höfundarréttarlaga. Danir virðist í raun ætla að nýta sér Evrópulöggjöf, svokallað Digital Services Act, til að taka á málum. „Sú löggjöf, sem að verður einhvern tímann innleidd á Íslandi, færir miklu meiri ábyrgð á til dæmis samfélagsmiðla og Google og aðra slíka að fjarlægja efni að viðlagðri ábyrgð. Þar með talið höfundarréttarefni,“ segir Hjördís. „Og það er í raun fyrst og fremst þetta sem ég held að Danir séu að hugsa til; að fólk fái sterk úrræði til þess að vernda sjálft sig gegn djúpfölsunum þar sem verið er að notast við þeirra ímynd.“ Löggjöfin muni mögulega miða að því að vernda meira en bara einstaklinga sem slíka, heldur sé ekki síður þörf á því að vernda stofnanir, ef svo má að orði komast, til að mynda ráðamenn sem nú er hægt að láta syngja og dansa að vild með aðstoð gervigreindar. Og segja hvað sem er. Hjördís segir gervigreindina kalla á breytta löggjöf, hvernig sem það verður gert. Íslendingar hafi til að mynda hingað til reitt sig á persónuverndarlöggjöfina og lög um friðhelgi einkalífsins en það dugi varla til. „Það er alveg góðra gjalda vert að vera með sérstök ákvæði, í hvaða lögum sem það er, sem veitir okkur meiri vernd þegar kemur að misnotkun eigin ímyndar og raddar,“ segir Hjördís. „Það er alveg full þörf á því.“ Höfundar- og hugverkaréttur Gervigreind Persónuvernd Mest lesið Sveitarstjórn reyni að skrá íbúa úr sveitarfélaginu og ógni grundvallarréttindum Innlent Lögregla kölluð til eftir að bremsuvírar voru klipptir á reiðhjólum barna Innlent Skoða að efla geðheilbrigðisþjónustu á Austurlandi eftir röð áfalla Innlent Hleypur 110 kílómetra á dag til að setja heimsmet Innlent Kjölur ekki á dagskrá Innlent Fólk deili lyfseðlum og „míkródósi“: „Við getum ekki réttlætt þá meðferð“ Innlent Lögregla hafi hlaupið á sig á Siglufirði: „Þetta eru einstök prúðmenni“ Innlent „Mér hefur aldrei verið sýnd jafn mikil vanvirðing“ Innlent Ástand á stúdentagörðum: Ítrekuð innbrot, mat stolið, dýnur í kjallara og hland á gólfi Innlent Starfsfólk Alcoa vilji setja fyrirtækinu mörk Innlent Fleiri fréttir Sveitarstjórn reyni að skrá íbúa úr sveitarfélaginu og ógni grundvallarréttindum Skoða að efla geðheilbrigðisþjónustu á Austurlandi eftir röð áfalla Kjölur ekki á dagskrá Lögregla kölluð til eftir að bremsuvírar voru klipptir á reiðhjólum barna Hleypur 110 kílómetra á dag til að setja heimsmet Fólk deili lyfseðlum og „míkródósi“: „Við getum ekki réttlætt þá meðferð“ Deila lyfseðlum fyrir þyngdarstjórnunarlyf og undankeppni HM hefst Starfsfólk Alcoa vilji setja fyrirtækinu mörk Lögregla hafi hlaupið á sig á Siglufirði: „Þetta eru einstök prúðmenni“ Ætla að rannsaka meint undirboð á kísilmálmi „Mér hefur aldrei verið sýnd jafn mikil vanvirðing“ Hélt eiginkonu og fimm börnum í heljargreipum Breyta Korpuskóla til að anna eftirspurn í Klettaskóla Vegabætur á Vestfjörðum opni tækifæri í vetrarferðamennsku Vilja aðgerðir strax Ástand á stúdentagörðum: Ítrekuð innbrot, mat stolið, dýnur í kjallara og hland á gólfi „Geta verið dauðsföll, þú veist ekkert hvað er í þessu“ Öllum börnum undir sex mánaða boðin forvörn gegn RS veiru Vildu fá að vita hvort ríkisstyrkir hefðu farið í málsóknir gegn orkuframkvæmdum Vara við ólöglegum megrunarlyfjum sem eru í umferð Konan er fundin Sextán ára kveikti í herbergi sínu Þremur sleppt úr haldi og brotaþoli útskrifaður „Það kemur að því að við lendum í veseni“ Ekki hægt að þaga þegar stjórnmálamenn leika sér að því að særa fram tröllin 252,6 milljónir runnið í ríkissjóð úr dánarbúum án lögerfingja á tíu árum Þrjú söfn í eina sæng Yfirgefið hreysi víkur fyrir hundrað íbúðum Líkamsárás á gistiheimili „Ekkert óeðlilegt við það að endurskoða þetta kerfi“ Sjá meira
Hvaða leiðir sem verða fyrir valinu sé ljóst að breyta verði lögum til að taka á mögulegri misnotkun með aðstoð gervigreindar. Vísir greindi frá því á dögunum að stjórnvöld í Danmörku hygðust bregðast við aukningu í fölsuðum myndum og myndskeiðum vegna framþróunar gervigreindar með því að tryggja einstaklingum réttinn yfir eigin persónu og rödd. Eins og sakir standa er afar auðvelt að búa til myndir og myndskeið sem sýna raunverulegar persónur í óraunverulegum aðstæðum en erfitt fyrir einstaklinga að leita réttar síns. Breytingunum er ætlað að tryggja að einstaklingar geti krafist þess að vefsíður og miðlar fjarlægi falsað efni þar sem viðkomandi kemur við sögu. Þá er gert ráð fyrir því að þeim verði gert kleift að sækja bætur. Hjördís segir að forvitnilegt verði að fylgjast með málinu þar sem höfundarréttur hafi hingað til ekki náð yfir persónur heldur það sem hún kallar andleg sköpunarverk. Markmiðið sé að tryggja einstaklinga og vernda gegn djúpfölsunum og borðleggjandi að huga að réttindum fólks, þótt það sé ekki endilega á grundvelli höfundarréttarlaga. Danir virðist í raun ætla að nýta sér Evrópulöggjöf, svokallað Digital Services Act, til að taka á málum. „Sú löggjöf, sem að verður einhvern tímann innleidd á Íslandi, færir miklu meiri ábyrgð á til dæmis samfélagsmiðla og Google og aðra slíka að fjarlægja efni að viðlagðri ábyrgð. Þar með talið höfundarréttarefni,“ segir Hjördís. „Og það er í raun fyrst og fremst þetta sem ég held að Danir séu að hugsa til; að fólk fái sterk úrræði til þess að vernda sjálft sig gegn djúpfölsunum þar sem verið er að notast við þeirra ímynd.“ Löggjöfin muni mögulega miða að því að vernda meira en bara einstaklinga sem slíka, heldur sé ekki síður þörf á því að vernda stofnanir, ef svo má að orði komast, til að mynda ráðamenn sem nú er hægt að láta syngja og dansa að vild með aðstoð gervigreindar. Og segja hvað sem er. Hjördís segir gervigreindina kalla á breytta löggjöf, hvernig sem það verður gert. Íslendingar hafi til að mynda hingað til reitt sig á persónuverndarlöggjöfina og lög um friðhelgi einkalífsins en það dugi varla til. „Það er alveg góðra gjalda vert að vera með sérstök ákvæði, í hvaða lögum sem það er, sem veitir okkur meiri vernd þegar kemur að misnotkun eigin ímyndar og raddar,“ segir Hjördís. „Það er alveg full þörf á því.“
Höfundar- og hugverkaréttur Gervigreind Persónuvernd Mest lesið Sveitarstjórn reyni að skrá íbúa úr sveitarfélaginu og ógni grundvallarréttindum Innlent Lögregla kölluð til eftir að bremsuvírar voru klipptir á reiðhjólum barna Innlent Skoða að efla geðheilbrigðisþjónustu á Austurlandi eftir röð áfalla Innlent Hleypur 110 kílómetra á dag til að setja heimsmet Innlent Kjölur ekki á dagskrá Innlent Fólk deili lyfseðlum og „míkródósi“: „Við getum ekki réttlætt þá meðferð“ Innlent Lögregla hafi hlaupið á sig á Siglufirði: „Þetta eru einstök prúðmenni“ Innlent „Mér hefur aldrei verið sýnd jafn mikil vanvirðing“ Innlent Ástand á stúdentagörðum: Ítrekuð innbrot, mat stolið, dýnur í kjallara og hland á gólfi Innlent Starfsfólk Alcoa vilji setja fyrirtækinu mörk Innlent Fleiri fréttir Sveitarstjórn reyni að skrá íbúa úr sveitarfélaginu og ógni grundvallarréttindum Skoða að efla geðheilbrigðisþjónustu á Austurlandi eftir röð áfalla Kjölur ekki á dagskrá Lögregla kölluð til eftir að bremsuvírar voru klipptir á reiðhjólum barna Hleypur 110 kílómetra á dag til að setja heimsmet Fólk deili lyfseðlum og „míkródósi“: „Við getum ekki réttlætt þá meðferð“ Deila lyfseðlum fyrir þyngdarstjórnunarlyf og undankeppni HM hefst Starfsfólk Alcoa vilji setja fyrirtækinu mörk Lögregla hafi hlaupið á sig á Siglufirði: „Þetta eru einstök prúðmenni“ Ætla að rannsaka meint undirboð á kísilmálmi „Mér hefur aldrei verið sýnd jafn mikil vanvirðing“ Hélt eiginkonu og fimm börnum í heljargreipum Breyta Korpuskóla til að anna eftirspurn í Klettaskóla Vegabætur á Vestfjörðum opni tækifæri í vetrarferðamennsku Vilja aðgerðir strax Ástand á stúdentagörðum: Ítrekuð innbrot, mat stolið, dýnur í kjallara og hland á gólfi „Geta verið dauðsföll, þú veist ekkert hvað er í þessu“ Öllum börnum undir sex mánaða boðin forvörn gegn RS veiru Vildu fá að vita hvort ríkisstyrkir hefðu farið í málsóknir gegn orkuframkvæmdum Vara við ólöglegum megrunarlyfjum sem eru í umferð Konan er fundin Sextán ára kveikti í herbergi sínu Þremur sleppt úr haldi og brotaþoli útskrifaður „Það kemur að því að við lendum í veseni“ Ekki hægt að þaga þegar stjórnmálamenn leika sér að því að særa fram tröllin 252,6 milljónir runnið í ríkissjóð úr dánarbúum án lögerfingja á tíu árum Þrjú söfn í eina sæng Yfirgefið hreysi víkur fyrir hundrað íbúðum Líkamsárás á gistiheimili „Ekkert óeðlilegt við það að endurskoða þetta kerfi“ Sjá meira