Vilja tryggja að hægt sé að óvirkja gervi­greindina

Umræða um innleiðingu svokallaðs „kill switch“, það er að segja úrræðis til að gera gervigreindarforrit óvirk, hefur aukist samfara miklum framförum tækninnar. Það sem gerði hins vegar útslagið fyrir þingmennina var tilkynning OpenAI þess efnis að eitt módela fyrirtækisins hefði brotist undan stjórn og ráðist inn í kerfi annars fyrirtækis.

Löggjöfin sem þingmennirnir leggja til felur í sér valdheimild til handa öryggisyfirvöldum, sem myndi gera þeim kleift að skipa einkafyrirtæki að „slökkva“ á módeli eða forriti. Þá myndu fyrirtækin verða skikkuð til að hanna öll sín forrit þannig að hægt væri að grípa inn í, „svæfa“ þau eða slökkva á þeim.

Mörg gervigreindarfyrirtækjanna hafa þegar skuldbundið sig til að deila upplýsingum með stjórnvöldum og leyfa þeim að prófa forrit áður en þau fara á markað en þau eru ekki skyld til þess að geta slökkt á þeim, að minnsta kosti ekki enn sem komið er.

Málið er gríðarstórt og ekki útséð um mögulegar útfærslur en innleiðing gervigreindar í mikilvæga innviði og hin ýmsu opinberu kerfi er þegar hafin út um allan heim, án þess að menn hafi hugað sérstaklega að því hvað gerist ef taka þarf tæknina „úr sambandi“.

Frumvarpið nýtur stuðnings stofnana á borð við The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead og The Alliance for Secure AI.