Gervi­greind í ráðningum - stuðningur eða stað­gengill?

Við notkun gervigreindar í ráðningum er að ótal þáttum að huga. Í dag getur umsóknum einstaklinga um laus störf verið hafnað áður en nokkur manneskja hefur skoðað þær. Ástæða höfnunarinnar er ekki endilega skortur á hæfni einstaklings heldur mat gervigreindar sem flokkar umsóknir á örfáum sekúndum og ákveður hverjir komast áfram í ráðningarferlinu.

Fyrir vinnustaði er tímasparnaður og lægri kostnaður við ráðningar augljós kostur. Almenn gervigreind getur farið yfir hundruð umsókna á stuttum tíma, greint mynstur í ferilskrám og veitt stjórnendum stuðning við ákvarðanatöku. Hún getur því sannarlega sparað mikinn tíma og kostnað. En þegar ákvarðanir sem hafa áhrif á framtíð fólks eru teknar með stuðningi gervigreindar, vakna jafnframt mikilvægar spurningar um ábyrgð, sanngirni og traust.

Það er nefnilega alls ekki nóg að líta til þess hvernig gervigreindin geti einfaldað ráðningarferla heldur er mikilvægt að tryggja að henni sé beitt á ábyrgan hátt.

Ein stærsta áskorunin við notkun gervigreindar í ráðningum er að hún lærir af gögnum fortíðarinnar. Sem dæmi má nefna að ef vinnustaður hefur í gegnum tíðina ráðið starfsfólk með ákveðin einkenni oftar en aðra, t.d. Íslendinga á aldrinum 30-40 ára, er mjög líklegt að gervigreindin læri að tengja þau einkenni við kröfuna „bestu umsækjendur“, jafnvel þótt þau hafi engin tengsl við þá hæfni sem þarf í starfið. Þetta þarf ekki að vera vegna þess að tæknin sé gölluð. Niðurstöðurnar endurspegla einfaldlega þau gögn sem gervigreindin hefur úr að moða.

Umræðan um gervigreind í ráðningum á því alls ekki að snúast um hvort gervigreind geti metið umsóknir hraðar en fólk eða sparað fólki vinnu við mat á umsækjendum. Hún þarf að snúast um hvort hægt sé að treysta niðurstöðunum og á hverju þær eru byggðar.

Nýjar leikreglur

Evrópusambandið skilgreinir ráðningakerfi sem nota gervigreind á meðal þeirra kerfa sem geta haft hvað mest áhrif á grundvallarréttindi einstaklinga (e. High risk) í gervigreindarreglugerð sinni, AI Act. Þessi skilgreining leggur miklar skyldur á herðar þeirra sem þróa slík kerfi.

Á mörgum vinnustöðum hefur gervigreind verið innleidd með áherslu á skilvirkni og afköst. Með AI Act færist áherslan hins vegar yfir á ábyrgð, gagnsæi og rekjanleika. Hönnuðir kerfa eða verkferla sem nýta gervigreind við ráðningar þurfa að geta útskýrt hvernig niðurstöður verða til, sýnt fram á að markvisst sé unnið gegn mismunun og tryggt að mannlegt eftirlit með gervigreindinni sé til staðar.

Hafandi unnið að þróun ráðningarlausnar sem nýtir gervigreind hef ég komist að þeirri niðurstöðu að stærsta áskorunin snýst sjaldnast um tæknina sjálfa. Hún snýst um að skilja hvað við erum raunverulega að mæla þegar við metum og pörum einstaklinga við störf og hvernig við tryggjum að niðurstöðurnar séu bæði sanngjarnar og marktækar og síðast en ekki síst, skili betri ráðningum en áður.

Þeir sem þróa og innleiða gervigreindarlausnir fyrir ráðningar þurfa því bæði að skilja tæknina en ekki síst þau sálfræðilegu og faglegu sjónarmið sem liggja að baki góðum ráðningum. Ábyrgðin felst ekki aðeins í því að byggja kerfi sem getur unnið úr gögnum, heldur að tryggja að niðurstöðurnar séu rekjanlegar, gagnsæjar og studdar viðurkenndum aðferðum við mat á persónubundnum eiginleikum fólks sem raunverulega skipta máli við árangur í starfi.

Þegar gervigreind er notuð til að meta umsækjendur verður sérþekking í mannauðsmálum, ráðningum og mælingum á hæfni ekki síður mikilvæg en tæknileg þekking. Annars er hætt við að hraðinn aukist á kostnað gæðanna.

Réttindi umsækjenda

Þessu til viðbótar gleymast þeir einstaklingar sem verið er að meta oft í umræðunni um gervigreind í ráðningum. Umsækjendur eru ekki einfaldlega gögn í kerfi heldur fólk með lögvarin réttindi. Þeir eiga rétt á að vita þegar gervigreind er notuð við mat á umsóknum þeirra. Þeir eiga einnig rétt á upplýsingum um hvernig niðurstöður verða til og að tryggt sé að mannleg aðkoma sé til staðar við ákvarðanatöku sem getur haft áhrif á starfsframa þeirra.

Mikilvægi þess að leggja áherslu á ofangreint fer ekki síður vaxandi í ljósi þess að traust verður sífellt stærri þáttur í upplifun fólks á ráðningaferlinu. Umsækjendur sætta sig skiljanlega síður við að fá neikvæða niðurstöðu ef engar skýringar fylgja eða ef óljóst er hvernig matið fór fram.

Frá ferilskrá yfir í persónubundið mat

Ferilskrár og kynningarbréf eru enn og hafa lengi verið grundvöllur gagna við ráðningar. Þau segja þó fyrst og fremst sögu um fortíðina, sögu sem átti sér stað í ólíku umhverfi, verkefnum og teymi og í dag segja þau jafnvel sögu sem rituð er af gervigreind. Slík gögn veita því mjög takmarkaða innsýn í möguleika einstaklings til að ná árangri í tilteknu hlutverki, innan ákveðins teymis eða starfsumhverfis.

Vitneskjan um óáreiðanleika þessara gagna eykur enn mikilvægi þess að styðja niðurstöður gervigreindar með sjálfstæðum og sannreyndum mælitækjum sem meta hæfni, getu og persónubundna eiginleika á stöðugan hátt.

Slík nálgun er líklegust til að auka nákvæmni ráðninga og draga úr hættu á að niðurstöður gervigreindar byggist á takmörkuðum gögnum, gömlum skekkjum eða hlutdrægni. Hún gerir stjórnendum jafnframt kleift að byggja ákvarðanir sínar á fleiri þáttum en þeim upplýsingum sem koma fram í ferilskrá eða þeim mynstrum sem gervigreind greinir í sögulegum gögnum. Áhrif persónubundinna þátta hafa stöðugt sterkari áhrif á gæði ráðninga og eru mælanlegir með sannreyndum hætti án þess að gervigreind skekki niðurstöður.

Þar liggur að mínu mati eitt stærsta tækifærið við mönnun starfa, að nýta gervigreind ekki sem staðgengil mannlegrar dómgreindar, heldur sem öflugt verkfæri sem með sannreyndum matstækjum styður við hlutlægara, faglegra og réttlátara mat á fólki, óháð bakgrunni. Slík nálgun jafnar ekki aðeins aðgengi fólks að störfum heldur minnkar þá gífurlegu sóun sem felst í vannýttum mannauði í hagkerfinu.

Traust verður samkeppnisforskot

Vinnustaðir sem geta sýnt fram á gagnsæi, sanngirni og rekjanleika í ráðningum munu njóta aukins trausts frá umsækjendum, stjórnendum og öðrum aðilum atvinnulífsins.

Á sama tíma munu vinnustaðir sem treysta á óskýrar eða illa skjalfestar lausnir standa frammi fyrir aukinni lagalegri- og orðsporsáhættu.

Samkeppnisforskot framtíðarinnar felst því ekki í því hver notar mestu gervigreindina heldur hver getur best sýnt fram á að henni sé treystandi.

Höfundur er stofnandi og framkvæmdastjóri Opus Futura.