Fréttastofa RÚV

WhatsApp X (Twitter) Facebook Telegram Link

„Við erum að nota tækni sem við skiljum ekki að fullu“

Sífellt fleiri hafa áhyggjur af stjórnlausri þróun gervigreindar. Evrópusambandið hefur komið á fót vísindanefnd um gervigreind. Halldóra Mogensen, fyrrverandi þingmaður Pírata, er sérfræðingur í nefndinni. „Þetta er hópur óháðra sérfræðinga sem veitir framkvæmdastjórn Evrópusambandsins vísindalega og tæknilega ráðgjöf um áhættur og áhrif þessara gervigreindarkerfa,“ segir Halldóra. Stofnun nefndarinnar var hluti af gervigreindarlögum sambandsins. Gervigreindin gríðarlega gölluð Atvinnumissir, upplýsingastríð, sjálfvirk vopnakerfi og fleira eru hættur gervigreindar að sögn Halldóru. „Við erum að nota tækni sem við skiljum ekki að fullu. Það í sjálfu sér er gríðarmikið áhyggjuefni,“ segir hún. Stór tungumálalíkön eins og ChatGPT, Claude og Google Gemini, spái fyrir um mynstur en skilji ekki af hverju eða hvernig þau komast að niðurstöðu. „Þannig að þegar kemur að því að það verði einhver villa, ef eitthvað gerist sem á ekki að gerast, þá er ekki hægt að segja til um nákvæmlega hvað olli því eða skoða orsakasamhengið,“ útskýrir Halldóra. „Og þetta er ofboðslega alvarlegt, sérstaklega þegar við erum að hugsa um að innleiða þetta inn í stofnanir sem gera kröfu um gagnsæi, um rekjanleika og um ábyrgð. Þannig að þetta er eitt risastórt vandamál, að þessi gervigreind er gríðarlega gölluð.“ Halldóra segir óhugnalegt hvernig gervigreind sé notuð í stríðum, sérstaklega í ljósi þess hversu oft hún hafi rangt fyrir sér. Þar að auki geti gervigreindin framleitt ótrúlegt magn af bulli og lygum. Ekki fyrirtæki heldur heimsveldi Gervigreindinni fylgir líka ótrúleg samþjöppun valds að sögn Halldóru. „Í dag eru örfá fyrirtæki sem stjórna í sífellt meira mæli öllum þessum stafrænu innviðum sem við reiðum okkur á. Þetta færir tölvuvinnslu í risastór miðlæg gagnaver. Fyrir lítið land eins og Ísland er þetta sambærilegt umræðu um orkuöryggi eða fæðuöryggi.“ Örfá fyrirtæki keppist um að þróa öflugustu og bestu gervigreindina. „Þetta eru ekki bara fyrirtæki að keppast heldur eru þetta heimsveldi.“ Þetta geri það að verkum að varkárni og öryggissjónarmið víki fyrir hraðanum. „Og það gerir það að verkum að þessi fyrirtæki eru búin að fá einhvern veginn bara frjálsar hendur, mega algjörlega stýra þróun og innleiðingu gervigreindar og það vantar alla stefnumótun. Það vantar að svara þessari spurningu: Hvaða vandamál erum við að reyna að leysa með gervigreindinni? Til hvers erum við að innleiða þetta? Hvaða samfélag viljum við byggja? Hvernig á samfélagið okkar að líta út? Og þess vegna skiptir svo miklu máli að stjórnvöld stígi inn í og leiði einhvers konar lýðræðislegt samtal þar sem almenningur fær aðkomu að samtali,“ segir Halldóra. Gervigreind í dag ekki endastöð Hún telur það verða gríðarlega erfitt að draga úr þeim völdum sem tæknifyrirtækin hafa fengið í gegnum gervigreind. Það sé því mikilvægt að löggjafinn stígi inn í. Þá sé einnig mikilvægt að setja heildstæðan ramma utan um gervigreindina eins og Evrópusambandið sé að gera. „Og setja þessum fyrirtækjum dálítið stólinn fyrir dyrnar. Það verður að gera það út af því að við getum ekki leyft markaðsöflunum algjörlega að sjá um það að þróa og innleiða gervigreindina út af því að þá er líklegt að þessi þróun haldi áfram. Gervigreindin sem við notum í dag, þó að hún sé stórkostleg, er ekki endastöðin þegar kemur að þróun gervigreindar, segir Halldóra. Norðurlöndin geti verið leiðandi í þróun gervigreindar framtíðarinnar Hún segir fullt af grunnrannsóknum vera að eiga sér stað sem séu að þróa gervigreind sem sé gagnsæ, ábyrg og örugg, þurfi miklu minni reiknigetu, minni orku og sé sjálfbær og lýðræðisleg. „Þetta er einhver staður þar sem Norðurlöndin og Evrópa gætu verið leiðandi, talandi um hvaða kapphlaup við gætum átt forskot í, að það væri kapphlaupið að byggja þessa nýju tegund gervigreindar. En til þess þurfum við að setja fjármagn í grunnrannsóknir,“ segir Halldóra. „Við erum að henda endalausu fjármagni í núverandi tækni sem er stórgölluð. Við eigum að innleiða hana, að sjálfsögðu með varkárni og með öryggi og með opnum augum fyrir öllum göllunum og afleiðingunum. En á sama tíma þurfum við að efla grunnrannsóknir þannig að við getum farið að búa til nýja tegund gervigreindar sem getur þjónað samfélagi, mannfólki og lýðræðinu mun betur.“ Sérfræðingur í vísindanefnd ESB um gervigreind segir gervigreind dagsins í dag gríðarlega gallaða. Hún sé þó ekki endastöðin. Hún telur Evrópu og Norðurlöndin geta orðið leiðandi í þróun nýrrar og betri tegundar gervigreindar.

Google Play App Store