Fréttastofa RÚV

WhatsApp X (Twitter) Facebook Telegram Link

Heimildanotkun gervigreindar ábótavant í 43% tilfella

Fjölmargar spurningar hafa vaknað um ýmislegt sem tengist Evrópusambandinu og mögulegri aðild Íslands að undanförnu. Borið hefur á því að fjöldi fólks notar gervigreind, ólík spjallmenni, við upplýsingaöflun. Rætt er um áhrif þessara breytinga í fréttaskýringaþættinum Þetta helst. Dósent í tölvunarfræði segir úttekt sérfræðinga hafa leitt í ljós að í 43% tilfella hafi heimildanotkun gervigreindar um málefni sem tengjast þjóðaratkvæðagreiðslunni í ágúst verið ófullnægjandi. Spjallmennin greiði þó fyrir aðgang að upplýsingum. „Það getur verið gott því aðgengi að upplýsingum er mögulega greiðara,“ segir Hafsteinn Einarsson, dósent í tölvunarfræði og sérfræðingur í gervigreind, þegar hann er spurður að því hvort það sé góð þróun að fleiri noti spjallmenni við upplýsingaöflun í aðdraganda kosninga. Áður hafi fólk leitað að upplýsingum í leitarvél, skoðað heimildir og þannig vegið og metið efni vefsíðna. Nú notar fólk gervigreind í upplýsingaleit. „Þetta getur verið mjög gagnlegt vegna þess að þetta sparar okkur mikinn tíma. Hún finnur fljótlega svarið fyrir okkur en þegar við erum að tala um eitthvað eins og þessar mögulegu aðildarviðræður þá er þetta kannski talsvert flóknara mál. Það er ekkert endilega alltaf eitthvað eitt rétt svar við hverri spurningu,“ segir Hafsteinn. „Síðan geta svörin verið óáreiðanleg. Mögulega er búið að stilla upp einhverju svari við spurningu á einhverri heimasíðu og það er engin heimild sem styður þær staðhæfingar sem eru settar fram þar. Þá er svona spurning: er það óáreiðanleg heimild? Það er náttúrulega kannski bara mat hvers og eins hvort þeir treysta heimildinni eða ekki.“ Gerðu fjölmargar athugasemdir við heimildanotkun Hafsteinn segir að nýlega hafi verið kannað í Háskóla Íslands hvernig gervigreind gæti nýst á Evrópuvefnum, vefsíðu Háskólans sem á að veita hlutlægar, málefnalegar og trúverðugar upplýsingar um Evrópusambandið og mögulega aðild Íslands. Tvennt hafi verið skoðað. „Ein nálgun er svona þessi ábyrga nálgun eins og margir virðast beita þar sem við ákveðum fyrir fram hvaða heimildum við viljum treysta – þannig að við ætlum þá að treysta þeim heimildum sem eru til staðar á Evrópuvefnum og leyfa gervigreindinni einungis að vísa í þær heimildir. Hún geti flett upp í þeim heimildum sem eru til staðar og svarað spurningum út frá því. Vandamálið við þá nálgun er að oft koma kannski einhverjar spurningar sem þær heimildir geta ekki svarað. Það er að gerast í svona helmingi tilvika sem við erum að skoða.“ Þá var einnig kannað hver áhrif þess yrðu ef gervigreindarlíkaninu væri takmarkalaust leyft að leita heimilda á netinu. „Við vorum með fimm sérfræðinga sem fóru að lesa þá yfir svör frá gervigreindarlíkaninu. Þetta voru eitthvað um 277 spurningar sem við bjuggum til og þegar gervigreindin fékk svona spurningu fór hún að fletta upp á netinu, skrifaði svar og heimildalista út frá þeim heimildum sem hún hafði notað,“ segir Hafsteinn. Sérfræðingar lögðu í kjölfarið mat á áreiðanleika heimilda. „Í 43 prósent tilfella – þegar við vorum að skoða greinar þar sem búið var að styðjast við uppflettingu á netinu – þá var allavega ein heimild flögguð. Ástæðurnar fyrir því voru misjafnar,“ segir hann, og bendir til að mynda á rugling á frumheimild og tilvísunum, tilvísanir í skoðanagreinar og bloggsíður og vefsíður sem virtust skrifaðar af gervigreind. Telur umræðuna að mestu á rökum reista Fólk notar því bæði spjallmennin beint í leit að svörum um sambandið og mögulega aðild Íslands; en líka vefsíður sem þar sem gervigreind er notuð. Vefsíðan jaedanei.is hefur til að mynda vakið athygli en hún á – með notkun gervigreindar – að veita skýr svör, sem byggjast á alvöru heimildum, ekki tilfinningum, eins og segir á forsíðu. Í þessu samhengi má einnig nefna ESB vaktina, esbvaktin.is, sem er gagnadrifið verkefni þar sem fylgst er með umræðu um þjóðaratkvæðagreiðsluna. Fullyrðingar úr opinberri umræðu eru skráðar í gagnagrunn. Spjallmennið Claude skannar fullyrðingarnar og ber þær saman við staðreyndagögn; lagaákvæði, efnahagstölur, alþjóðleg fordæmi og opinbera afstöðu samtaka. Brynjólfur Gauti Guðrúnar Jónsson, tölfræðingur, hefur umsjón með verkefninu. „Ég er að búa til gagnasöfn, búa til söfn af réttum upplýsingum og gervigreindin sækir í það. Þetta er meira eins og einhvers konar forritunarkóði. Þetta er svona ný tegund af forritun. Gervigreindin er ekki að segja út frá eigin minni eða út frá einhverri stærðfræði sem hún er að gera bak við tjöldin, hvort eitthvað sé rétt eða rangt, heldur að bera saman við texta og heimildir,“ segir hann. Með notkun gervigreindar er Brynjólfi kleift að vega og meta fjölda fullyrðinga en líka fá einhverja heildarmynd af umræðunni. „Manni finnst það jákvætt að svona rúmlega 90 prósent af öllum fullyrðingum eru staðfestar eða að hluta. Í umræðunni er ekkert endilega verið að ljúga eða eitthvað. Það er verið að segja hluti sem eru réttir, allavega tæknilega séð.“ „Það sem mér hefur hins vegar fundist vanta, sem maður sér í gögnunum, er að það er eiginlega bara verið að ræða örfá málefni. Ég sé hérna að 40 prósent af öllum staðreyndum eru um fullveldi og svona löggjafa atriði. Svo hefur kannski að hluta til verið talað um fiskveiðistjórnun, 15 prósent,“ segir hann. Gagnlegt tól en þurfum að vera gagnrýnin Gervigreind getur þannig vitaskuld verið stoðsending fyrir upplýst samfélag þó að fara þurfi varlega í að treysta henni alfarið. „Við eigum auðvitað að líta á þetta sem gagnlegt tól, sem þetta sannarlega er, en við þurfum að vera gagnrýnin á þessar upplýsingar eins og upplýsingar í öllu umhverfi okkar,“ segir Skúli Bragi Geirdal, sérfræðingur í miðlalæsi. „Ég held að það sé ofboðslega gott að nýta þetta til þess að reyna að greiða aðeins úr stórum og flóknum málum. Hjálpa okkur að ná einhvern veginn utan um það. Við eigum ekki að treysta á einhvern einn stað þegar við erum að leita okkur upplýsinga. Það að nota gervigreindina ásamt því að leita af efni fjölmiðla, leita í alls konar aðrar staðreyndavaktir, inn á efni Vísindavefsins sem dæmi, inn á aðrar traustar síður, þá erum við kannski farin að ná utan um það. Þetta er í raun bara mjög öflug og góð viðbót í okkar umhverfi en kemur sannarlega ekki í staðinn fyrir annað manngert efni,“ segir hann. Nánar er rætt um þessi mál í Þetta helst. Finna má þáttinn í spilara hér að ofan.

Google Play App Store