Ofskynjanir í Gervigreind: Hvernig forðumst við þær?

Fyrir stuttu var ég spurður spurningar sem sífellt fleiri velta fyrir sér: „Hvaða gervigreindarlíkan er best til að forðast rangar upplýsingar, eða svokallaðar ofskynjanir?“ og „Hvað get ég sem notandi gert til að lágmarka hættuna á þeim?“

Þetta eru mikilvægar spurningar. Gervigreind hefur orðið öflugt tæki í okkar daglega lífi, en eins og öll tækni hefur hún sínar takmarkanir. Ein sú helsta eru „ofskynjanir“ (e. hallucinations), þar sem gervigreindin býr til upplýsingar sem hljóma sannfærandi en eru í raun og veru rangar, villandi eða byggja ekki á neinum raunverulegum gögnum.

Hvaða líkön standa sig best?

Kapphlaupið um að þróa áreiðanlegustu gervigreindarlíkanin er stöðugt og niðurstöður breytast hratt. Meðfylgjandi mynd frá tæknifyrirtækinu Vectara, sem var síðast uppfærð í lok apríl 2025, gefur okkur þó góða innsýn í stöðuna eins og hún var þá. Hún sýnir lista yfir 25 þekkt líkön og hlutfall ofskynjana í svörum þeirra.

Samkvæmt þessari könnun eru líkön eins og Google Gemini-2.0-Flash-001, Google Gemini-2.0-Pro-Exp og OpenAI o3-mini-high meðal þeirra sem sýna lægsta hlutfall ofskynjana, eða undir 1%. Þetta sýnir gríðarlegar framfarir, en undirstrikar jafnframt að ekkert líkan er enn fullkomlega laust við þennan vanda.

Hvernig getur þú minnkað líkurnar á ofskynjunum?

Þó að val á líkani skipti máli, þá hefur þú sem notandi enn meiri áhrif á gæði svaranna. Með því að beita ákveðnum aðferðum geturðu dregið verulega úr hættunni á að fá rangar upplýsingar. Hér eru nokkur einföld en áhrifarík ráð:

1. Vertu nákvæm/ur í fyrirspurnum þínum. Óljósar eða almennar spurningar bjóða upp á meiri hættu á ofskynjunum. Í stað þess að spyrja: „Hvað er nýtt í kennslufræði?“ prófaðu að spyrja: „Hverjar eru helstu niðurstöður úr nýlegum rannsóknum á leiðsagnarmati til að styrkja nemendur í erfiðleikum með nám, samkvæmt vísindagreinum sem gefnar voru út á síðasta ári?“ Því meiri smáatriði og samhengi sem þú gefur, því betur getur gervigreindin unnið úr beiðninni á réttan hátt.

2. Biðja um heimildir. Þetta er ein mikilvægasta reglan. Vendu þig á að ljúka fyrirspurnum þínum á setningu eins og: „Vinsamlegast gefðu upp heimildir fyrir þessum upplýsingum“ eða „Geturðu vitnað í áreiðanlegar heimildir sem styðja þetta svar?“. Þetta gerir þér kleift að sannreyna upplýsingarnar sjálf/ur.

3. Spyrðu sömu spurningar á mismunandi vegu. Ef þú ert ekki viss um svarið, prófaðu að endurorða spurninguna eða spyrja fylgispurninga til að kanna hvort svarið haldist stöðugt. Ef gervigreindin byrjar að mótsagna sjálfa sig er það skýrt merki um að fara varlega.

4. Notaðu gervigreind sem upphafspunkt, ekki sem lokasvar. Líttu á gervigreind sem öflugan aðstoðarmann sem getur hjálpað þér að safna upplýsingum, búa til drög og fá nýjar hugmyndir. Fyrir mikilvægar ákvarðanir eða þegar nákvæmni skiptir öllu máli skaltu alltaf yfirfara og staðfesta upplýsingarnar með hefðbundnum aðferðum, svo sem með því að lesa frumheimildir eða ráðfæra þig við sérfræðinga.

Að lokum

Gervigreind er á hraðri og spennandi þróunarferð. Líkönin verða sífellt betri og áreiðanlegri. En lykillinn að ábyrgri og árangursríkri notkun liggur í samspili tækninnar og notandans. Með því að velja réttu verkfærin og beita gagnrýninni hugsun getum við nýtt okkur kosti gervigreindarinnar á sama tíma og við verjumst göllum hennar.