Gervigreind býr til sannfærandi en röng svör
Ofsjónir í gervigreind (hallucinations) eru áfram eitt stærsta vandamál stórra tungumálalíkana (LLM). Þrátt fyrir að OpenAI segist hafa fundið skýringar á vandanum og leggja til „einfalda lausn,“ telja sérfræðingar að um sé að ræða gamalkunnan vanda sem ekki verður leystur á einni nóttu.
Hvatt til að giska fremur en viðurkenna óvissu
Samkvæmt nýrri rannsókn frá OpenAI eru líkönin þjálfuð til að giska þegar þau vita ekki svarið, þar sem hefðbundin matskerfi umbuna aðeins réttum svörum.
Þegar líkan segist einfaldlega ekki vita, fær það engu að síður neikvætt mat – og lærir því frekar að gefa rangt svar en að sýna varfærni.
„Ofsjónir viðhaldast vegna þess hvernig flest próf eru metin — tungumálalíkön eru þjálfuð til að vera góð í prófum, og að giska þegar óvissa ríkir bætir frammistöðu,“ segir í rannsókninni.
Ný nálgun: umbuna óvissu fremur en heppnu giski
OpenAI leggur til að umbunakerfið verði endurhannað:
Refsa skal „öruggum villum“ meira en óvissu.
Veita hlutaumbun þegar líkanið viðurkennir að það hafi ekki svar.
Að þeirra mati gæti þetta dregið verulega úr ofsjónum og aukið traust á niðurstöðum gervigreindar.
Sérfræðingar: lausnin of einföld
Mörg fræðirit hafa áður bent á sama vandamál og margir sérfræðingar vara við að lausnin sem OpenAI leggur til sé of einföld.
Ofsjónir hafa fylgt stórum tungumálalíkönum frá upphafi, og að kalla þau „blindgötu“ í þróun gervigreindar er talið of dramatískt.
Þó GPT-5 sé kynnt sem líkan sem haldi betur aftur af rangfærslum, hafa notendur lýst yfir óánægju og segja að vandinn sé enn mjög sýnilegur.
Vandinn ekki horfinn – hvað tekur við?
Niðurstaðan er sú að ofsjónir eru áfram grundvallaráskorun í þróun gervigreindar.
Lausnir eru til í orði, en hvort þær duga í verki á enn eftir að koma í ljós.
Iðnaðurinn mun líklega þurfa blöndu af aðferðum – s.s. öryggismati, ytri þekkingargrunni og umbun fyrir óvissu – til að tryggja áreiðanlegri niðurstöður.
