Hallucination risk
Hallucination risk betekent dat een AI systeem soms informatie kan geven die niet klopt, ook al lijkt het antwoord overtuigend of logisch. De informatie kan fout zijn, verzonnen details bevatten of gebaseerd zijn op verkeerde verbanden.
Wanneer is er een hallucination risk?
- Wanneer de AI geen toegang heeft tot echte bronnen of live data
- Wanneer er geen duidelijke informatie beschikbaar is
- Bij vragen over zeer recente informatie
- Als de vraag gaat over specifieke URL’s zonder verificatie
- Bij onduidelijke of vage vragen zonder genoeg context
- Wanneer er wordt gevraagd om statistieken of cijfers zonder bron
Daardoor kunnen antwoorden ontstaan die geloofwaardig lijken, maar eigenlijk niet juist zijn.
Bijvoorbeeld
Iemand vraagt naar de openingsuren van een winkel, maar de informatie online is verouderd of onduidelijk. Het systeem kan dan een antwoord geven dat logisch klinkt, maar niet correct is. Daardoor lijkt de informatie betrouwbaar, terwijl ze eigenlijk fout kan zijn.
Ontdek meer SEO-termen!