Goed om te weten: AI gaat 'hallucineren' van PDF's

Amerikaanse nieuwswebsite The Verge kwam laatst met een goede heads-up wanneer je met AI chatbots zoals ChatGPT werkt. Namelijk dat AI helemaal niet goed is in het lezen van PDF-bestanden, en daar onbetrouwbaar van wordt. Nu chatbots zoals ChatGPT en Claude steeds meer adverteren dat je allerlei soorten bestanden kunt voeren aan hun AI voor het stellen van vragen, is het goed om te weten dat deze LLM’s slecht gaan op PDF-bestanden. Kort gezegd komt dit vooral omdat PDF's ‘domme’ bestanden zijn waarin tekst wordt weergegeven als een afbeelding, en een ‘slimme’ techniek als AI hier niet mee om kan gaan. En wat doet AI wanneer het eigenlijk geen goed antwoord op je vraag weet? Dan geeft het dit niet toe, maar gaat het zelf een antwoord fabriceren, het zogeheten ‘hallucineren’. Zo lijkt het wel alsof hij een antwoord uit je document haalt, maar in werkelijkheid is zijn antwoord onbetrouwbaar. Ondertussen worden AI’s steeds slimmer, dus verwacht dat hier mettertijd een oplossing voor komt. Maar voor nu is het goed om te onthouden: vertrouw niet zomaar op ChatGPT of Claude wanneer het aankomt op PDF’jes. Hoe het precies zit, kun je lezen in dit artikel.