Onlangs brachten we het nieuws dat OpenAI een Search versie heeft gelanceerd van de populaire chatbot ChatGPT, een nieuwe editie die ook recente bronnen ‘live’ op het internet doorzoekt. Aan de hand van nieuwe informatie raden we echter af om ChatGPT Search te gebruiken als een belangrijke bron van informatie.
De Universiteit van Columbia heeft namelijk onderzoek gedaan naar de accuraatheid van de app, en concludeert dat ChatGPT Search in maar liefst 77% van de onderzochte gevallen een antwoord bracht dat niet of niet volledig klopte, of de verkeerde bronnen aan een citaat hing. De universiteit zegt dan ook dat het foute antwoorden ‘met overtuiging brengt’.
Een probleem van zogenoemde ‘Large Language Models’ zoals ChatGPT is momenteel nog dat ze altijd een antwoord geven op je vraag, ook wanneer het eigenlijk niet gevonden kan worden. In zulke gevallen ‘hallucineren’ ze bepaalde onderdelen van een antwoord. En dat zie je ChatGPT Search dus met enige regelmaat doen, aldus de Universiteit van Columbia.
ChatGPT Search is nog maar de eerste versie van deze nieuwe ‘live zoekende’ AI bot, dus het kan goed dat OpenAI de tool verder ontwikkeld en accurater maakt. Maar voor nu is het dus belangrijk altijd de gegeven bronnen even te checken.
Je vindt het hele artikel van de Universiteit van Columbia hier.