Naar aanleiding van recent onderzoek van Pointer, heeft Nu.nl een artikel geplaatst waarin ze nog even benadrukken waarom je AI chatbots (zogeheten Large Language Models) niet altijd moet vertrouwen. We zetten de belangrijkste redenen voor je op een rijtje: - AI chatbots zoals ChatGPT zijn getraind op basis van informatie op internet, en daar zit ook onzin tussen. Hoewel ze je antwoord geven op basis van de meest voorkomende gegevens, kan het niet altijd goed een afweging maken wat correct is. - Dit komt ook omdat AI chatbots getraind worden met ongefilterde data, ervan uitgaande dat het meest voorkomende antwoord wel correct zal zijn. Pas wanneer achteraf blijkt dat iets niet goed is, worden deze antwoorden eruit gefilterd. - Een AI chatbot geeft liever een foutief antwoord, dan geen antwoord. Deze drang om altijd een antwoord te willen geven zorgt voor zogeheten ‘hallucinaties’, oftewel, onzin antwoorden. - Pointer heeft met zijn recente onderzoek aangetoond dat ‘de bron vergiftigd wordt’. Dit betekent dat kwaadwillende (vaak Russische) propagandanetwerken bewust foutieve bronnen aanmaken (vaak honderden websites met miljoenen berichten) op internet waar de chatbots mee worden getraind. Zo kan er Russische propaganda in je chatbot antwoord terecht komen.
Hoe los je dit op? Het is natuurlijk hartstikke handig om even een vraag te stellen aan ChatGPT of Microsoft Copilot, maar we raden je aan om ook Google ernaast open te houden om het gegeven antwoord even te verifiëren. Zeker wanneer het voor je werk is, en het belangrijk is dat je antwoord klopt. Daarnaast kun je ChatGPT altijd vragen om zijn bronnen prijs te geven. Doe dit dan ook vooral, en klik daar altijd even op, om te zien of je het gegeven antwoord herkent in de opgegeven websites. Het kan zijn dat er bijvoorbeeld nuanceverschillen zit in de originele tekst en hoe de chatbot het interpreteert. AI chatbots zoals ChatGPT en Copilot kunnen je veel ondersteuning geven in je werk en tijd besparen, maar zorg er altijd voor dat je ze slim gebruikt en blijf op je hoede.
