Deze week lanceerde OpenAI hun nieuwe ChatGPT model genaamd gpt-oss. Dit nieuwe model is vooral interessant omdat het ‘lokaal’ op je eigen laptop kan draaien, en omdat het volledig gratis is. Met name het feit dat het lokaal draait is belangwekkend, omdat dit een nieuwe stap is naar volledige privacyvriendelijkheid van ChatGPT. Je download de hele chatbot naar je computer, en er gaat geen data van de chatbot naar de servers van OpenAI wanneer je een vraag stelt. Daarmee is het een stukje interessanter geworden als je in een privacygevoelige sector werkt, zoals de zorg. Een fijne bijkomstigheid is dat het daardoor ook sneller werkt.
Dit nieuwe model moet vooral handig zijn voor het helpen met programmeren en complexe redenatie, door een toegepaste 'chain-of-thought' denkwijze. Dit nieuwe model is gelanceerd in twee types, namelijk gpt-oss-120b, de snelle high-end versie die het voornamelijk goed doet op zware computers, en het meer toegankelijke gpt-oss-20b, die geschikt is voor laptops met een werkgeheugen van 16 GB. Beide modellen zijn nu te downloaden op platforms als Microsoft Azure, AWS en Hugging Face.
