Het belangrijkste om te onthouden over alle Large Language Models is deze zin uit dat stukje: "Grote taalmodellen weten niets. Ze voorspellen wat plausibel klinkt."
Hierbij kan het natuurlijk helpen als onderwerpen heel uitgebreid beschreven zijn in de trainingsdata omdat het model veel heeft om mee te werken en de neurale paden waarschijnlijk goed ingesleten zijn. De kans dat er dan onzin wordt gehallucineerd is vele malen kleiner, zeker als de vragen die gesteld worden niet te veel de frontiers opzoekt waar meer onzekerheden en speculatie zijn en waardoor de kwaliteit van de output ook omlaag dendert. Het probleem met die LLMs is dat ze hun antwoorden zelf altijd helemaal perfect vinden, omdat ze inderdaad letterlijk niet weten waar ze over praten. Ze zullen dus met dezelfde stellige zekerheid wetenschappelijke waarheden reproduceren als dat ze volslagen lariekoek produceren. Voor de gebruiker ligt er dan ook een belangrijke taak om de uitkomsten te checken, zeker naarmate deze 'spectaculairder' worden (zoals bij hobby wetenschappers die denken dat ze een doorbraak hebben geforceerd in een of ander taai onderwerp en daarbij worden aangemoedigd door een totaal niet-kritische chatbot).
Hierbij kan het natuurlijk helpen als onderwerpen heel uitgebreid beschreven zijn in de trainingsdata omdat het model veel heeft om mee te werken en de neurale paden waarschijnlijk goed ingesleten zijn. De kans dat er dan onzin wordt gehallucineerd is vele malen kleiner, zeker als de vragen die gesteld worden niet te veel de frontiers opzoekt waar meer onzekerheden en speculatie zijn en waardoor de kwaliteit van de output ook omlaag dendert. Het probleem met die LLMs is dat ze hun antwoorden zelf altijd helemaal perfect vinden, omdat ze inderdaad letterlijk niet weten waar ze over praten. Ze zullen dus met dezelfde stellige zekerheid wetenschappelijke waarheden reproduceren als dat ze volslagen lariekoek produceren. Voor de gebruiker ligt er dan ook een belangrijke taak om de uitkomsten te checken, zeker naarmate deze 'spectaculairder' worden (zoals bij hobby wetenschappers die denken dat ze een doorbraak hebben geforceerd in een of ander taai onderwerp en daarbij worden aangemoedigd door een totaal niet-kritische chatbot).
Laatst gewijzigd:
