AI-chatbot Claude kan volledig boek binnen 1 minuut 'lezen'

Claude heeft nu een zogenoemd 'context window' van zo'n 75.000 woorden, meldt Anthropic. Dat context window is als het ware het kortetermijngeheugen van de chatbot, een extra stukje parate kennis waar de chatbot uit kan putten naast de eerder getrainde kennis van de kunstmatige intelligentie.

Een voorbeeld: Claude kan bijvoorbeeld een volledig boek binnen een minuut 'lezen' en kan daarna in normale taal over elk aspect van het boek vertellen. Dat is handig bij het analyseren van allerlei soorten teksten, maar ook bij gesprekken. Wie een langer gesprek voert met een chatbot, merkt namelijk na een aantal vragen dat het begin alweer wegvalt. De chatbot vergeet dan wat er in het begin van het gesprek is overlegd, waardoor een cirkelgesprek kan ontstaan.

Betekenis van woorden onthouden

De chatbot van Microsoft Bing, die werkt met ChatGPT, is bijvoorbeeld beperkt tot 20 vragen. Daarna kan de chatbot eerdere informatie vergeten, en kunnen vreemde en soms bijvoorbeeld kwetsende antwoorden ontstaan. Bij Claude ligt die grens nu vele malen hoger.

Ter vergelijking: Claude kan nu rond de 75.000 woorden in zijn 'parate geheugen' onthouden, terwijl die grens bij ChatGPT al rond de 3000 woorden ligt. Bij kunstmatige intelligentie wordt dat geheugen echter niet gemeten in woorden, maar in tokens: niet elk woord is immers even lang, bovendien gaat het vooral om de achterliggende betekenis.

Geen woorden maar tokens

AI meet woorden daarom in tokens, en Claude kan tot 100.000 tokens onthouden in zijn parate geheugen. Bij ChatGPT zijn dat 8000 tokens in de betaalde versie, of 32.000 tokens in de nog beperkte nieuwe versie GPT-4.

De nieuwe versie van Claude is momenteel alleen nog beschikbaar voor zakelijke partners van Anthropic. Het is niet openbaar hoeveel toegang tot Claude kost.

Google zou onlangs zo'n 400 miljoen dollar in Anthropic hebben geïnvesteerd. Google kwam onlangs met zijn eigen AI-chatbot Bard.