Naast de bekende chat-interfaces zoals Claude en ChatGPT, is het ook mogelijk om deze modellen aan te roepen via je eigen computer. Er zijn apps zoals AnythingLLM waar je je persoonlijke API key kunt invoeren en met de modellen kunt werken. Let wel, dat is niet gratis. Het is niet duur, maar hou er rekening mee dat je een creditcard nodig hebt om hiermee aan de slag te gaan.

Ik test deze dagen ook de command-line tool van Simon Willison, met de originele naam LLM :-) Voorgaande link geeft je tientallen blogpost van Simon met achtergrond, uitleg en voorbeelden van de tool. Als je bekent bent met de commandline en terminal, probeer LLM eens.

In de Anthropic console (Claude) kun je API keys aanmaken per project, app of hoe je het wilt gebruiken.

Lijst met API-sleutels weergegeven op een donker achtergrond object is een lijst actie is dat apparaten beoordelingen toont context is een interface voor technische toepassingen

Zo krijg je een overzicht hoe je de verschillende keys gebruikt en waar je credits heen gaan.

Een grafiek toont het dagelijks gebruik van tokens met oplopende balken in verschillende kleuren en tijdslabels van begin november in een digitale interface.

De tokens die je naar een LLM stuurt en weer ontvangt, die kosten geld. Met de LLM Pricing Calculator kan ik berekenen dat de tokens in bovenstaand screenshot me welgeteld 15 dollarcent hebben gekost. Ik heb voor dat geld audio laten uitschrijven en tientallen vragen via AnythingLLM gesteld. Heel oktober heeft me zo nog geen 50 cent gekost.

Ik ben erg benieuwd naar de mogelijkheden van de LLM tool, met name de plugins die er al zijn.