Er zijn veel aanbieders van Large Language Models (LLM’s) die ook allemaal een eigen API hebben, voor toegang vanaf uiteenlopende applicaties. OpenRouter brengt veel van deze AI-modellen samen. Je koopt credits vooraf en kunt via één enkele API, die van OpenRouter, de gewenste modellen gebruiken. OpenRouter biedt ook inzicht in de prijzen van de verschillende modellen, zodat je zelf een afweging kunt maken wat het beste model is, afhankelijk van je budget en gewenste prestaties.
Wat kun je er mee?
Er zijn veel manieren om met taalmodellen te werken. Chatbots als ChatGPT van OpenAI en Claude van Anthropic gebruik je veelal via een browser of app. Maar OpenAI en Anthropic hebben ook een API, die andere toepassingen in staat stelt de taalmodellen te gebruiken. En dan zijn er ook nog talloze alternatieve taalmodellen, onder meer in de wereld van open-source.
Met OpenRouter kun je vrijwel alle relevante taalmodellen gebruiken, via de website of de universele API. Daarvoor schaf je wat credits aan. Als het saldo laag wordt kun je dit aanvullen. Er is dus geen abonnement nodig.
Voor veel taalmodellen zijn beschikbaar via meerdere aanbieders, wat de beschikbaarheid ten goede komt.
Beperkingen
Wil je vooral een specifiek model gebruiken, zoals Claude 3.5 Sonnet, een zeer populair model bij OpenRouter? Dan kun je wellicht beter toegang regelen via de aanbieder, in dit geval Anthropic. Bij gebruik van OpenRouter gaan de verzoeken via de servers van OpenRouter, wat voor een klein beetje vertraging zorgt (ook wel latency genoemd). Ook zijn er wat extra kosten.
Voor toegang betaal je de standaardtarieven die door OpenRouter zijn vastgesteld voor elk model. Deze tarieven kunnen variëren afhankelijk van het model en de provider. Je betaalt een toeslag voor het kopen van credits, waarover verderop meer.
Account maken
De eerste stap is het maken van een account. Zonder account zijn je mogelijkheden erg beperkt. Hiervoor klik je rechtsboven op Sign in en dan Sign up. Log in via Google of vul een e-mailadres en wachtwoord in. Lees de gebruiksvoorwaarden en zet een vinkje bij het vakje dat je hiermee akkoord gaat. Bevestig je e-mailadres via de link die je in je inbox ontvangt.
Credits toevoegen
Log in en ga via je profielafbeelding rechtsboven naar Credits, of ga direct naar https://openrouter.ai/credits. Hier kun je credits aanschaffen via de optie Add Credits. De eerste keer moet je je adresgegevens invullen en een betaalmethode kiezen, zoals een creditcard. In het vervolg kun je eenvoudiger credits kopen.
Let er op dat je een toeslag betaalt bij het kopen van credits. Voor de door OpenRouter gebruikte betaalprovider Stripe betaal je 5% plus $0,35 extra kosten.
Modellen bekijken
Als je op de website naar Models gaat kun je zien welke taalmodellen je via OpenRouter kunt gebruiken. Via de filters aan de linkerkant kun je dit wat verfijnen, om beter te vinden wat je nodig hebt. Op deze manier kun je, met het filter Prompt pricing, ook alle gratis modellen zichtbaar te maken.
Onder Rankings zie je wat de populairste taalmodellen zijn. Je kunt het filteren voor specifieke toepassingen. Wil je bijvoorbeeld programmeren met ondersteuning van AI, dan kies je Programming om te zien wat deze groep gebruikt.
Chat via OpenRouter
Onder Chat kun je taalmodellen uitproberen. Hier heb je credits voor nodig, tenzij je één van de gratis taalmodellen gebruikt. Voeg om te beginnen een model toe via Add model. Voor gratis modellen zoek je naar free. Je kunt meerdere modellen toevoegen, die allemaal je vraag zullen beantwoorden. Dat vraagt uiteraard wel meer credits.
Sleutels voor API-toegang
Om een API-sleutel te maken ga je via je profielafbeelding naar Keys. Kies dan Create Key. Vul een herkenbare naam in. Eventueel kun je het aantal credits dat mag worden gebruikt limiteren. De API-sleutel die nu wordt gemaakt kun je gebruiken in andere toepassingen, bijvoorbeeld programmeertools die met AI werken. Ook op deze website behandelen we toepassingen die OpenRouter ondersteunen.
Eigen sleutels gebruiken
Binnen je account op OpenRouter kun je ook je eigen API-sleutels toevoegen van uiteenlopende providers, waaronder Anthropic en OpenAI. Dit principe heet ook wel Bring Your Own Key (BYOK). Hiervoor ga je via je profielafbeelding naar Keys en dan Integrations (of direct via https://openrouter.ai/settings/integrations). Kies de provider en vul de API-sleutel in die je bij die provider hebt gemaakt.
Je kunt per API-sleutel kiezen hoe die moet worden gebruikt, via de optie Use this key as a fallback. Activeer je die optie dan worden in principe jouw credits bij OpenRouter gebruikt. Bij het bereiken van je limiet of een foutmelding, zal het een nieuwe poging doen met de door jou verstrekte API-sleutel.
Als je de genoemde optie niet gebruikt, zal OpenRouter altijd eerst jouw API-sleutel gebruiken, en bij het bereiken van een limiet of foutmelding je credits bij OpenRouter aanspreken.
Voor- en nadelen
Een voordeel van het toevoegen van je eigen API-sleutel is dat je minder snel tegen een limiet aanloopt. Daarnaast kan OpenRouter bij een probleem terugvallen op een andere provider, wat het bedrijfszekerder maakt.
Een nadeel is dat er extra kosten in rekening worden gebruikt. Uiteraard gebruik je credits bij de provider waarvoor je de sleutel hebt verstrekt. Maar daarnaast brengt OpenRouter ook een toeslag van 5% van de kosten van die zogeheten upstream-provider in rekening, die wordt afgetrokken van je credits bij OpenRouter.