Wat is Amazon Bedrock?

Amazon Bedrock is een managed service van Amazon Web Services (AWS) die de ontwikkeling en uitrol van generative AI applicaties faciliteert. Amazon voorziet met Bedrock een suite van tools en services, die developers en researchers helpt om generative AI modellen te bouwen, trainen en uitrollen. Aan de hand van voorgetrainde modellen en toegang tot enorme datasets, kan je als developer of researcher op een efficiënte manier de implementatie van AI projecten boosten.

Je krijgt via 1 API namelijk toegang tot een hele collectie van foundation models van andere grote LLM (Large Language Model) bedrijven zoals LLaMa van Meta, Titan van Amazon en Claude van Anthropic. Dit is zeer handig aangezien de ontwikkeling van een eigen model enorm tijdsrovend is en ook nog eens een stevig prijskaartje met zich meebrengt. Alle modellen die je via Bedrock kan gebruiken hebben hun eigen sterktes en specialisaties.

Je gebruikt dan wel modellen van andere grote spelers zoals Meta en Anthropic, alle data die je verwerkt via deze modellen blijft binnen AWS en wordt dus niet naar andere providers gestuurd.

Verschillen tussen de modellen

Via Amazon Bedrock kan je beroep doen op verschillende modellen, de functionaliteit tussen de modellen onderling kan wel wat verschillen. Voor het genereren van teksten kan je zo beroep doen op Titan van Amazon. Wil je afbeeldingen genereren dan is Stable Diffusion van Stability AI de betere keuze. Ga je voor de implementaite van een dialoog via chat of het genereren van code dan is Claude van Anthropic het go-to model.

Al raad ik je wel aan om ook zelf eerst wat research te voeren naar de specifieke eigenschappen van ieder model.

Hoeveel kost het gebruik mij?

Het gebruik van deze foundation models is uiteraard niet gratis. Amazon biedt op verschillende AWS-diensten een free tier aan, dit geldt echter niet voor Bedrock. Je moet dus rekening houden met een kost bij het gebruik van ieder model.

De kosten voor het gebruik van de verschillende foundation models wordt verrekend in tokens. Een token kan je vergelijken met een lettergreep of een leesteken, al is dit niet altijd waar. Om een goeie indicatie te krijgen van de hoeveelheid tokens die je request in beslag zal nemen kan je gebruik maken van deze tokenizer. Deze tool berekent het aantal tokens van je aanvraag en geeft weer hoe deze berekend wordt.
Let wel op, ieder model kan een eigen tokenizer gebruiken die dus lichte afwijkingen kan vertonen in vergelijking met de tokenizer die in dit artikel gedeeld werd.

Zowel de input (dus jouw aanvraag) als de output (het antwoord) brengt een bepaalde token cost met zich mee, hou dus ook hier rekening mee. Gelukkig biedt Amazon voor Bedrock een playground aan waar je exact kan zien hoeveel tokens je request je zal kosten.
Wil je deze details raadplegen binnen een productie omgeving dan kan dit via de TokenCount metrics in CloudWatch.

Hoe kan je Amazon Bedrock gebruiken?

Via Amazon Bedrock kunnen innovatieve oplossingen gebouwd worden die een grote business impact hebben en dit op basis van generative AI. Dit wordt aangetoond door middel van enkele voorbeelden.

Juridische sector

• Automatiseren van het contract review proces
• Efficiënter opvragen van relevante documenten
• Versnellen van onderzoeksgerichte processen

Reis sector

• Aanbieden van voorstellen op maat van iedere reiziger op basis van heel specifieke noden
• Real-time kostencalculaties op basis van trends en prijzen van de concurrenten
• Vereenvoudiging van het boekingsproces

Klantgerichte bedrijven

• Zoeken naar oplossingen op basis van historische informatie
• Gepersonaliseerde aanpak voor iedere klant
• Klanten direct en efficiënt te woord staan door het gebruik van chatbots, getraind op jouw unieke data

Concrete voorbeelden

In de volgende blog post zal je een zicht krijgen op wat er zich under the hood afspeelt door middel van een uitgewerkt voorbeeld.