Amazon Bedrock: Aufbau eines soliden Fundaments für Ihre AI-Strategie

Amazon hat vor kurzem einen Service für sein Stiftungsmodell angekündigt: Amazon Bedrock. Wir haben ihn im Rahmen einer begrenzten Vorschau in die Hände bekommen. Was ist also für Sie drin?

In den letzten Monaten gab es jede Woche einen neuen Marktteilnehmer im Bereich der generativen KI. In manchen Wochen handelt es sich um ein neues Open-Source-Modell, während in anderen Wochen etablierte Akteure ihre Basismodelle und Dienste veröffentlichen.

OpenAI (und damit auch Microsoft) haben mit ChatGPT den Anfang gemacht. Meta folgte bald darauf mit ihren LLaMA-Modellen, die von der Open-Source-Gemeinschaft begeistert aufgenommen wurden. Anthropic hat Claude veröffentlicht, und vor kurzem hat Google auf der Google I/O seine generativen KI-Dienste angekündigt.

Einem aufmerksamen Leser wird vielleicht auffallen, dass in der obigen Liste ein wichtiger Akteur fehlt, der die Cloud-Dienste, wie wir sie kennen, revolutioniert hat, und er hätte Recht. Vor ein paar Monaten kündigte Amazon seinen Foundation Model Service, Amazon Bedrock, an. Im Rahmen der Beta-Version konnten wir ihn testen und zeigen Ihnen in diesem Blog, was er bietet und wie unser erster Eindruck ist!

Was hat es mit Bedrock auf sich?

Amazon Bedrock wurde als Teil des Vorstoßes zur Entwicklung generativer KI auf AWS angekündigt und ist ein Service, der verschiedene Grundmodelle (daher der Name Bedrock) über eine API zugänglich macht. Er ermöglicht es Kunden, generative KI-basierte Anwendungen zu erstellen und zu skalieren, ohne sich um die für die Ausführung dieser Modelle erforderliche Infrastruktur und Wartung kümmern zu müssen. Es handelt sich um Foundation-Models-as-a-Service.

Ist das nicht dasselbe wie Sagemaker Jumpstart?

Während Sagemaker Jumpstart eine Fülle von vortrainierten Modellen bietet, die bei Bedarf angepasst oder eingesetzt werden können, bietet Bedrock ähnliche und viel umfangreichere Modelle als verwalteten Service an und reduziert damit den Prozess der Verwendung eines Basismodells auf eine einfache API-Anfrage.

Auf welche Modelle können Sie über Bedrock zugreifen?

Derzeit unterstützt Amazon Bedrock NLP- und Vision Foundation-Modelle. Die Anzahl der unterstützten Modelle ist bereits beeindruckend, aber wir erwarten, dass diese Liste noch länger wird.

Anthropic's Claude

Bedrock bietet Zugang zu zwei Modellen der Claude-Familie von Anthropic: Claude mit einer Kontextgröße von 12K Token für anspruchsvolle Dialoge und kreative Inhaltserstellung und Claude Instant mit 9K Token für schnellere Leistung und einfachere Sprachaufgaben.

Die Sprachmodelle der Claude-Familie bieten im Allgemeinen eine hervorragende Leistung bei gleichzeitiger Betonung der Steuerbarkeit und Sicherheit durch den konstitutionellen KI-Ansatz von Anthropic.

AI21's Jurassic

Eine weitere Familie von LLMs, diesmal von AI21 Labs, ist ebenfalls über Amazon Bedrock erhältlich. Zwei Modelle, J2 Grande Instruct und J2 Jumbo Instruct, sind aus der Jurassic-Familie erhältlich. Die Jurassic-Modelle bieten mehrsprachige Funktionen mit Unterstützung für Englisch, Spanisch, Französisch, Deutsch, Italienisch, Portugiesisch und Niederländisch.

Amazons Titan FM

Zusammen mit der Einführung von Bedrock kündigte Amazon auch die Einführung seiner Grundmodellfamilie namens Titan an. Derzeit sind zwei Modelle über Bedrock verfügbar: Titan Text Large, ein generatives LLM, und Titan Text Embeddings, ein Modell, das, wie der Name schon sagt, Texteinbettungen für Anwendungen wie Retrieval und Empfehlungen erzeugen kann.

Während Modelle wie Claude und J2 Modelle sind, die auf die Befolgung von Anweisungen trainiert wurden, um in einer Chat-ähnlichen Umgebung gut zu funktionieren, ist Titan ein Sprachmodell wie GPT-3, das für NLP-Aufgaben wie Zusammenfassungen, Informationsextraktion und Texterstellung nützlich ist.

Titan FMs können schädliche Inhalte in den Daten erkennen und entfernen, unangemessene Inhalte in den Benutzereingaben zurückweisen und die Ausgaben der Modelle filtern, die unangemessene Inhalte (wie Hassreden, Obszönitäten und Gewalt) enthalten.

Stabile Diffusion

Während sich die zuvor genannten Modelle mit Text befassen, unterstützt Bedrock auch die Bilderzeugung durch Stable Diffusion-Modelle. Derzeit bietet es Zugang zu Stable Diffusion XL, das Text-zu-Bild-Eingabeaufforderungen, Bild-zu-Bild-Eingabeaufforderungen und Bildübermalung ermöglicht.

Zurzeit ist jedoch nur die Eingabeaufforderung von Text zu Bild über Amazon Bedrock möglich.

Unsere ersten Eindrücke

Als Teil einer begrenzten Anzahl von AWS-Partnern mit Zugriff auf Bedrock haben wir die verfügbaren Modelle und Tools ausprobiert, um ihre Fähigkeiten zu testen. Hier ist, was herausstach!

Modellvielfalt

Eine der herausragenden Eigenschaften von Bedrock ist die Vielfalt der verfügbaren Modelle. Während Azure- und Google-Dienste auf ihre eigenen Angebote beschränkt sind, bietet Amazon Bedrock eine viel größere Vielfalt an Modellen, die eine bessere Auswahl ermöglichen, um kluge Kompromisse bei Qualität, Leistung und Kosten zu schließen.

Fokus auf Sicherheit

Amazon Titan filterte effektiv unsichere/schädliche Inhalte heraus, verweigerte die Antwort und verwies den Nutzer auf seine Nutzungsbedingungen. Solche Filter werden obligatorisch sein, wenn die breite Öffentlichkeit mit diesen Modellen als Teil von nutzerorientierten Anwendungen interagiert.

Spielplätze

Wie andere generative KI-Angebote bietet auch Amazon Bedrock eine raffinierte Spielwiese, auf der man verschiedene Eingabeaufforderungen und Einstellungen für jedes Modell testen kann, bevor man es in seine Anwendung integriert. Dies sollte ein schnelles Testen und Prototyping ermöglichen und so die gesamte Entwicklungszeit verkürzen.

Einfacher Zugang

Amazon verspricht, dass "Bedrock der einfachste Weg ist, generative KI-Anwendungen mit FMs zu erstellen und zu skalieren." Bis jetzt stimmen wir zu!

Der Zugriff auf ein Modell ist so einfach wie das Senden einer Anfrage mit den entsprechenden Parametern und Eingaben (siehe obiges Codeschnipsel). Die Unterstützung für Bedrock wurde dem offiziellen AWS Python SDK boto3 hinzugefügt, wodurch der Service relativ einfach zu nutzen ist. Da es sich um einen verwalteten Service handelt, müssen sich Unternehmen nicht um die Skalierung und die damit verbundenen Probleme kümmern, wenn eine größere Benutzerbasis ihr Produkt nutzt.

Preisgestaltung

Während die genauen Preisangaben noch unter einem NDA stehen, können wir mitteilen, dass die Preise extrem wettbewerbsfähig sind und manchmal wesentlich niedriger als die entsprechenden Preise von OpenAI.

Unsere Erwartungen für die Zukunft

Obwohl Bedrock schon jetzt sehr vielversprechend ist, sollte man nicht vergessen, dass es sich noch um eine Vorschau handelt. Hier ist, was wir erwarten, wird sich ändern / bald hinzugefügt werden:

Allgemeine Modell-Feinabstimmung

In Amazons Blog zur Veröffentlichung von Bedrock heißt es, dass die Kunden diese Modelle mit ihren Daten feinabstimmen können, so dass spezifische Modelle für spezifische Anwendungsfälle möglich sind. Allerdings ist diese Funktionalität derzeit nur für die Titan-Modelle verfügbar. Die Einfachheit der Feinabstimmung wird die Akzeptanz von Bedrock in Unternehmen erheblich steigern.

(Nicht-)Verfügbarkeit in der EU

Derzeit ist Amazon Bedrock nur in 2 Regionen der USA verfügbar. Dies ist jedoch ein Problem für EU-Unternehmen, die sich an die Datenschutz- und Lokalisierungsgesetze des Kontinents halten müssen. Idealerweise sollte sich dies bald ändern, damit EU-Unternehmen generative KI einsetzen und die GDPR-Gesetze einhalten können.

Erweiterung der Fähigkeiten zur stabilen Diffusion

Benutzer von Bedrock können Stable Diffusion nur für Text-zu-Bild-Eingabeaufforderungen verwenden, obwohl es so viel mehr kann! Fähigkeiten wie In-Painting und Bild-zu-Bild-Generierung sollten in naher Zukunft zu Bedrock hinzugefügt werden.

Schlussfolgerungen

Im schnell voranschreitenden Bereich der generativen KI scheinen sich die großen Cloud-Unternehmen denselben Ideen anzunähern. Einige Gemeinsamkeiten sind das Angebot von Basismodellen als verwaltete Dienstleistung, verschiedene Größen und Modalitäten, die Möglichkeit der Feinabstimmung und das Versprechen der Sicherheit.

Innerhalb dieser Landschaft ist Amazons Bedrock eine einfach zu bedienende Plattform für eine breite Palette von KI-Anwendungen. Neben der Benutzerfreundlichkeit ist ein herausragendes Merkmal von Bedrock die Verfügbarkeit von Modellen verschiedener Anbieter wie Anthropic, AI21, Cohere und StabilityAI zusammen mit ihren eigenen Amazon Titan-Modellen. Diese einzigartige Mischung aus Vielseitigkeit, Benutzerfreundlichkeit und einem Fokus auf Sicherheit schafft einen Service, den Entwickler und Unternehmen mit offenen Armen empfangen werden.

Man kann mit Fug und Recht behaupten, dass Amazon mit Bedrock nicht nur einen weiteren KI-Service einführt, sondern eine solide Grundlage für künftige KI-Strategien für Unternehmen weltweit schafft. Auch wenn sich das volle Potenzial dieses Dienstes erst noch entfalten muss, ist die Vorschau selbst ein ermutigender Einblick in die Zukunft von KI-basierten Lösungen auf AWS.

‍

Der Blogpost ist auch auf unserem Medium-Kanal verfügbar .