Neue Server- und ML-Prozessoren, KI für den Arbeitsplatz und bessere Daten-Services

In seiner Keynote auf der AWS re:Invent 2023 kündigte Adam Selipsky , CEO von Amazon Web Services am Dienstag eine Reihe spannender Innovationen für Kunden an 🚀.

Den Anfang machte eine neue Prozessorgeneration für Server und für das Training von maschinellem Lernen (ML):

• Graviton4 liefert bis zu 30% bessere Performance mit 50% mehr Kernen und 75% mehr Speicherbandbreite im Vergleich zur bisherigen Graviton3-Generation. Ich bin selber ein großer Fan von AWS Graviton-Prozessoren: Alle meine eigenen AWS-Server laufen auf Graviton, weil es einfach die günstigste CPU auf AWS ist und noch dazu die am meisten stromsparende Option.
• Trainum2-Prozessoren für das Trainieren von ML- und KI-Modellen liefern bis zu vier mal mehr Training-Performance als die bisherige Generation. Und man kann bis zu 100.000 solcher Chips in einem Amazon EC2 UltraCluster miteinander verbinden, um die größten KI Foundation Models darauf zu trainieren. Dabei ist Trainium2 auch noch doppelt so energieeffizient wie sein Vorgänger.

Und das bringt uns gleich zum Mega-Thema: generative AI 🧠. Hier kam Adams erster Bühnengast ins Spiel, NVIDIA Gründer und CEO Jensen Huang . Er beschrieb, wie NVIDIA mit AWS zusammenarbeitet, um den ersten Cloud-KI-Supercomputer auf Basis des NVIDIA GH200 NVL32 Grace Hopper Superchips und mithilfe von Amahon EC2 UltraClusters zu entwickeln.

Dann kam die Ankündigung des Tages: Amazon Q (Preview), ein KI-Assistent der speziell für die tägliche Arbeit entwickelt wurde und mithilfe von Konnektoren und Plugins auf Unternehmensdaten zugreifen kann. Dadurch wird Amazon Q zum persönlichen Job-Assistenten, der jederzeit Fragen im eigenen Unternehmens-Kontext beantworten und einfache Arbeitsschritte, wie z.B. das Eröffnen eines Tickets, erledigen kann.

Amazon Q ist bereits in AWS integriert: Nutzer der AWS-Konsole, von bestimmten Entwicklungsumgebungen, dem AWS Chatbot oder der Dokumentation können auf Amazon Q als AWS-Experten zugreifen, der auf 17 Jahre AWS-Erfahrung, Well-Architected Framework-Wissen, die AWS Solutions Library und natürlich die Dokumentation zurückgreifen kann, um Fragen über AWS zu beantworten.

Aber Q kann noch mehr: Eingebettet in eine Entwicklungsumgebung oder über Amazon CodeCatalyst kann Amazon Q Entwicklern bei der Entwicklung neuer Features helfen, oder bestehende Anwendungen transformieren, z.B. um sie auf eine neue Sprachversion zu aktualisieren. Dabei greift Amazon Q auf bestehenden Code zurück und kann auch helfen, fremden Code zu verstehen, indem er erklärt, wie er funktioniert.

Ein Team aus fünf Amazon-Kollegen hat mit Amazon Q zum Beispiel 1.000 Applikationen von Java 8 auf Java 17 aktualisiert und dafür nur zwei Tage gebraucht. Zwei Tage reicht normalerweise nur für eine einzelne Applikation, daher bedeutet das eine 1.000-fache Steigerung der Produktivität. Im Schnitt dauerte es nur 10 Minuten, eine Applikation auf Java 17 zu heben, und selbst die aufwändigste Applikation war in weniger als einer Stunde fertig migriert.

Ich habe jede Menge Pet Projects 🐶 auf AWS und einige davon könnten gerne aktualisiert werden. Doch wer macht das schon gerne? Jetzt kann ich es kaum erwarten, mit Amazon Q meine alten Projekte zu aktualisieren, neue Features zu bauen und damit meine Hobby-Produktivität und meinen Spaß daran zu steigern. Schon seit ca. einem Jahr nutze ich Amazon CodeWhisperer (der seit dem immer wieder neue Features hinzu gewonnen hat) und Amazon Q eröffnet für Entwickler (ob professionell oder Hobby) jetzt noch mehr Möglichkeiten!

Auch andere Services wie Amazon QuickSight, Amazon Connect und AWS Supply Chain (demnächst) bekommen mit Amazon Q ein Assistenten-Upgrade und ich bin gespannt, zu sehen, wo sonst Amazon Q in Zukunft weiterhelfen wird.

Eines meiner aktuellen Pet Projects ist mein eigener Bedrock-Chat-Client, der auf Basis der Python Textual-Library komplett im Terminal läuft (ich weiß, ich bin da eher old-school-mäßig). Mein Lieblings-Chat-Partner ist dabei Anthropic Claude. Daher habe ich mich besonders gefreut, in Adams Keynote Dario Amodei , CEO und Mitbegründer von Anthropic zu sehen. Amazon investiert bis zu 4 Milliarden Dollar in Anthropic und bereits jetzt gehört Claude zu den besten KI-Modellen, die ich bisher genutzt habe. Dario erzählte, wie die Large Language Models (LLMs) hinter Claude auf AWS trainiert werden und dass AWS der primäre Cloud-Anbieter für Anthropics kritische Unternehmens-Anwendungen ist.

Als weiterer Keynote-Gast beschrieb Lidia Fonseca , CDO, CTO und Executive VP bei Pfizer, wie Digitalisierung, Daten und KI für die schnellere Entwicklung neuer Medikamente für Patienten von entscheidender Bedeutung sind. Pfizer wechselte 2021 zu AWS und konnte seither die Entwicklung, Zulassung und Auslieferung neuer Medikamente weltweit erheblich beschleunigen und Lieferkettenunterbrechungen reduzieren. Kürzlich hat Pfizer generative KI eingesetzt, um jährliche Kosteneinsparungen von 750 Millionen bis 1 Milliarde Dollar zu erzielen, und eine interne generative KI-Plattform auf AWS aufgebaut.

Als deutscher Zuschauer habe ich mich natürlich besonders über den Auftritt von Stephan Durach , Senior VP Connected Company und Technical Operations bei der BMW Group gefreut. Schon als Kind habe ich meinem Vater dabei geholfen, die Zündkerzen an seinem BMW 320i auszuwechseln und später bin ich selber etliche Fahrzeuge aus der BMW-Familie gefahren, zuletzt einen Mini Countryman. 2018 durfte ich Patrick Lanners und Julian Roedig von der BMW Group bei der damaligen re:Invent auf der Bühne begrüßen, um zu erzählen, wie sie damals den BMW Fahrzeug-Konfigurator mithilfe einer Microservices-Strategie auf AWS modernisiert haben. Seitdem hat sich viel getan: Stephan erzählte am Dienstag, wie die BMW Group den Technologiestack für ihre Infotainmentsysteme mit AWS-Technologie verbessert hat, wie sie den Cloud Data Hub auf AWS gebaut hat und wie sie KI einsetzt, um optimierte Routenführung zu entwickeln, die alles von Echtzeitverkehr bis Fahrstil berücksichtigt. BMW arbeitet auch daran, Amazon Alexa weiter in Fahrzeugführungs- und Unterhaltungssysteme zu integrieren. Ein Preview-Video eines BMW-Modells der Zukunft rundete seinen Auftritt ab. Mehr über die BMW Group auf AWS gibt es auf einer eigenen Webseite.

Ein wichtiges Thema bei AWS ist es, für Kunden die Schmerzen der IT verschwinden zu lassen. Bei Peter DeSantis waren es die Server-Betriebs-Schmerzen, die durch Serverless-Services verschwinden. Hier bei Adam Selipsky ging es darum, die Schmerzen beim Transfer von Daten von transaktionalen Datenbanken (z.B. eCommerce-Bestellungen) in Data Warehouses (z.B. für Business Intelligence und Analyse) zu eliminieren. Diese Schmerzen haben einen Namen: Extract, Transform, Load, kurz ETL. Schon letztes Jahr kündigte er mit „Zero ETL“ eine Reihe von Services und Features an, die ETL überflüssig machen und auch dieses Jahr geht es mit Zero ETL weiter: Seit Dienstag unterstützen Amazon Connect, Amazon DynamoDB, Amazon RDS for MySQL und Amazon Aurora PostgreSQL den Datentransfer ohne ETL-Aufwand in Amazon Redshift. Im Falle von DynamoDB zusätzlich auch in Amazon OpenSearch Service. Die Daten-Parties können beginnen!

Unter den mittlerweile mehr als 240 AWS-Services sind auch ein paar Dienste, die die Grenzen von IT sprengen. Ein Beispiel dafür ist Amazon Project Kuiper 🛰️, eine Initiative, die weltweit Internet-Anbindung zu niedrigen Kosten mithilfe von 3.236 Satelliten bereitstellen wird. In seiner Keynote kündigte Adam an, dass Project Kuiper über seine Satelliten auch eine private Anbindung an das AWS-Netzwerk anbieten wird. So können Unternehmen auch an den entlegensten Orten, wie z. B. Windfarmen, Produktionsstätten mit schlechter Anbindung oder Forschungseinrichtungen sicher Daten mit Cloud-Anwendungen auf AWS austauschen.

Zum Schluß ging Adam Selipsky darauf ein, wie wichtig es heutzutage ist, angesichts der sich schnell weiter entwickelnden Technologien den Anschluß zu behalten. Nicht umsonst gehört „Learn and be Curious“ zu den Amazon Leadership Principles. Die Schulung von Arbeitskräften in der Technologie-Branche bleibt ein Kernthema von AWS und so betonte er das Engagement von AWS, bis 2025 29 Millionen Menschen kostenlos in Cloud Computing zu schulen. Als Beispiele nannte er die kürzliche Ankündigung des AWS Cloud Institutes sowie 100 weiterer KI- und ML-Kurse. Darüber hinaus kündigte AWS letzte Woche die neue AI Ready-Initiative an, um bis 2025 zusätzlich 2 Millionen Menschen weltweit kostenlose KI-Qualifizierungen anzubieten. Außerdem hat AWS ein globales ML-Stipendienprogramm eingeführt.

Und jetzt ziehe ich mich zurück, um weiter zu lernen, neue Services auszuprobieren und mir dabei von Amazon Q helfen zu lassen 🤓. Die Keynote von Adam Selipsky könnt Ihr Euch hier ansehen und alle Ankündigungen der AWS re:Invent auf dieser Seite.