3x3 in KI: 💰 Schnäppchen GPT-4o Mini, 🚫 Llama 3 (nicht für EU) & 🏢 OpenAI Enterprise-ready!

Liebe Sommerfreunde (… und KI-Freunde),

persönlich bin ich aber bald schon froh, wenn der Sommer vorbei ist. Ich schreibe nämlich den Newsletter gemütlich im Home-Office bei knapp 30 Grad - angenehm ist was anderes.

Was ich aber spannend finde, ich sehe keinen Rückgang der Newsletter-Leser, obwohl Urlaubszeit ist - also auch großes Dankeschön an euch, dass ihr euch trotz Urlaub noch immer für die neuesten KI-News interessiert.

KI-News - auf geht's zum Thema!

Obwohl wir bei OpenAI noch immer auf das mysteriöse Sora-Modell warten, kommen sie nun mit einem kleinen Update (zumindest so der Name → GPT-4o mini). Klein aber oho, würde ich sagen - viel besser als andere kleine Modelle wie Claude Haiku, aber 60% günstiger als das frühere günstigere Modell GPT-3.5 Turbo und 30x günstiger als GPT-4o. Also wer nach dem Prime Day auf Schnäppchenjagd ist, darf gerne mal bei OpenAI stehen bleiben und irgendwas Cooles auf GPT-4o mini bauen.

Dann gibt es positive und negative News von Meta zu ihrem Llama-Modell. Positiv: Nächste Woche kommt das neue, große, dicke Modell mit 405 Milliarden Parametern raus. Zu GPT-4 fehlt noch etwas (1,7 Billionen), aber dennoch riesig. Mistral hat mit ihrem Mistral 8x7B knapp 176 Milliarden Parameter. Der große Unterschied: Das Meta-Modell ist multimodal - und hier kommt der Punkt, wir in der EU werden es alsbald nicht testen können, da Meta es nicht veröffentlichen will.

Zum Abschluss gibt es noch eine große Verbesserung in Hinblick auf Compliance und Datenschutz bei OpenAI Enterprise und ein neues KI-Education-Start-up von OpenAI-Gründungsmitglied Andrei Karpathy.

Heiße News - deswegen starten wir gleich!

OpenAI's GPT-4o mini: KI-Power zum Schnäppchenpreis

Kurzgesagt:

OpenAI präsentiert GPT-4o mini, ein kompaktes und kostengünstiges KI-Modell, das die Leistung von GPT-4 zu einem Bruchteil der Kosten bietet und KI-Anwendungen für Entwickler und Unternehmen deutlich erschwinglicher macht.

Detailliert:

• Unschlagbares Preis-Leistungs-Verhältnis: GPT-4o mini kostet nur 15 Cent pro Million Input-Token und 60 Cent pro Million Output-Token. Das macht es über 60% günstiger als GPT-3.5 Turbo und sogar 30-mal kostengünstiger als das Flaggschiff-Modell GPT-4o. Diese drastische Preissenkung ermöglicht es auch kleineren Unternehmen und Entwicklern, fortschrittliche KI-Funktionen in ihre Anwendungen zu integrieren.
• Beeindruckende Performance: Trotz seiner Kompaktheit erreicht GPT-4o mini 82% auf dem MMLU-Benchmark (Massive Multitask Language Understanding). Damit übertrifft es nicht nur seinen Vorgänger GPT-3.5 Turbo, sondern auch Konkurrenzmodelle wie Googles Gemini Flash (77,9%) und Anthropics Claude Haiku (73,8%). In einigen Tests schlägt es sogar frühe Versionen von GPT-4.

• Vielseitige Einsatzmöglichkeiten: Mit einem beeindruckenden Kontextfenster von 128K Token kann GPT-4o mini umfangreiche Informationen verarbeiten. Es unterstützt sowohl Text- als auch Bildeingaben, was es für eine breite Palette von Anwendungen geeignet macht. OpenAI plant, in Zukunft auch Audio- und Videofunktionen hinzuzufügen, was die Einsatzmöglichkeiten weiter erweitern wird.
• Sofortige Verfügbarkeit: GPT-4o mini ist ab sofort verfügbar und ersetzt GPT-3.5 Turbo in ChatGPT für Free-, Plus- und Team-Nutzer. Entwickler können über die API direkt auf das Modell zugreifen, um es in ihre eigenen Anwendungen zu integrieren. Diese schnelle Verfügbarkeit ermöglicht eine rasche Adoption und Implementierung in bestehende Systeme.
• Sicherheit im Fokus: OpenAI hat bei der Entwicklung von GPT-4o mini besonderes Augenmerk auf die Sicherheit gelegt. Neue Techniken wie die "Instruction Hierarchy" wurden implementiert, um das Modell vor Jailbreaks und Prompt-Injektionen zu schützen. Dies macht GPT-4o mini zu einer sicheren Option für Unternehmen, die sensible Daten verarbeiten.
• Reale Anwendungen: Erste Tests von Unternehmen wie Ramp und Superhuman zeigen, dass GPT-4o mini signifikant besser als GPT-3.5 Turbo bei Aufgaben wie der Extraktion strukturierter Daten aus Belegen oder der Generierung hochwertiger E-Mail-Antworten unter Berücksichtigung des Thread-Verlaufs abschneidet.

GPT-4o mini markiert einen wichtigen Schritt zur breiteren Zugänglichkeit von KI-Technologie. Mit seiner Kombination aus Leistungsfähigkeit, Erschwinglichkeit und Sicherheit könnte es die Entwicklung und den Einsatz von KI-Anwendungen in verschiedenen Branchen beschleunigen.

Meta Llama 3 kommt nächste Woche, zögert aber bei EU-Einführung

Kurzgesagt:

Meta plant die Veröffentlichung seines bisher größten Open-Source-Sprachmodells Llama 3 am 23. Juli, zieht jedoch gleichzeitig in Erwägung, zukünftige multimodale KI-Modelle nicht in der EU anzubieten. Dies wirft Fragen zur Zukunft von KI-Innovationen in Europa auf.

Detailliert:

Meta steht kurz vor einem bedeutenden Durchbruch in der KI-Entwicklung mit der geplanten Veröffentlichung von Llama 3 am 23. Juli. Dieses Modell, mit beeindruckenden 405 Milliarden Parametern ausgestattet, stellt einen gewaltigen Sprung gegenüber seinen Vorgängern dar. Besonders bemerkenswert sind die multimodalen Fähigkeiten, die es Llama 3 ermöglichen, sowohl Text als auch Bilder zu verarbeiten und sogar neue Bilder aus kombinierten Eingaben zu generieren.

Die Entscheidung Metas, das Modell einschließlich seiner Gewichte als Open Source zu veröffentlichen, hat in der Tech-Community für Aufsehen gesorgt. Diese Gewichte sind von entscheidender Bedeutung, da sie die Vorhersagen des Modells optimieren und für Reproduzierbarkeit, praktische Anwendung und Transparenz sorgen. Ohne sie wären Entwickler mit einer "leeren Hülle" konfrontiert, deren Training enorme Ressourcen erfordern würde.

Wichtige Aspekte von Llama 3:

• 405 Milliarden Parameter
• Multimodale Fähigkeiten (Text und Bild)
• Open-Source-Veröffentlichung inklusive Modellgewichte
• Potenzial zur Revolutionierung der KI-Entwicklung

Gleichzeitig hat Meta jedoch angekündigt, dass es plant, zukünftige multimodale KI-Modelle nicht in der Europäischen Union anzubieten. Als Grund nennt das Unternehmen Unklarheiten im regulatorischen Umfeld, insbesondere in Bezug auf die Datenschutz-Grundverordnung (DSGVO). Diese Entscheidung könnte weitreichende Folgen für europäische Unternehmen und deren Wettbewerbsfähigkeit im KI-Bereich haben.

Mögliche Auswirkungen:

• Einschränkung des Zugangs zu fortschrittlichen KI-Modellen für EU-Unternehmen
• Potenzielle Wettbewerbsnachteile für europäische Entwickler und Unternehmen
• Herausforderungen für die EU, Innovation zu fördern und gleichzeitig Datenschutzstandards zu wahren

Es bleibt abzuwarten, wie EU-Regulierungsbehörden auf diese Entwicklung reagieren und ob ein Kompromiss gefunden werden kann, der Innovation fördert und gleichzeitig europäische Datenschutzstandards wahrt.

OpenAI verstärkt ChatGPT Enterprise mit neuen Compliance- und Verwaltungstools

Kurzgesagt:

OpenAI hat neue Funktionen für ChatGPT Enterprise eingeführt, die Unternehmen bei der Verwaltung von Compliance-Programmen, der Verbesserung der Datensicherheit und der sicheren Skalierung des Benutzerzugriffs unterstützen sollen. Diese Tools sind besonders relevant für Unternehmen in der EU, die strengen Datenschutzbestimmungen unterliegen.

Detailliert:

• Enterprise Compliance API: OpenAI führt eine neue API ein, die Workspace-Besitzern einen detaillierten Überblick über alle Interaktionen in ChatGPT Enterprise bietet. Dies umfasst zeitgestempelte Aufzeichnungen von Gesprächen, hochgeladenen Dateien, Workspace-GPT-Konfigurationen, Metadaten und Benutzerinformationen. Für EU-Unternehmen ist dies besonders wichtig, um DSGVO-Konformität nachweisen zu können.
• Integrationen mit Compliance-Anbietern: Acht führende eDiscovery- und Data Loss Prevention (DLP)-Unternehmen bieten nun Integrationen an, darunter bekannte Namen wie Microsoft Purview und Palo Alto Networks. Diese Integrationen unterstützen verschiedene compliance-relevante Aktivitäten wie Archivierung, Prüfpfade, Datenredaktion und -aufbewahrung sowie die Durchsetzung von Richtlinien. Für EU-Unternehmen erleichtert dies die Einhaltung von DSGVO und branchenspezifischen Vorschriften.

• Automatisiertes Benutzermanagement: OpenAI plant die Einführung von SCIM (System for Cross-domain Identity Management), das es Administratoren ermöglicht, ihre internen Mitarbeiterverzeichnisse mit ihrem ChatGPT Enterprise-Workspace zu synchronisieren. Dies gewährleistet, dass Benutzerzugriffe und -informationen systemübergreifend konsistent und aktuell sind – ein wichtiger Aspekt für die Datensicherheit und -kontrolle in EU-Unternehmen.

• Erweiterte GPT-Kontrollen: Administratoren erhalten präzisere Kontrolle über benutzerdefinierte GPTs. Sie können nun eine Liste zugelassener Domains für GPT-Aktionen erstellen, Gruppenberechtigungen verwalten und den Zugriff auf externe GPTs kontrollieren. Diese granularen Einstellungen helfen EU-Unternehmen, die Nutzung von KI-Tools im Einklang mit internen Richtlinien und EU-Datenschutzbestimmungen zu gestalten.
• Verbesserte Datensicherheit: ChatGPT Enterprise bietet robuste Datenschutz- und Sicherheitskontrollen, einschließlich Datenverschlüsselung, anpassbare Datenaufbewahrungsfristen und Single Sign-On (SSO). Diese Funktionen sind entscheidend für die Einhaltung der DSGVO und anderer EU-Datenschutzgesetze.

Diese neuen Tools von OpenAI zeigen das Bestreben, ChatGPT Enterprise für den Einsatz in stark regulierten Branchen und Regionen wie der EU fit zu machen. Sie adressieren wichtige Anforderungen an Datenschutz, Compliance und Sicherheit, die für europäische Unternehmen bei der Implementierung von KI-Lösungen entscheidend sind.

OpenAI-Gründungsmitglied und Ex-Tesla-Chef Andrej Karpathy baut sein eigenes KI-Startup für die Ausbildung von Studierenden auf

Kurzgesagt:

Andrej Karpathy, ehemaliger KI-Chef von Tesla und OpenAI-Experte, gründet Eureka Labs - ein Startup, das eine "KI-native" Lernerfahrung für jedermann schaffen will.

Detailliert:

Andrej Karpathy, eine Koryphäe in der KI-Welt, hat mit "Eureka Labs" sein neuestes Projekt vorgestellt. Das Startup zielt darauf ab, eine Bildungsplattform zu entwickeln, die KI von Grund auf integriert.

Karpathys Vision: Hochwertige Kursmaterialien, ergänzt durch KI-Assistenten, sollen eine optimale und personalisierte Lernerfahrung ermöglichen. Das Herzstück von Eureka Labs ist die Symbiose aus menschlicher Expertise und KI-Unterstützung. Während Fachexperten weiterhin die Kursinhalte gestalten, soll ein KI-Lernassistent die Studierenden individuell durch den Stoff führen.

Karpathy ist überzeugt, dass dieser Ansatz Bildung sowohl in der Breite als auch in der Tiefe revolutionieren kann.

Als Flaggschiff-Produkt plant Eureka Labs den Kurs "LLM101n", der Studierenden beibringen soll, ihre eigene KI zu trainieren - ähnlich dem KI-Lernassistenten selbst. Der Kurs wird online verfügbar sein und durch digitale sowie physische Lerngruppen ergänzt. Mit seinem reichen Erfahrungsschatz von OpenAI und Tesla bringt Karpathy fundiertes KI-Know-how in das Projekt ein.

Sein Ziel ist es, qualitativ hochwertige Bildung durch KI-Unterstützung für jeden zugänglich zu machen.

Hinweis: Wir sehen hier keinen Wegbegleiter zu mytalents.ai :-D

Ausblick

An alle Freunde der gepflegten Daten- und Finanzanalyse oder anders gesagt, an alle Excel-Freunde:

Microsoft hat ein neues KI-System namens SpreadsheetLLM entwickelt, das große Excel-Tabellen besser versteht. Es kann Daten stark komprimieren und erkennt Tabellen genauer als bisherige Systeme. Das bedeutet, der Excel-Copilot wird bald viel besser arbeiten können. Für alle, die viel mit Daten und Tabellen zu tun haben: Freut euch auf ein deutlich verbessertes Excel-Erlebnis mit KI-Unterstützung.

Mit dieser frohen Botschaft wünsche ich euch noch einen schönen Tag - wir hören uns nächste Woche!