Eine der wichtigsten KI-Nachrichten der Woche: Meta hat Teile seines Open-Source-Modells Llama 3 offiziell veröffentlicht. Auch wenn manche meinen, die aktuelle Lizenz von Llama sei nicht vollständig quelloffen, kann man das Modell in gewissem Maße als Open Source betrachten – Meta behält sich dabei einige Verdienstmöglichkeiten vor.
InhaltsverzeichnisAnzeigenAusblenden
Versionen und Leistung von Llama 3
Schon Llama 2 war im Open-Source-Bereich sehr wichtig, seine Fähigkeiten waren aber inzwischen veraltet – entsprechend hoch waren die Erwartungen an Llama 3. Meta hat zwei Versionen veröffentlicht: eine mit 8 Milliarden und eine mit 70 Milliarden Parametern. Eine Version mit 400 Milliarden Parametern soll sich noch im Training befinden und später erscheinen; ob sie quelloffen sein wird, ist unklar. Bei den beiden veröffentlichten Versionen handelt es sich um große Sprachmodelle (LLMs) für Text. Meta kündigte an, künftig möglicherweise auch ein multimodales Llama 3 herauszubringen.
Sowohl die 8B- als auch die 70B-Version scheinen sehr leistungsfähig zu sein. In mehreren Tests übertraf Llama 3 8B zuvor veröffentlichte kleinere Modelle wie Googles Gemma 7B und Mistral 7B. Die 70B-Version schlug Gemini Pro 1.5 und Anthropics Claude 3 Sonnet und setzte sich damit gegen die Konkurrenz ihrer jeweiligen Klasse durch. Sollte die 400B-Version erscheinen, dürfte sie mit OpenAIs GPT-4, Googles Gemini Ultra 1.5 und Anthropics Claude 3 Opus konkurrieren.
Insgesamt lässt sich sagen, dass Llama 3 ungefähr auf dem Niveau der Top drei liegt: GPT-4, Gemini 1.5 und Claude 3. Allerdings erschien GPT-4 bereits im März oder April letzten Jahres und Gemini 1.5 Anfang dieses Jahres. Llama 3 liegt also noch ein halbes bis ein ganzes Jahr zurück: GPT-4 hat etwa sechs Monate Vorsprung vor Gemini und Claude, und diese wiederum sechs Monate vor Llama 3. Llama 3 und Grok 1.5 dürften die Spitze der zweiten Liga bilden – hinter den Top drei, aber mit nicht allzu großem Abstand. Meta wird Llama 3 direkt in seinen intelligenten Assistenten Meta AI integrieren, um dessen Fähigkeiten voll zu nutzen.
Wettbewerb zwischen Open-Source- und Closed-Source-Modellen
Die jüngsten Leistungen von Grok 1.5 und Llama 3 haben die Debatte über den Wettbewerb zwischen offenen und geschlossenen Modellen neu entfacht. Die einen glauben, Open-Source-Modelle würden geschlossene nie einholen und der Abstand werde nur größer. Die anderen meinen, geschlossene Modelle würden irgendwann an eine Grenze stoßen, und offene Modelle würden schließlich aufschließen. Für beide Positionen gibt es Unterstützer unter führenden KI-Experten – die Entwicklung bleibt also spannend.
Aus geschäftlicher Sicht ist der Unterschied für die meisten kommerziellen Anwendungen möglicherweise unerheblich, selbst wenn geschlossene Modelle technologisch vorn bleiben. Erfordert eine Anwendung etwa ein Leistungsniveau von 80 Punkten, spielt der Unterschied zwischen Produkten mit 99 und 95 Punkten kaum eine Rolle – beide übertreffen die Anforderung bei Weitem.
Nehmen wir Go-Modelle als Beispiel. Die aktuelle KI-Welle begann, als AlphaGo menschliche Go-Spieler besiegte. Danach schlug eine neue Version namens AlphaZero wiederum AlphaGo deutlich. Angenommen, Modell A ist besser als Modell B: A erreicht 99,9 Punkte, B 99 Punkte. Spielen sie 100 Partien und A gewinnt alle, scheint A klar überlegen. Als Go-Lehrer für Anfänger wären jedoch beide mehr als ausreichend, denn die besten menschlichen Spieler kämen vielleicht auf rund 80 Punkte. So dürfte es bei den meisten Verbraucheranwendungen (über 90 %) sein. Auch wenn es zwischen offenen und geschlossenen Modellen einen Leistungsunterschied gibt, ist er womöglich nicht sehr bedeutsam. Erkennt etwa ein geschlossenes Spracherkennungsmodell ein Wort von einer Million falsch und ein offenes ein Wort von 100.000, unterscheiden sie sich um den Faktor 10 – für allgemeine Anwendungen reichen aber beide aus.
Insgesamt dürfte der Abstand zwischen offenen und geschlossenen Modellen in den meisten Anwendungsbereichen nicht entscheidend sein. Was also sind die Schlüsselfaktoren im KI-Rennen?
Schlüsselfaktoren im KI-Rennen
Werden im langfristigen KI-Wettbewerb diejenigen gewinnen, die die Technologie beherrschen, oder jene, die die Kanäle (die Kontaktpunkte zu den Verbrauchern) kontrollieren? Möglicherweise befinden wir uns gerade in einer Phase, in der Erstere vorn liegen. Sehr wahrscheinlich wird aber mit der Zeit die Bedeutung von Unternehmen mit vielen Verbraucherkontaktpunkten wachsen. Apple etwa liegt in der KI derzeit zurück, hat aber unzählige Kontaktpunkte zu seinen Nutzern. Wenn Modelle von Drittanbietern leistungsfähiger werden, wird auch Apple davon profitieren.
