L’un des temps forts de l’actualité IA de la semaine : Meta a officiellement publié une partie des versions de son modèle open source Llama 3. Même si certains estiment que la licence actuelle de Llama n’est pas entièrement open source, on peut le considérer comme ouvert dans une certaine mesure, Meta se réservant quelques possibilités de monétisation.
SommaireAfficherMasquer
Versions et performances de Llama 3
Avant Llama 3, Llama 2 occupait déjà une place importante dans l’open source, mais ses capacités étaient dépassées, d’où les fortes attentes autour de Llama 3. Meta a publié deux versions : l’une de 8 milliards de paramètres, l’autre de 70 milliards. Une version de 400 milliards serait encore en cours d’entraînement et sortirait plus tard, sans que l’on sache si elle sera ouverte. Les deux versions publiées sont des grands modèles de langage (LLM) textuels ; Meta a indiqué qu’un Llama 3 multimodal pourrait suivre.
Les versions 8B et 70B semblent toutes deux très performantes. Dans plusieurs tests, Llama 3 8B a dépassé de petits modèles sortis auparavant, comme Gemma 7B de Google et Mistral 7B. La version 70B a battu Gemini Pro 1.5 et Claude 3 Sonnet d’Anthropic, l’emportant sur ses concurrents de même catégorie. Si la version 400B voit le jour, elle devrait rivaliser avec GPT-4 d’OpenAI, Gemini Ultra 1.5 de Google et Claude 3 Opus d’Anthropic.
Globalement, on peut affirmer que les performances de Llama 3 sont à peu près au niveau des trois leaders : GPT-4, Gemini 1.5 et Claude 3. Mais si ses capacités ont rattrapé leur retard, GPT-4 est sorti en mars ou avril de l’an dernier et Gemini 1.5 au début de cette année. Llama 3 reste donc six mois à un an derrière : GPT-4 devance Gemini et Claude d’environ six mois, qui eux-mêmes devancent Llama 3 d’encore six mois. Llama 3 et Grok 1.5 sont sans doute en tête du deuxième peloton, derrière le trio de tête, mais l’écart n’est pas énorme. Meta va directement intégrer Llama 3 à son assistant intelligent, Meta AI, pour en exploiter pleinement les capacités.
La concurrence entre modèles open source et propriétaires
Les performances récentes de Grok 1.5 et de Llama 3 relancent le débat sur la concurrence entre modèles ouverts et fermés. Pour certains, les modèles ouverts ne rattraperont jamais les modèles fermés et l’écart ne fera que se creuser. Pour d’autres, les modèles fermés finiront par atteindre un plafond et seront rejoints par les modèles ouverts. De grands spécialistes de l’IA défendent chacune de ces positions ; il faudra donc suivre l’évolution de près.
D’un point de vue commercial, même si les modèles fermés gardent une avance technologique, la différence peut être négligeable pour la plupart des applications. Par exemple, si une application exige un niveau de 80 points, l’écart entre des produits notés 99 et 95 n’a guère d’importance, puisque les deux dépassent largement le niveau requis.
Prenons l’exemple des modèles de jeu de go. La vague actuelle de l’IA a commencé quand AlphaGo a battu les joueurs humains. Après la victoire d’AlphaGo, de DeepMind, une nouvelle version baptisée AlphaZero a écrasé AlphaGo. Imaginons qu’un modèle A soit meilleur qu’un modèle B : A obtient 99,9 points et B 99 points. S’ils jouent 100 parties et que A les gagne toutes, A semble nettement supérieur. Mais comme professeurs de go pour débutants, A et B seraient tous deux largement suffisants, les meilleurs joueurs humains plafonnant peut-être autour de 80 points. Ce sera le cas pour la plupart des applications grand public (plus de 90 %). Même s’il existe un écart de performance entre modèles ouverts et fermés, il n’est peut-être pas très significatif. Par exemple, si un modèle fermé de reconnaissance vocale se trompe sur un mot sur un million et un modèle ouvert sur un mot sur 100 000, leurs capacités diffèrent d’un facteur 10, mais les deux suffisent pour les usages courants.
En somme, l’écart entre modèles ouverts et fermés n’est sans doute pas déterminant dans la plupart des domaines d’application. Quels seront alors les facteurs clés de la course à l’IA ?
Les facteurs clés de la course à l’IA
Dans la compétition de long terme, qui l’emportera : ceux qui maîtrisent la technologie, ou ceux qui contrôlent les canaux (les points de contact avec les consommateurs) ? Nous sommes peut-être dans une phase où les premiers l’emportent. Mais il est très probable qu’avec le temps, les entreprises disposant de plus de points de contact avec les consommateurs gagnent en importance. Apple, par exemple, est aujourd’hui en retard dans l’IA, mais dispose d’innombrables points de contact avec ses utilisateurs. Lorsque les modèles tiers deviendront plus puissants, Apple en profitera aussi.
