Après le succès fulgurant de ChatGPT fin 2022, OpenAI prépare sous la direction de Sam Altman et avec le chef scientifique Ilya Sutskever une nouvelle génération de modèles, entraînée pendant plusieurs mois sur l'infrastructure supercalculateur construite avec Microsoft sur Azure. Le projet, initié en interne dès 2021, mobilise des dizaines de milliers de GPU NVIDIA A100 et une équipe pluridisciplinaire rassemblant chercheurs en apprentissage automatique, ingénieurs en systèmes distribués, spécialistes de la sécurité et évaluateurs humains. Le cadre technique repose toujours sur l'architecture transformeur de 2017, enrichie d'améliorations d'entraînement, d'un mélange d'experts probable — OpenAI ne publie pas les détails — et d'un alignement renforcé par RLHF et par red-teaming systématique. GPT-4 est officiellement annoncé le 14 mars 2023. OpenAI publie un rapport technique de près de cent pages, volontairement dépourvu de détails architecturaux, mais riche en évaluations. Le modèle est multimodal : il accepte désormais texte et images en entrée. Sur les examens standardisés, il obtient des scores bien supérieurs à GPT-3.5 — par exemple, environ le 90e centile à l'examen du barreau américain Uniform Bar Exam, contre le 10e centile pour GPT-3.5 —, une performance de haut niveau à la plupart des concours universitaires (SAT, GRE, biologie, histoire). Il est intégré immédiatement à ChatGPT pour les abonnés payants, à Microsoft Copilot, Bing Chat, et distribué aux développeurs via l'API OpenAI. Des versions ultérieures (GPT-4 Turbo en novembre 2023, GPT-4o en 2024) augmentent la vitesse, la fenêtre de contexte — jusqu'à 128 000 jetons — et les capacités vocales et visuelles en temps réel. GPT-4 devient en 2023 la référence implicite de l'industrie de l'IA générative et déclenche une course planétaire : Google riposte avec Gemini 1.0 puis 1.5, Anthropic avec Claude 2 et 3, Meta avec Llama 2 et 3, Mistral AI en France. Des entreprises réorganisent leurs outils internes, des gouvernements — Union européenne avec l'AI Act adopté en 2024, États-Unis, Royaume-Uni — élaborent des cadres réglementaires. Les débats autour des droits d'auteur sur les corpus d'entraînement, des risques systémiques et de la consommation énergétique se durcissent. GPT-4 clôt symboliquement la première phase de l'ère de l'IA générative ouverte par ChatGPT et consacre Sam Altman comme l'une des figures dominantes du paysage technologique de la décennie.
2023
IA / Grand modèle de langage
GPT-4