Transformer

Architecture de réseau de neurones introduite en 2017 (Attention Is All You Need) qui a révolutionné le NLP. Contrairement aux réseaux récurrents, les Transformer utilisent l'attention pour traiter l'entrée complète simultanément. Tous les LLM modernes (GPT, Llama, Mistral, Claude) sont basés sur cette architecture.