Grands modèles de langage: Catalogue de la section

Catalogue des articles du Systems Analysis Wiki sur le thème des Grands modèles de langage (large language model, LLM)

Site web : systems-analysis.ru

Grands modèles de langage (LLM)

• Grands modèles de langage
• Fondements théoriques des LLM
• Architectures des LLM
• Architecture Transformer
• Encoder
• Decoder
• Encoder-only
• Decoder-only
• Encoder-Decoder
• Tokenization
• Token
• Embedding
• Fenêtre de contexte
• Entraînement des grands modèles de langage
• Pré-entraînement
• Fine-tuning
• In-Context Learning
• Top-p
• Top-k
• Température (LLM)
• Hallucinations et réponses incorrectes des LLM
• Distorsions des données et biais
• Oubli contextuel
• Biais dans la génération
• Mixture-of-Experts (MoE)
• Réduction des erreurs des LLM
• Optimisation des coûts d'utilisation des LLM
• Modèles Open-weight et Closed-weight
• Constitutional AI
• Explainable AI
• RLHF
• Direct Preference Optimization
• Low‑Rank Adaptation (LoRA)
• PEFT
• Bases de données vectorielles
• LLM multimodaux
• Jailbreaks
• FlashAttention
• FlashAttention-2
• FlashAttention-3
• Séquences d'arrêt
• Génération de données synthétiques
• Raisonnement multimodal
• Perroquet stochastique

Catalogue des grands modèles de langage (LLM)

• T5
• LaMDA
• PaLM
• BERT
• Chinchilla
• Huawei PanGu
• IBM Granite
• BLOOM
• Mixtral
• DBRX
• GPT
• Claude
• Gemma
• Gemini
• LLaMA
• Mistral
• DeepSeek
• Grok
• Qwen
• Phi
• Jais
• Jamba
• Cohere
• Falcon
• Perplexity
• YandexGPT
• Huggingface
• Grands modèles de langage d'OpenAI
• Grands modèles de langage de Google
• Grands modèles de langage. Catalogue de modèles

Ingénierie des prompts (LLM)

• Prompt
• Ingénierie des prompts
• Prompt et contexte
• Techniques de base de l'ingénierie des prompts
• Retrieval‑Augmented Generation (RAG)
• Chain-of-Thought Prompting
• Few-shot et Zero-shot
• Role Prompting
• Tree of Thoughts
• Self‑refine prompting
• Self-consistency prompting
• Meta Prompting
• Multi‑agent prompting
• Prompt compression
• Program of Thoughts Prompting
• Generated Knowledge Prompting
• Multimodal CoT Prompting
• Graph-of-Thoughts
• Chain-of-Verification
• Toolformer
• Least-to-Most Prompting
• Automatic Prompt Engineer (APE)
• ReAct Prompting
• Function Calling
• Patrons RAG
• GraphRAG
• MM-RAG (Multimodal RAG)
• Hypothetical Document Expansion
• Hybrid Retrieval
• Packaging & Context Handling
• Ingénierie des prompts. Catalogue de la section

Agents IA (LLM)

• Agent IA
• Agentic workflows
• Multi‑Agent Frameworks
• LangChain
• AutoGPT
• Multi-Agent Debate

Évaluation et comparaison métrique (LLM)

• Évaluation des LLM
• Métriques de qualité des LLM
• Perplexité
• BLEU
• ROUGE
• BERTScore
• METEOR
• MAUVE
• LLM‑as‑a‑Judge

Benchmarks et datasets (LLM)

• Benchmarks des LLM
• MMLU benchmark
• HellaSwag benchmark
• HumanEval benchmark
• TruthfulQA benchmark
• MT-Bench benchmark
• GLUE benchmark
• SuperGLUE
• Humanity's Last Exam
• GSM8K (Grade School Math 8K)
• WinoGrande benchmark
• AgentHarm
• SafetyBench
• SWE-bench
• BIG-bench
• MATH benchmark
• FLORES‑200
• RealToxicityPrompts
• PromptRobust
• BOLD
• BBQ
• LMArena
• Classement ELO des modèles