这是一个深入剖析多模态人工智能发展历程的知识库，涵盖从Vision Transformer到大型多模态模型的完整技术演进路径。适合AI研究者、工程师、学生深入学习多模态AI技术发展脉络，快速掌握领域核心知识和最新进展。无论是学术研究还是工程实践，都能从中获得有价值的技术洞察和实用指导。

tiny-universe

该项目是用 Python 实现的轻量级 vLLM（大语言模型推理引擎）项目，核心代码仅 1000 多行。它结构清晰、易于阅读，推理速度媲美 vLLM 原版，并集成了前缀缓存（Prefix Caching）、张量并行（Tensor Parallelism）和 Torch 编译等推理优化技术。

该项目是帮助初学习者系统地学习大语言模型（LLM）原理与实践的教程。通过详细的教程和实战案例，循序渐进地带领读者深入了解自然语言处理（NLP）基础、Transformer 架构、预训练语言模型的基本原理，并动手实现和训练自己的大语言模型。

原创 100+ 架构图，系统讲解大模型、强化学习，涵盖：LLM / VLM 等大模型原理、训练算法（RL、RLHF、GRPO、DPO、SFT 与 CoT 蒸馏等）、效果优化与 RAG 等