#Transformer
-
大语言模型 向量数据库与 Embeddings 实战:从原理到生产部署
2025 年所有 AI 应用都在做一件事:把"语义"塞进数据库。RAG、Agent、推荐系统底层都是向量检索。本文从原理到生产,搞懂 Embedding 模型选型、向量数据库对比(Qdrant/pgvector/Milvus)、Hybrid Search 混合检索、量化与索引优化。
-
大语言模型 AI 微调实战:LoRA / QLoRA 让 7B 模型学会你的业务
通用大模型很强,但不懂你的业务。微调是 AI 应用从 demo 走向生产的关键一步。本文带你从原理到实战,在单张 A100 上用 LoRA/QLoRA 微调 7B 模型,并把它部署到生产环境。
-
大语言模型 LLM 推理优化实战:把 7B 模型部署到生产环境,从 80 tok/s 到 2000 tok/s
部署 LLM 到生产,第一关不是训练,是推理性能。同样的 7B 模型,从 80 tok/s 到 2000 tok/s 只需 4 步:vLLM 推理引擎 + AWQ 量化 + Flash Attention + Prefix Caching + Continuous Batching。本文讲清每一步的原理、配置、实测数据与成本模型。
-
大语言模型 DeepSeek V3 / R1:中国 AI 如何颠覆全球格局
DeepSeek 在 2024-2025 年连续发布 V3、R1 等顶级开源模型。本文深度解读其技术创新、商业影响,以及对中国 AI 产业的启示。