#深度学习

• 大语言模型

  LLM 推理优化实战：把 7B 模型部署到生产环境，从 80 tok/s 到 2000 tok/s

  部署 LLM 到生产，第一关不是训练，是推理性能。同样的 7B 模型，从 80 tok/s 到 2000 tok/s 只需 4 步：vLLM 推理引擎 + AWQ 量化 + Flash Attention + Prefix Caching + Continuous Batching。本文讲清每一步的原理、配置、实测数据与成本模型。

• 大语言模型

  多模态 AI 实战：图像、语音、视频的统一智能

  2025 年多模态 AI 全面成熟。本文详解 GPT-5、Claude 4、Gemini 2.5 在图像理解、语音对话、视频分析上的最新能力与实战应用。

• 大语言模型

  DeepSeek V3 / R1：中国 AI 如何颠覆全球格局

  DeepSeek 在 2024-2025 年连续发布 V3、R1 等顶级开源模型。本文深度解读其技术创新、商业影响，以及对中国 AI 产业的启示。

• 大语言模型

  OpenAI o1 / o3 推理革命：慢思考为何如此强大

  o1/o3 重新定义了 AI 推理能力。本文从原理、实测、应用三个角度解读为什么"慢思考"是 2024-2025 最重要的 AI 突破。