Posts
多模态大模型实践:图像理解与视觉分析
覆盖主流多模态模型选型对比、图像理解API调用方式、OCR/文档理解/图表解析等实际场景,以及一个完整的运维场景实战:用多模态模型自动分析Grafana截图并生成告警摘要。
Prompt Engineering 完全指南:从入门到工程化
Prompt Engineering 不是玄学,而是有规律可循的工程实践。从基础技巧到企业级工程化,本文覆盖提示词设计的完整方法论,包括 A/B 测试、版本管理、失效模式分析,以及在生产系统中管理提示词的最佳实践。
TensorRT-LLM 推理加速实战:从 engine 编译到 kernel 调优
TensorRT-LLM 是 NVIDIA 端到端推理栈的关键一环,这篇把 engine 编译流程、plugin 机制、量化策略、inflight batching、kernel 调优和生产踩坑都梳理清楚。
OpenAI API 工程化实践:从 Hello World 到生产
OpenAI API 是大多数 LLM 应用开发者的起点,但从 Hello World 到真正可靠的生产系统,中间有很多工程细节需要处理。本文覆盖 Function Calling、Structured Output、Batch API、Embeddings …
vLLM 多机多卡分布式推理:Tensor Parallel 调优与踩坑实录
从单机 8 卡讲到多机多卡,把 vLLM 的 TP/PP 拆分、Ray 启动方式、NCCL 调优、PagedAttention 显存核算和常见翻车场景串成一条完整的落地路径。
MCP 协议实战:给 AI Agent 接上运维工具
Model Context Protocol 让 AI 能够标准化地调用外部工具。本文用 Python 实现一个运维 MCP Server,接入 kubectl、Prometheus、Loki,让 AI 直接查集群状态。
Claude Code CLI 使用指南:AI 驱动的终端编程助手
Claude Code是Anthropic推出的终端AI编程助手,不同于编辑器插件,它在终端里直接操作文件、执行命令、理解整个代码库。本文覆盖安装配置、核心交互模式、CLAUDE.md自定义、K8s排障和自动化脚本场景。
自动化发版实战:semantic-release、release-please、changesets 对比选型
手动维护 CHANGELOG.md、手动打 git tag、手动写 release notes——这些都是十年前的工作方式。现代发版应该是:每次合并 PR 时工具自动决定下一个版本号、自动生成 changelog、自动打 tag、自动发布。本文讲清楚三种方案的 …