posts

Posts

221
分类 标签
Posts 封面
大模型

多模态大模型实践:图像理解与视觉分析

覆盖主流多模态模型选型对比、图像理解API调用方式、OCR/文档理解/图表解析等实际场景,以及一个完整的运维场景实战:用多模态模型自动分析Grafana截图并生成告警摘要。

◷ 5 min 多模态 · GPT-4o · 视觉分析
Posts 封面
大模型

Prompt Engineering 完全指南:从入门到工程化

Prompt Engineering 不是玄学,而是有规律可循的工程实践。从基础技巧到企业级工程化,本文覆盖提示词设计的完整方法论,包括 A/B 测试、版本管理、失效模式分析,以及在生产系统中管理提示词的最佳实践。

◷ 4 min Prompt Engineering · 大模型 · LLM
Posts 封面
推理部署

TensorRT-LLM 推理加速实战:从 engine 编译到 kernel 调优

TensorRT-LLM 是 NVIDIA 端到端推理栈的关键一环,这篇把 engine 编译流程、plugin 机制、量化策略、inflight batching、kernel 调优和生产踩坑都梳理清楚。

◷ 10 min TensorRT-LLM · TensorRT · 推理加速
Posts 封面
大模型

OpenAI API 工程化实践:从 Hello World 到生产

OpenAI API 是大多数 LLM 应用开发者的起点,但从 Hello World 到真正可靠的生产系统,中间有很多工程细节需要处理。本文覆盖 Function Calling、Structured Output、Batch API、Embeddings …

◷ 8 min OpenAI · 大模型 · API开发
Posts 封面
推理部署

vLLM 多机多卡分布式推理:Tensor Parallel 调优与踩坑实录

从单机 8 卡讲到多机多卡,把 vLLM 的 TP/PP 拆分、Ray 启动方式、NCCL 调优、PagedAttention 显存核算和常见翻车场景串成一条完整的落地路径。

◷ 10 min vLLM · LLM · 推理部署
Posts 封面
AIOPS

MCP 协议实战:给 AI Agent 接上运维工具

Model Context Protocol 让 AI 能够标准化地调用外部工具。本文用 Python 实现一个运维 MCP Server,接入 kubectl、Prometheus、Loki,让 AI 直接查集群状态。

◷ 5 min MCP · AI Agent · Claude
Posts 封面
AI工具

Claude Code CLI 使用指南:AI 驱动的终端编程助手

Claude Code是Anthropic推出的终端AI编程助手,不同于编辑器插件,它在终端里直接操作文件、执行命令、理解整个代码库。本文覆盖安装配置、核心交互模式、CLAUDE.md自定义、K8s排障和自动化脚本场景。

◷ 4 min Claude Code · CLI · AI编程
Posts 封面
DevOps

自动化发版实战:semantic-release、release-please、changesets 对比选型

手动维护 CHANGELOG.md、手动打 git tag、手动写 release notes——这些都是十年前的工作方式。现代发版应该是:每次合并 PR 时工具自动决定下一个版本号、自动生成 changelog、自动打 tag、自动发布。本文讲清楚三种方案的 …

◷ 8 min Release · SemVer · Changelog