安志合的学习博客

vLLM集成Ray分布式推理模型部署实战

从单机到多节点分布式推理部署，架构上最大的变化是从"单机多卡"的内部通信变成了"跨节点"的网络通信。核心在于如何配置分布式节点和并行策略。

核心架构变化：从TP到...

DM8数据库的备份主要分为物理备份和逻辑备份两大类，两者适用的场景和命令不同。

2026年4月22日 by anzhihe·0评论 · 501 人阅读 · 最后更新: 2026/4/24

这三个参数都用于控制大模型输出的随机性和多样性，是调整模型行为最重要的超参数，但机制不同。简单理解：

Hermes Agent是个啥？

Hermes Agent 是 Nous Research（Hermes 模型背后的团队）开发的自改进（self-improving）AI Agent，核心创新在于内置学...

socat（SOcket CAT）是一个基于命令行的实用程序，其核心原理是在任意两个独立的数据通道之间建立双向传输的桥梁。它本身不解读或处理应用层协议（如HTTP），只是忠实地在指定的源和目的地之间转...

上篇文章中我分享了一些常用的沟通方式：尊重、倾听和情绪控制，并给出了几个我认为很不错的沟通技巧，比如：引起对方的兴趣；过滤信息，简明扼要地表达；用数据和实例说话。这篇文章中，我来分享几个关键的沟通技术...