多个模型复用同一张GPU卡方案
上一篇我们使用 Docker部署bge-m3/bge-reranker模型，由于测试环境GPU卡资源紧张，基于成本考虑，需要在同一张卡上运行多个模型。现在以 bge-m3/bge-reranker 模型为例，将两个模型部署在同一张英伟达 L20 GPU卡上。
🎯 同时运行的方案
方案1：使用不同端口分别部署（推荐）
这是最直接和稳定的方式：
# 启动 embe...Continue reading >>
分类：AI世界
Docker部署bge-m3/bge-reranker模型
安装与配置 NVIDIA Container Toolkit
确认前置条件
在开始之前，请确保系统已经安装了NVIDIA GPU驱动程序（NVIDIA 驱动≥535.86.10，支持 CUDA 12.2+），并且可以正常运行 nvidia-smi 命令。同时，Docker Engine（版本建议 Docker 24.0+）也需要被安装好。安装 NVIDIA Contain...
英伟达算力GPU主要型号及参数
1. A100：数据中心AI计算的奠基石
A100是英伟达2020年发布的旗舰级数据中心GPU，基于Ampere架构，主要特性包括：
- 架构：Ampere
- CUDA核心数：6912
- Tensor核心：432
- 显存：40GB/80GB HBM2e
- 带宽：1.6TB/s
- NVLink支持：可连接多个GPU以扩展算力
- 应用场景：深度学习训练、推理、科学计算、大规模数据分析
A100可广泛应用于高性能计算（HPC）和深度学习...
Continue reading >>常用AI模型介绍及多模型组合使用场景
常用AI模型介绍及TEI模型推理框架
bge-m3模型是一种先进的文本嵌入模型，能够将文本转换为高维向量，从而实现高效的文本相似度计算、分类等任务。
bge-reranker-v2-m3是一个轻量级的重排序模型，具有强大的多语言能力，易于部署，推理速度快。
TEI（全称：Text Embeddings Inference）是由Huggingface推出的高性能推理框架，旨在简化和加速文本嵌入（Embed...
Continue reading >>NVIDIA GPU架构演进及使用场景
在人工智能和深度学习领域，NVIDIA 凭借其强大的 GPU 产品线占据着举足轻重的地位。NVIDIA 拥有数十款功能各异的 GPU 产品，可用于部署和运行不同规模的机器学习模型，从边缘设备到大规模数据中心，几乎涵盖了所有应用场景。然而，NVIDIA GPU 的命名规则较为复杂，涉及架构代号（如 Ampere、Hopper）、性能等级（如 A100、A40）以及其他技术特征等多重维度，这使得用户在...
Continue reading >>英伟达GPU参数速查表
◎NVIDIA GPU参数速查表 | 更新日期：20251129GPU型号产品架构产品形态算力情况，挂*为稀疏值显存显存带宽GPU互联详细参数GB300Blackwell
Ultra多芯组合，2个B300和1个Grace CPUFP4：30/38.9P*
FP8：10/20P*
FP16：5/10P*
TF32：2.5/5P*576G HBM3e16TB/sNvlink 2x1.8TB/s查看B300Bl...Continue reading >>
Ultra多芯组合，2个B300和1个Grace CPUFP4：30/38.9P*
FP8：10/20P*
FP16：5/10P*
TF32：2.5/5P*576G HBM3e16TB/sNvlink 2x1.8TB/s查看B300Bl...Continue reading >>