推理教程 [4]
MambaIR图像修复推理过程
MambaIR是基于Mamba的改进算法，专注于通过深度学习技术实现从低分辨率图像（LR，Low-Resolution）到高分辨率图像（HR，High-Resolution）的精细重建。该方法引入了多个关键模块，其中包括创新性的 2DSSM模块（2D Spatial-Spectral Mapping），以增强模型对图像纹理、边缘和色彩信息的保真度。
原码链接：https://github.com/
...
Qwen2.5-7B实例推理教程
一.概述
Qwen 是阿里巴巴集团 Qwen 团队研发的大语言模型和大型多模态模型系列。目前，大语言模型已升级至 Qwen2.5 版本。无论是语言模型还是多模态模型，均在大规模多语言和多模态数据上进行预训练，并通过高质量数据进行后期微调以贴近人类偏好。Qwen 具备自然语言理解、文本生成、视觉理解、音频理解、工具使用、角色扮演、作为 AI Agent 进行互动等多种能力。
最新版本 Qwen2.5
...
SAM2Long推理过程
SAM2Long (Segment Anything Model for Long Videos) 是一种面向长视频语义分割任务的技术解决方案，其设计理念来源于 Segment Anything Model (SAM) 的先进能力，同时针对长视频中的时序特性和高效推理需求进行了扩展和优
1. 运行环境
类别
详细信息
CPU
12 vCPU Intel(R) Xeon(R) Plat
...
vLLM测试大模型推理性能的一般方法
一 概述
vLLM是一个开源的推理服务框架
二 准备环境
先创建一个conda环境：
conda create -n vllm python=3.10 -y
conda active vllm
pip install vllm
附一个完整的环境版本：
(vllm) qiql@d8fbcca68988:~$ pip list
Package Ve
...