admin [39]

【创造赛博世界】AI短视频特效创作解析
From:有光AI Date:2024.3.19 同学们好,今天我们来聊聊AI短视频特效制作。 认识特效 首先,什么是特效呢?顾名思义,就是特殊的效果。一个相对完整的定义是:特效是指在戏剧、电影、电视、电子游戏和模拟器行业中用于模拟故事或虚拟世界中在现实里存在或不存在的事物的技术。 分类 特效可以分为特殊摄影(将不存在的事物实现的技术之一)、特殊美术与合成(即视觉效果)。 我们先来看一 ...
使用SSH密钥连接云主机及公钥配置指南(包含Xshell及自动脚本配置)
一. 背景介绍:为什么要用SSH连接云主机? SSH(Secure Shell)是一种加密网络协议,用于在不安全的网络上安全地进行系统登录和其他远程操作。例如,我们在租用云服务器时,通过SSH连接云主机,可以更方便地执行命令、部署应用、管理文件。 二. SSH密钥连接的好处 安全性高:相比于密码登录,密钥认证不易被暴力破解。 登录便捷:配置密钥后,无需每次输入密码。 支持自动化:脚本化操作更加 ...
服务器GPU显存带宽测试方法【bandwidth】
一 概述 本文档将对GPU的显存带宽进行测试说明,通过使用cuda-sample的程式,对GPU to Host,Host to GPU, GPU to GPU三种模式进行测试 二 准备 在测试之前,需要正确安装好GPU驱动和CUDA 如果是Nvlink的机器,除了安装常规的GPU驱动,还需要安装nvidia-fabricmanager服务,此部分可以参考:https://docs.aheadai ...
如何安装正确版本的PyTorch
一. 概述 当你首次使用带有GPU的云主机时,通常需要安装一个与主机CUDA版本和GPU架构兼容的PyTorch版本。选择正确的版本可以充分利用GPU的计算能力,避免运行时错误或性能问题。 二.环境检查 在安装PyTorch之前,需要确认当前环境中的GPU、CUDA版本以及PyTorch版本。 2.1 检查CUDA版本 在终端中运行以下命令: nvcc –version 你会看到类似如下输出: ...
NVIDIA SXM4 机型安装驱动和nvidia-fabricmanager服务【centos7.9】
一 概述 一般的GPU使用是PCIe与主机通信,但这样的GPU的通信速率会被PCIe通道限制,PCIe4.0 X16的理论速率是32GB/s,为了解决这个问题,NVIDIA提出了NVswitch方案,推出了SXM机型的GPU,A100,H100这样的GPU都分别设有PCIe和SXM版本,到SXM4版本,GPU之间的通信速率可以达到600GB/s,完全脱离于CPU进行卡间通信,极大的提高了GPU的利 ...
AI极简科普(下):AI应用与未来
AI极简科普(下):AI应用与未来 From:有光AI Date:2024年8月10日 经过前两章对 AI 历史和原理的探讨,相信你一定对人工智能有了更深入的理解了。在本章中,我们将聚焦于 AI 的实际应用及其未来发展。AI 正在改变各行各业,从医疗到金融,再到自动驾驶。我们将探讨这些应用如何提升效率、改善生活,并展望 AI 未来的发展趋势与挑战。随着技术的不断进步,AI 的未来充满了无限可 ...
服务器存储性能测试方法【iozone】
iozone 官网:https://www.iozone.org/ 一 IO 测试定义 Write 测试向一个新文件写入的性能,当一个新文件被写入时,不仅仅是那些文件中的数据需要被存储,还包括那些用于定位数据存储在存储介质的具体位置的额外信息。这些额外信息被称作“元数据”。它包括目录信息,所分配的空间和一些与该文件有关但又并非该文件所含数据的其他数据。这些额外信息会导致Write的性能通常会比 ...
vLLM测试大模型推理性能的一般方法
一 概述 vLLM是一个开源的推理服务框架 二 准备环境 先创建一个conda环境: conda create -n vllm python=3.10 -y conda active vllm pip install vllm 附一个完整的环境版本: (vllm) qiql@d8fbcca68988:~$ pip list Package Ve ...
AI极简科普(中):AI概念与原理
AI极简科普(中):AI概念与原理 From:有光AI Date:2024年8月10日 在上一章节中,我们回顾了 AI 的发展历程,了解了它如何从科幻走进现实。在本章中,我们将深入探讨 AI 的概念与原理,揭示其工作的核心机制。AI 不仅仅是一个技术名词,而是由复杂的算法、机器学习和深度学习等技术构成的庞大体系。通过理解这些基本原理,我们可以更好地把握 AI 的潜力与局限,为未来的创新应用打 ...
服务器内存带宽测试方法【stream】
一 概述 内存带宽为处理器可以从内存读取数据或将数据存储到内存的速率 具体计算方式可以举例说明如下: 节点单节点理论内存带宽=3200MHz*64bit*8通道*2颗CPU/8bit/1024=400GB/s 二 编译 内存带宽一般采用stream.c程序进行编译,根据笔者的经验,Intel编译器编译得到的程序性能较优,基本上测试出来的内存带宽都在理论值的70%以上,Intel编译器安装方法可以参 ...