CUDA¶
思源一号平台及AI平台上均部署有CUDA套件。
版本 |
加载方式 |
---|---|
10.1.243 |
module load cuda/10.1.243 思源一号 |
11.3.1 |
module load cuda/11.3.1 思源一号 |
11.4.0 |
module load cuda/11.4.0 思源一号 |
11.5.0 |
module load cuda/11.5.0 思源一号 |
11.8.0 |
module load cuda/11.8.0 思源一号 |
8.0.61 |
module load cuda/8.0.61-gcc-4.8.5 |
9.0.176 |
module load cuda/9.0.176-gcc-4.8.5 |
9.2.88 |
module load cuda/9.2.88-gcc-4.8.5 |
10.0.130 |
module load cuda/10.0.130-gcc-4.8.5 |
10.1.243 |
module load cuda/10.1.243-gcc-4.8.5 |
本文档向您展示如何使用CUDA,包含程序示例,编译,作业脚本示例。
程序示例 CuBLAS¶
编辑 cublas.cu
文件,内容如下:
//Example. Application Using C and CUBLAS: 1-based indexing
//-----------------------------------------------------------
#include <stdio.h>
#include <stdlib.h>
#include <math.h>
#include <cuda_runtime.h>
#include "cublas_v2.h"
#define M 6
#define N 5
#define IDX2F(i,j,ld) ((((j)-1)*(ld))+((i)-1))
static __inline__ void modify (cublasHandle_t handle, float *m, int ldm, int n, int p, int q, float alpha, float beta){
cublasSscal (handle, n-q+1, &alpha, &m[IDX2F(p,q,ldm)], ldm);
cublasSscal (handle, ldm-p+1, &beta, &m[IDX2F(p,q,ldm)], 1);
}
int main (void){
cudaError_t cudaStat;
cublasStatus_t stat;
cublasHandle_t handle;
int i, j;
float* devPtrA;
float* a = 0;
a = (float *)malloc (M * N * sizeof (*a));
if (!a) {
printf ("host memory allocation failed");
return EXIT_FAILURE;
}
for (j = 1; j <= N; j++) {
for (i = 1; i <= M; i++) {
a[IDX2F(i,j,M)] = (float)((i-1) * M + j);
}
}
cudaStat = cudaMalloc ((void**)&devPtrA, M*N*sizeof(*a));
if (cudaStat != cudaSuccess) {
printf ("device memory allocation failed");
return EXIT_FAILURE;
}
stat = cublasCreate(&handle);
if (stat != CUBLAS_STATUS_SUCCESS) {
printf ("CUBLAS initialization failed\n");
return EXIT_FAILURE;
}
stat = cublasSetMatrix (M, N, sizeof(*a), a, M, devPtrA, M);
if (stat != CUBLAS_STATUS_SUCCESS) {
printf ("data download failed");
cudaFree (devPtrA);
cublasDestroy(handle);
return EXIT_FAILURE;
}
modify (handle, devPtrA, M, N, 2, 3, 16.0f, 12.0f);
stat = cublasGetMatrix (M, N, sizeof(*a), devPtrA, M, a, M);
if (stat != CUBLAS_STATUS_SUCCESS) {
printf ("data upload failed");
cudaFree (devPtrA);
cublasDestroy(handle);
return EXIT_FAILURE;
}
cudaFree (devPtrA);
cublasDestroy(handle);
for (j = 1; j <= N; j++) {
for (i = 1; i <= M; i++) {
printf ("%7.0f", a[IDX2F(i,j,M)]);
}
printf ("\n");
}
free(a);
return EXIT_SUCCESS;
}
将以上程序保存为 cublas.cu。
使用cuda进行编译,编译时链接cublas动态库。
在思源平台上的编译命令如下:
$ module load cuda/11.3.1
$ nvcc cublas.cu -o cublas -lcublas
在AI平台上的编译命令如下:
$ module load cuda/10.0.130-gcc-4.8.5
$ nvcc cublas.cu -o cublas -lcublas
a100队列作业脚本示例¶
这是一个名为 a100.slurm
的 单机单卡
作业脚本,该脚本向a100队列申请1块GPU,并在作业完成时通知。
#!/bin/bash
#SBATCH --job-name=cuda_test
#SBATCH --partition=a100
#SBATCH --gres=gpu:1
#SBATCH -N 1
#SBATCH --ntasks-per-node 1
#SBATCH --mail-type=end
#SBATCH --mail-user=YOU@EMAIL.COM
#SBATCH --output=cublas.out
#SBATCH --error=cublas.err
module load cuda/11.3.1
./cublas
用以下方式提交作业:
$ sbatch a100.slurm
DGX2队列作业脚本示例¶
这是一个名为 dgx.slurm
的 单机单卡
作业脚本,该脚本向dgx2队列申请1块GPU,并在作业完成时通知。
#!/bin/bash
#SBATCH --job-name=dgx2_test
#SBATCH --partition=dgx2
#SBATCH --gres=gpu:1
#SBATCH -N 1
#SBATCH --ntasks-per-node 1
#SBATCH --mail-type=end
#SBATCH --mail-user=YOU@EMAIL.COM
#SBATCH --output=cublas.out
#SBATCH --error=cublas.err
module load cuda/10.0.130-gcc-4.8.5
./cublas
用以下方式提交作业:
$ sbatch dgx.slurm
预期结果¶
$ cat cublas.out
1 7 13 19 25 31
2 8 14 20 26 32
3 1728 180 252 324 396
4 160 16 22 28 34
5 176 17 23 29 35
最后更新:
2024 年 11 月 14 日