Лекция2 - 2015

Свойства рассмотренных типов вычислений

12

Ресурсы

•Exact Geometric Computation Group (EGC group) http://www.cs.nyu.edu/exact/

•Computational Geometry Algorithms Library (CGAL) http://www.cgal.org/

•LEDA library http://www.algorithmicsolutions.com/leda/

13

Архитектурные особенности GPU

•необходимость согласованного выполнения потоков

•невозможность управления выделением памяти из программы, выполняющейся на GPU

•необходимость выполнения большого количества нитей

•высокая латентность оперативной памяти

•достаточно большое количество регистров

14

Архитектура NVIDIA CUDA

расширения языка

•определение типа памяти

•определение типа процедуры

•задание конфигурации выполнения (execution configuration)

•синхронизация нитей блока

•идентификаторы нити и блока

•начиная с CUDA 7 поддерживается стандарт C++11

программный интерфейс

•выделение и освобождение памяти на устройстве CUDA

•пересылка данных

•запуск вычислительных ядер и управление их выполнением

•получение информации об устройстве CUDA

16

Архитектура NVIDIA CUDA

типы процедур

типы памяти

17

Архитектура NVIDIA CUDA

•Fermi

-двухуровневый кэш на чтение и запись для глобальной памяти

-параллельное выполнение ядер для одного приложения

-единое адресное пространство для всех типов памяти

•Kepler

-указатели на функции;

-возможность запускать ядра из других ядер (Dynamic Parallelism);

-возможность нескольким процессорным ядрам запускать вычисления на GPU (Hyper-Q);

-поддержка RDMA (Remote Direct Memory Access): возможность обмена данными с другими ускорителями и устройствами, расположенными в том числе вне данного компьютера, без участия CPU (Nvidia использует также название GPUDirect)

•Maxwell

-улучшение энергоэффективности (GFlops/W);

-увеличено количество регистров, ёмкость разделяемой памяти и количество активных блоков на SM;

-производительность 1,3 TFlops

18

Пример программы

// Код, выполняющийся на GPU

__global__ void VecAdd(float* A, float* B, float* C, int N) { int i = blockDim.x * blockIdx.x + threadIdx.x;

if (i < N)

C[i] = A[i] + B[i];

}

// Код, выполняющийся на CPU int main() {

int N = ...; // Количество элементов массива size_t size = N * sizeof(float);

//Выделенние памяти на хосте float* h_A = (float*)malloc(size); float* h_B = (float*)malloc(size);

//Загрузка входных данных

...

//Выделение памяти на устройстве float* d_A, *d_B, *d_C; cudaMalloc((void**)&d_A, size); cudaMalloc((void**)&d_B, size); cudaMalloc((void**)&d_C, size);

//Копирование данных из памяти хоста в память устройства cudaMemcpy(d_A, h_A, size, cudaMemcpyHostToDevice); cudaMemcpy(d_B, h_B, size, cudaMemcpyHostToDevice);

//Задание размерности решётки

int threadsPerBlock = 256;

int blocksPerGrid = (N + threadsPerBlock – 1) / threadsPerBlock; // Вызов ядра

VECADD<<<BLOCKSPERGRID, THREADSPERBLOCK>>>(D_A, D_B, D_C, N);

//Копирование результата из памяти устройства в память хоста cudaMemcpy(h_C, d_C, size, cudaMemcpyDeviceToHost);

//Освобождение памяти на устройстве

}

Представление рациональных чисел

Рациональные числа представляются обыкновенными дробями: a/b

Числитель и знаменатель представлены в формате, допускающем распараллеливание арифметических операций.

Дополнительные ограничения:

•отсутствует возможность сокращения дробей

•отсутствует преобразование в формат с плавающей запятой

•отсутствует преобразование числителя и знаменателя в позиционную систему счисления

Область эффективного применения вычислений с ослаблением влияния ошибок округления для графических процессоров: вычисления предикатов для массива входных данных

20