Skip to content

📰 This repository contains time measurements of various algorithms on the CPU and GPU using PyCuda: matrix multiplication, Pi computation, and bilateral filtering.

Notifications You must be signed in to change notification settings

Alexieviri/Parallel-Computing-on-CUDA

 
 

Repository files navigation

Лабораторная работа 0

ЗАДАНИЕ

Задача : реализовать алгоритм перемножения матриц
Язык : C++ или Python
Входные данные : 2 матрицы размером от 100х100 до 2000х2000.
Выходные данные : проверка корректности перемножения + время вычисления
Реализация должна содержать 2 функции перемножения матриц : на CPU и на GPU с применением CUDA.
Отчет о проделанной лабораторной работе - это git-репозиторий с исходным кодом реализации + описание проделанной работы там же в readme.
Необходимо описать реализацию, объяснив, что конкретно было распараллелено и почему.
Провести эксперименты : перемножить матрицы разных размеров, посчитать ускорение. Результаты привести в виде таблицы.

СРЕДА

Язык программирования: Python, v = 3.x.x
IDE: google colab
GPU: NVIDIA Tesla T4

ОПИСАНИЕ

В ходе работы был написан код для двух экспериментов - сравнения ускорения для умножения матриц при помощи GPU, в том числе и с разделяемой памятью, относительно параллельного алгоритма перемножения матриц. Алгоритм с разделяемой памятью реализует блочный алгоритм перемножения матриц, когда данные загружаются в разделяемую память частями, после чего промежуточные результаты суммируются. Второй алгоритм с более простой реализацией производит многократное копирование данных для нити и перемножает матрицы стандартным способом.

Для эксперимента были использованы матрицы, размерности которых кратны 32, чтобы загрузка блоков GPU была максимальной.

РЕЗУЛЬТАТЫ ВЫЧИСЛЕНИЙ

Время на CPU Время на GPU Разница
128 2.354504 0.920238 1.434266
256 19.088963 0.272060 18.816903
512 153.401633 0.297645 153.103988

Лабораторная работа 1. PiCalc

СРЕДА

Язык программирования: Python, v = 3.x.x
IDE: google colab
GPU: NVIDIA Tesla T4

ОПИСАНИЕ

Реализованы функции на GPU/CPU

  • GPU: используется pycuda -> SourceModule содержит реализацию алгоритма на GPU:

    Есть две последовательности: x, y ; -> Считаем temp = x^2 + y^2; -> Если temp < 1 , то возвращаем 1 (к счётчику прибавляем 1), иначе возвращаем 0 (оставляем значение счётчика без изменений); -> Выполняется атомарная операция сложения; -> Домножение на 4/n будет осуществлено позже. Размер блока: (128,1,1), т.к. массивы одномерные; Размер грида: (int(n/(128 * block[0])), 1)

  • CPU: алгоритм такой же, как у GPU, домножение осуществляется в цикле.

РЕЗУЛЬТАТЫ ВЫЧИСЛЕНИЙ

  • Произведены замеры времени и сравнение с числом пи, предоставленым библиотекой numpy:
n GPU время CPU время Ускорение Полученное Pi Сравнение с Pi из NumPy
65536*16 0.012803792953491211 1.2068207263946533 94.25493920265163 3.1400413513183594 0.001551302271433741
1048576*16 0.06619715690612793 18.788211345672607 283.8220283737498 3.1419284343719482 0.0003357807821551262
16777216*16 0.9365365505218506 310.75218868255615 331.80999557294473 3.1415703296661377 2.2323923655420685e-05

Лабораторная работа 2. Bilateral filtering

СРЕДА

Язык программирования: Python, v = 3.x.x
IDE: google colab
GPU: NVIDIA Tesla T4

ОПИСАНИЕ

  • Лабораторная написана на языке Python 3 с использованием библиотеки 'Numba'
  • Для получения массива чисел, характеризующих цвет пикселя использовалась библиотека 'Pillow'
  • Файлы с изображениями смотреть в папке Lab2_Bilateral, они подписаны

Оригинальное изображение:

japan_orig

Изображение после наложения Gray Scale:

japan_blackandwhite

После наложения двустороннего фильтра силами CPU:

japan_CPU

После наложения двустороеннего фильтра силами GPU:

japan_GPU

Сравнительная таблица с результатами:

Время CPU Время GPU Множитель ускорения
32.63468098640442 0.4001603126525879 81.5540171139792

Вывод:

  • Использование GPU в рамках задачи "билатеральной" фильтрации дает колоссальный прирост в скорости.

About

📰 This repository contains time measurements of various algorithms on the CPU and GPU using PyCuda: matrix multiplication, Pi computation, and bilateral filtering.

Topics

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages

  • Jupyter Notebook 100.0%