Презентация на тему "Многопоточное программирование в OpenMP"

Содержание

• 
  Слайд 1

  Многопоточное программирование в OpenMP

  Киреев Сергей ИВМиМГ

• 
  Слайд 2

  Процессы и потоки

  Процесс – это среда выполнения задачи (программы). Процесс создаётся ОС и содержит информацию о программных ресурсах и текущем состоянии выполнения программы.

• 
  Слайд 3
  

  Поток – это «облегченный процесс». Создается в рамках процесса, Имеет свой поток управления, Разделяет ресурсы процесса-родителя с другими потоками, Погибает, если погибает родительский процесс.

• 
  Слайд 4

  Многопоточное программирование

  Используется для создания параллельных программ для систем с общей памятью И для других целей… Процессор Ядро Ядро Процессор Ядро Ядро Процессор Ядро Ядро Процессор Ядро Ядро Оперативная память

• 
  Слайд 5

  OpenMP – это…

  Стандарт интерфейса для многопоточного программирования над общей памятью Набор средств для языков C/C++ и Fortran: Директивы компилятора #pragma omp … Библиотечные подпрограммы get_num_threads() Переменные окружения OMP_NUM_THREADS

• 
  Слайд 6

  Модель программирования

  Fork-join параллелизм Явное указание параллельных секций Поддержка вложенного параллелизма Поддержка динамических потоков

• 
  Слайд 7

  Пример:Объявление параллельной секции

  #include int main() { // последовательный код #pragma omp parallel { // параллельный код } // последовательный код return 0; }

• 
  Слайд 8

  Пример: Hello, World!

  #include #include int main() { printf(“Hello, World!\n”); #pragma omp parallel { int i,n; i = omp_get_thread_num(); n = omp_get_num_threads(); printf(“I’m thread %d of %d\n”,i,n); } return 0; }

• 
  Слайд 9

  Задание числа потоков

  Переменная окружения OMP_NUM_THREADS >env OMP_NUM_THREADS=4 ./a.out Функция omp_set_num_threads(int) omp_set_num_threads(4); #pragma omp parallel { . . . } Параметр num_threads #pragma omp parallel num_threads(4) { . . . }

• 
  Слайд 10

  Способы разделения работы между потоками

• 
  Слайд 11

  Пример: Директива omp for

  #include #include int main() { int i; #pragma omp parallel { #pragma omp for for (i=0;i

• 
  Слайд 12
  

  #include #include int main() { int i; #pragma omp parallel for for (i=0;i

• 
  Слайд 13

  Пример: Директива omp sections

  #include #include int main() { int i; #pragma omp parallel sections private(i) { #pragma omp section printf(“1st half\n”); for (i=0;i

• 
  Слайд 14

  Пример: Директива omp single

  #include #include int main() { int i; #pragma omp parallel private(i) { #pragma omp for for (i=0;i

• 
  Слайд 15

  Пример: Директива omp master

  #include #include int main() { int i; #pragma omp parallel private(i) { #pragma omp for for (i=0;i

• 
  Слайд 16

  Способы разделения работы между потоками

  Параллельное исполнение цикла for #pragma omp for параметры: schedule - распределения итераций цикла между потоками schedule(static,n) – статическое распределение schedule(dynamic,n) – динамическое распределение schedule(guided,n) – управляемое распределение schedule(runtime) – определяется OMP_SCHEDULE nowait – отключение синхронизации в концецикла ordered – выполнение итераций в последовательном порядке Параметры области видимости переменных…

• 
  Слайд 17

  Пример: Директива omp for

  #include #include int main() { int i; #pragma omp parallel private(i) { #pragma omp for schedule(static,10) nowait for (i=0;i

• 
  Слайд 18

  Области видимости переменных

  Переменные, объявленные внутри параллельного блока, являются локальными для потока: #pragma omp parallel { int num; num = omp_get_thread_num() printf(“Поток %d\n”,num); }

• 
  Слайд 19
  

  Переменные, объявленные вне параллельного блока, определяются параметрами директив OpenMP: private firstprivate lastprivate shared default reduction threadprivate copying

• 
  Слайд 20
  

  Переменные, объявленные вне параллельного блока, определяются параметрами директив OpenMP: private firstprivate lastprivate shared default reduction threadprivate copying Своя локальная переменная в каждом потоке int num; #pragma omp parallel private(num) { num=omp_get_thread_num() printf(“%d\n”,num); }

• 
  Слайд 21
  

  Переменные, объявленные вне параллельного блока, определяются параметрами директив OpenMP: private firstprivate lastprivate shared default reduction threadprivate copying Локальная переменная с инициализацией int num=5; #pragma omp parallel \ firstprivate(num) { printf(“%d\n”,num); }

• 
  Слайд 22
  

  Переменные, объявленные вне параллельного блока, определяются параметрами директив OpenMP: private firstprivate lastprivate shared default reduction threadprivate copying Локальная переменная с сохранением последнего значения (в последовательном исполнении) int i,j; #pragma omp parallel for \ lastprivate(j) for (i=0;i

• 
  Слайд 23
  

  Переменные, объявленные вне параллельного блока, определяются параметрами директив OpenMP: private firstprivate lastprivate shared default reduction threadprivate copying Разделяемая (общая) переменная int i,j; #pragma omp parallel for \ shared(j) for (i=0;i

• 
  Слайд 24
  

  Переменные, объявленные вне параллельного блока, определяются параметрами директив OpenMP: private firstprivate lastprivate shared default reduction threadprivate copying Задание области видимости не указанных явно переменных int i,k,n=2; #pragma omp parallel shared(n) \ default(private) { i = omp_get_thread_num() / n; k = omp_get_thread_num() % n; printf(“%d %d %d\n”,i,k,n); }

• 
  Слайд 25
  

  Переменные, объявленные вне параллельного блока, определяются параметрами директив OpenMP: private firstprivate lastprivate shared default reduction threadprivate copying Переменная для выполнения редукционной операции int i,s=0; #pragma omp parallel for \ reduction(+:s) for (i=0;i

• 
  Слайд 26
  

  Переменные, объявленные вне параллельного блока, определяются параметрами директив OpenMP: private firstprivate lastprivate shared default reduction threadprivate copying Объявление глобальных переменных локальными для потоков int x; #pragma omp threadprivate(x) int main() { . . . }

• 
  Слайд 27
  

  Переменные, объявленные вне параллельного блока, определяются параметрами директив OpenMP: private firstprivate lastprivate shared default reduction threadprivate copying Объявление глобальных переменных локальными для потоков c инициализацией int x; #pragma omp threadprivate(x) #pragma omp copyin(x) int main() { . . . }

• 
  Слайд 28

  Синхронизация потоков

  Директивы синхронизации потоков: master critical barrier atomic flush ordered Блокировки omp_lock_t

• 
  Слайд 29
  

  Директивы синхронизации потоков: master critical barrier atomic flush ordered Выполнение кода только главным потоком #pragma omp parallel { //code #pragma omp master { // critical code } // code }

• 
  Слайд 30
  

  Директивы синхронизации потоков: master critical barrier atomic flush ordered Критическая секция int x; x = 0; #pragma omp parallel { #pragma omp critical x = x + 1; }

• 
  Слайд 31
  

  Директивы синхронизации потоков: master critical barrier atomic flush ordered Барьер int i; #pragma omp parallelfor for (i=0;i

• 
  Слайд 32
  

  Директивы синхронизации потоков: master critical barrier atomic flush ordered Атомарная операция int i,index[N],x[M]; #pragma omp parallelfor \ shared(index,x) for (i=0;i

• 
  Слайд 33
  

  Директивы синхронизации потоков: master critical barrier atomic flush ordered Согласование значения переменных между потоками int x = 0; #pragma omp parallelsections \ shared(x) { #pragma omp section { x=1; #pragma omp flush } #pragma omp section while (!x); }

• 
  Слайд 34
  

  Директивы синхронизации потоков: master critical barrier atomic flush ordered Выделение упорядоченного блока в цикле int i,j,k; double x; #pragma omp parallelfor ordered for (i=0;i

• 
  Слайд 35
  

  Блокировки omp_lock_t void omp_init_lock(omp_lock_t *lock) void omp_destroy_lock(omp_lock_t *lock) void omp_set_lock(omp_lock_t *lock) void omp_unset_lock(omp_lock_t *lock) int omp_test_lock(omp_lock_t *lock) omp_nest_lock_t void omp_init_nest_lock(omp_nest_lock_t *lock) void omp_destroy_nest__lock(omp_nest_lock_t *lock) void omp_set_nest__lock(omp_nest_lock_t *lock) void omp_unset_nest__lock(omp_nest_lock_t *lock) int omp_test_nest__lock(omp_nest_lock_t *lock)

• 
  Слайд 36

  Пример:Использование блокировок

  #include #include #include int x[1000]; int main() { int i,max; omp_lock_t lock; omp_init_lock(&lock); for (i=0;imax) max=x[i]; omp_set_unlock(&lock); } omp_destroy_lock(&lock); return 0; }

• 
  Слайд 37

  Функции OpenMP

  void omp_set_num_threads(int num_threads) int omp_get_num_threads(void) int omp_get_max_threads(void) int omp_get_thread_num(void) int omp_get_num_procs(void) int omp_in_parallel(void) void omp_set_dynamic(int dynamic_threads) int omp_get_dynamic(void) void omp_set_nested(int nested) int omp_get_nested (void) double omp_get_wtick(void) Функции работы с блокировками

• 
  Слайд 38

  Порядок создания параллельных программ

  Написать и отладить последовательную программу Дополнить программу директивами OpenMP Скомпилировать программу компилятором с поддержкой OpenMP Задать переменные окружения Запустить программу

• 
  Слайд 39

  Примерпрограммы:сложение двух векторов

  Последовательная программа #define N 1000 double x[N],y[N],z[N]; int main() { int i; for (i=0;i

• 
  Слайд 40

  Пример программы:сложение двух векторов

  Параллельная программа #include #define N 1000 double x[N],y[N],z[N]; int main() { int i; int num; for (i=0;i

• 
  Слайд 41

  Пример программы:решение краевой задачи

  Метод Зейделя do { dmax = 0; // максимальное изменение значений u for ( i=1; i eps );

• 
  Слайд 42
  

  omp_lock_t dmax_lock; omp_init_lock (&dmax_lock); do { dmax = 0; // максимальное изменение значений u #pragma omp parallel for shared(u,n,dmax) private(i,temp,d) for ( i=1; i eps );

• 
  Слайд 43
  

  omp_lock_t dmax_lock; omp_init_lock (&dmax_lock); do { dmax = 0; // максимальное изменение значений u #pragma omp parallel for shared(u,n,dmax) private(i,temp,d) for ( i=1; i eps ); Синхронизация – узкое место

• 
  Слайд 44
  

  omp_lock_t dmax_lock; omp_init_lock(&dmax_lock); do { dmax = 0; // максимальное изменение значений u #pragma omp parallel for shared(u,n,dmax) private(i,temp,d,dm) for ( i=1; i eps );

• 
  Слайд 45
  

  omp_lock_t dmax_lock; omp_init_lock(&dmax_lock); do { dmax = 0; // максимальное изменение значений u #pragma omp parallel for shared(u,n,dmax) private(i,temp,d,dm) for ( i=1; i eps ); Неоднозначность вычислений

• 
  Слайд 46
  

  omp_lock_t dmax_lock; omp_init_lock(&dmax_lock); do { dmax = 0; // максимальное изменение значений u #pragma omp parallel for shared(u,n,dmax) private(i,temp,d,dm) for ( i=1; i eps );

• 
  Слайд 47
  

  omp_lock_t dmax_lock; omp_init_lock(&dmax_lock); do { dmax = 0; // максимальное изменение значений u #pragma omp parallel for shared(u,n,dmax) private(i,temp,d,dm) for ( i=1; i eps ); Получили метод Якоби

• 
  Слайд 48
  

  Другие способы устранения зависимостей Четно-нечетное упорядочивание Волновые схемы

• 
  Слайд 49
  

  omp_lock_t dmax_lock; omp_init_lock(&dmax_lock); do { // максимальное изменение значенийu dmax = 0; // нарастание волны (nx – размер волны) for ( nx=1; nx0; nx-- ) { #pragma omp parallel for \ shared(u,nx,dm) private(i,j,temp,d) for ( i=N-nx+1; i eps ); Метод Зейделя: волновая схема

• 
  Слайд 50
  

  Волновая схема с разбиением на блоки

• 
  Слайд 51

  Рекомендуемая литературапо OpenMP

  http://openmp.org http://www.parallel.ru/tech/tech_dev/openmp.html https://computing.llnl.gov/tutorials/openMP/