Составители:
Рубрика:
решения сложных задач при использовании имеющейся элементной
базы. Преполагалось, что вычислительные модули (процессоры или
компьютеры) можно соединить между собой так, чтобы решение за-
дач на полученной вычислительная системе ускорялось во столько
раз, сколько использовано в ней вычислительных модулей. Одна-
ко, достаточно быстро стало ясно, что для интересующих сложных
задач упомянутое ускорение, как правило, достичь невозможно по
двум причинам: 1) любая задача распараллеливается лишь частич-
но (при полном распараллеливании параллельные части не могут
взаимодействовать в процессе счета и представляют собой отдель-
ные задачи меньшего размера, так что использование параллель-
ной системы теряет смысл), 2) коммуникационная среда, связываю-
щая отдельные части параллельной системы, работает значительно
медленнее процессоров, так что передача информации существенно
задерживает вычисления.
Параллельное программирование невозможно без представле-
ния о методах решения возникающих задач, об архитектуре па-
раллельных вычислительных систем и о математическом обеспече-
нии, которое имеют эти системы. Важно знать класс методов, удоб-
ных для реализации на параллельной системе, и алгоритмическую
структуру этих методов, а также изучить средства параллельного
программирования.
В данном курсе рассматриваются некоторые проблемы высоко-
производительных вычислений на параллельных вычислительных
системах, но слово "вычисления" здесь понимается в расширенном
смысле: это не обязательно решение чисто вычислительных задач;
излагаемые средства применимы для обработки самой разнообраз-
ной информации.
Любознательным читателям, жаждущим расширить свой кру-
гозор, рекомендуются книги [1-4]; эти книги существенно исполь-
зовались при подготовке данного курса.
Подготовка издания выполнена при частичной финансовой
поддержке РФФИ (гранты № 04-01-00692, 04-01-00026, 07-01-00269
и 07-01-00451).
4
