Лекции по параллельным вычислениям. Гергель В.П - 30 стр.

UptoLike

Составители: 

30
Рис. 2.3 Архитектура многопроцессорных систем с общей (разделяемой) памя-
тью: системы с однородным (а) и неоднородным (б) доступом к памяти
Использование распределенной общей памяти (distributed shared memory
или DSM) упрощает проблемы создания мультипроцессоров (известны приме-
ры систем с несколькими тысячами процессоров). Однако при построении па-
раллельных алгоритмов в данном случае необходимо учитывать, что время дос-
тупа к локальной и удаленной памяти может различаться на несколько поряд-
ков. Для обеспечения эффективности алгоритма в этом случае следует в явном
виде планировать распределение данных и схему обмена данными между про-
цессорами таким образом, чтобы минимизировать обращения к удаленной па-
мяти.
В заключение обратим внимание на существенные различия векторных и
массивно-параллельных архитектур. В векторной программе явно выполняются
операции над всеми элементами регистра, в параллельной программе каждый
из процессоров выполняет более или менее синхронно машинные команды,
оперируя со своими собственными регистрами. В обоих случаях действия вы-
полняются одновременно, однако каждый из процессоров параллельной ЭВМ
может реализовывать свой алгоритм, отличающийся от алгоритмов других
процессоров.
Указанное отличие является весьма существенным. Справедливо следую-
щее утверждение: алгоритм, который можно векторизовать, можно и распарал-