Лекции по параллельным вычислениям. Гергель В.П - 59 стр.

UptoLike

Составители: 

59
зависит от типа задачи, в частности, от рабочего множества адресов и типа об-
ращений, которые связаны с локальностью вычислений и локальностью исполь-
зования данных. Наиболее характерным примером конструкции, обладающей
свойством локальности, является цикл. В циклах на каждой итерации выпол-
няются одни и те же команды над данными, которые обычно получены на
предшествующей операции. Существенное ускорение выполнения циклов дос-
тигается путем его размещения его данных в кэш-памяти. Если объема кэш-
памяти не хватает, задействуется следующий уровень иерархии памяти, и т.д.
Именно кэш-память чаще всего оказывает наиболее существенное влияние на
характеристики программ вообще, и распараллеливаемой задачи в частности.
4. Коммутационные сети. Они определяют накладные расходы время за-
держки передачи сообщения. Оно зависит от латентности (начальной задержки
при посылке сообщений) и длины передаваемого сообщения. На практике о ве-
личине латентности судят по времени передачи пакета нулевой длины.
5. Программное обеспечение. Операционная система, драйвера сетевых
устройств, программы, обеспечивающие сетевой интерфейс нижнего уровня,
библиотека передачи сообщений (MPI), компиляторы оказывают огромное
влияние на производительность параллельного компьютера. В настоящем курсе
лекций эти вопросы не затрагиваются. Достаточно подробное рассмотрение
этих вопросов можно найти в учебных пособиях, посвященных параллельному
программированию [3, 7].
Повышение производительности обычно достигается за счет увеличения
параллельно работающих процессоров. При этом основная проблема органи-
зация связи между процессорами. Конечно, самый простой способ коммутации
процессоров использование общей шины. Однако в таких системах даже не-
большое увеличение числа процессоров, подключаемых к общей шине, делает
ее узким местом.
Применяются различные способы преодоления этой проблемы, основан-
ные на использовании различных схем коммутации. Если число процессоров и
модулей памяти, для связи между которыми используются коммутаторы, вели-