Содержание к диссертации
Введение
Глава 1. Методы построения системы визуализации для массивно-параллельных вычислительных систем 22
1.1 Функциональная схема системы визуализации для массивно- параллельных вычислительных систем 22
1.1.1 Метод работы системы визуализации в режиме постобработки 27
1.1.2 Метод визуализации в процессе выполнения параллельной программы на основе использования библиотечных функций 30
1.1.3 Метод визуализации в процессе выполнения параллельной программы через файлы 32
1.2 Организация данных для системы визуализации 34
1.3 Структура программного комплекса системы визуализации 40
1.4 Выводы по главе 46
Глава 2. Параллельные методы для системы визуализации результатов научных вычислений 50
2.1 Метод построения изображений на вычислительных узлах 52
2.2 Параллельный метод сжатия видео 59
2.3 Метод интерполяции для системы визуализации 70
2.4 Метод постобработки видео для системы визуализации 86
2.5 Выводы по главе 97
Глава 3. Анализ эффективности визуализации на примере прикладных задач .100
3.1 Применение системы визуализации в задачах молекулярного моделирования 101
3.2 Применение системы визуализации в задаче моделирования коммуникационной сети 111
3.3 Применение системы визуализации в задаче поиска собственных лиц в биометрии 116
3.4 Выводы по главе 119
Заключение 122
Список литературы 123
- Метод визуализации в процессе выполнения параллельной программы на основе использования библиотечных функций
- Структура программного комплекса системы визуализации
- Метод постобработки видео для системы визуализации
- Применение системы визуализации в задаче моделирования коммуникационной сети
Введение к работе
Актуальность работы.
Работа посвящена исследованию и разработке методов и программных средств визуальной поддержки научных вычислений, проводимых с использованием современных массивно-параллельных вычислительных систем (МПВС).
Теоретические исследования и практические разработки, направленные на поддержку визуализации научных данных, активно ведутся в настоящее время как зарубежными, так и российскими учеными. В общей схеме процесса визуального анализа результатов научных вычислений, проводимых на МПВС, можно выделить следующие основные этапы: накопление данных в процессе расчета; организация хранения и передачи данных на машину пользователя; отображение данных на дисплейных устройствах. В условиях массивного параллелизма визуализация результатов научных вычислений имеет ряд особенностей. Вычислительный эксперимент на МПВС может осуществляться в течение длительного времени. В связи с этим возникает необходимость визуализации результатов расчетов на различных этапах вычислительного эксперимента, в том числе, в динамике выполнения параллельной программы. Получаемый в таких экспериментах объем данных может быть очень большим. Например, в задачах молекулярного моделирования, проводимых на МПВС Blue Gene/P на 2048 процессорах, время одного вычислительного эксперимента составляет порядка 20 часов, а объем получаемых при этом данных составляет 200 гигабайт.
Определим несколько подходов к организации процесса визуализации на МПВС. Самый простой сценарий работы системы визуализации - передача данных с вычислительных узлов на машину пользователя с последующей их обработкой. Недостатком такого подхода является необходимость передачи большого объема данных по сети. Следующий сценарий работы - установка системы визуализации на интерфейсной машине, подключенной высокоскоростным соединением к хранилищу данных. Этот подход более сложный в реализации, но решает проблему передачи данных большого объема по сети. Для проведения длительных вычислительных экспериментов на МПВС важно обеспечить возможность визуализации данных в процессе счета. Для этого должна быть предусмотрена возможность интеграции системы визуализации с процессом вычислений. Для систем, устанавливаемых на интерфейсной машине, такое взаимодействие возможно через промежуточное сохранение данных. Это означает существенную нагрузку на узлы, через которые
происходит коммуникация между интерфейсной машиной и вычислительными узлами, что замедляет процесс расчетов. Наиболее перспективным представляется сценарий, позволяющий осуществлять визуализацию непосредственно на вычислительных узлах.
Важным требованием к системе визуализации для МПВС является построение изображений высокого качества с сохранением большого количества деталей. Для получения высококачественных изображений необходимо использование параллельных методов построения изображений на вычислительных узлах, а так же параллельных методов обработки и сжатия полученных изображений.
Задача исследования и разработки методов и программных средств визуализации результатов научных вычислений для массивно-параллельных вычислительных систем представляется актуальной в настоящее время. Исследование этого вопроса имеет как теоретическую, так и практическую значимость.
Цель диссертации
Целью диссертации является исследование и разработка методов и программных средств для визуальной поддержки высокопроизводительных научных вычислений на массивно-параллельных вычислительных системах.
Из проведенного анализа сценариев работы, особенностей и ограничений современных систем визуализации были сформулированы следующие задачи для диссертации:
1. Провести исследование и разработать систему визуализации с учетом
особенностей организации МПВС. Система должна обеспечивать возможность
визуализации как в процессе работы параллельных прикладных программ, так и после
их завершения.
2. Исследовать и разработать метод организации данных в системе визуализации
и метод построения изображений для различных типов дисплейных устройств.
3. Провести исследование и разработать параллельные методы обработки
изображений для снижения количества временных ресурсов, требуемых для построения
изображения.
4. Разработать и реализовать программный комплекс, реализующий
предложенную систему и методы визуализации для МПВС. Провести исследование
эффективности системы визуализации на данных прикладных задач.
Научная новизна.
1. Предложены новые методы организации системы визуализации результатов научных вычислений, учитывающие особенности современных массивно-параллельных
вычислительных систем и обеспечивающие визуализацию данных как в процессе выполнения параллельных прикладных программ, так и после их завершения.
2. Предложены и исследованы новые параллельные алгоритмы обработки
изображений и видео для системы визуализации:
метод адаптивной интерполяции для построения кадра;
метод улучшения визуального качества построенного изображения;
метод многопоточного сжатия видео с оптимизацией загрузки процессоров.
3. Разработаны новые методы построения программного комплекса системы
визуализации, предложены новые методы организации данных и методы построения
изображений для системы визуализации.
Практическая значимость.
Разработан программный комплекс, реализующий систему визуализации научных данных на МПВС в соответствии с предложенным методом организации системы визуализации. Разработанный комплекс реализован для массивно-параллельной вычислительной системы Blue Gene/P.
Исследована применимость разработанного программного комплекса для ряда прикладных задач. Разработанная система может быть использована для визуальной поддержки вычислений, проводимых с использованием МПВС, в различных научных областях. В настоящее время система доступна и используется прикладными пользователями на вычислительной системе Blue Gene/P в МГУ.
Апробация работы и публикации. Результаты работы докладывались и обсуждались на следующих конференциях и семинарах:
3-я Международная конференция «Information systems and grid technologies» (ISGT'2009), Болгария, София, 2009
27-я Международная конференция по параллельным вычислениям РагСо 2009, Франция, Лион, 2009
3-я Международная конференция «Параллельные вычислительные технологии» (ПАВТ 2009), Россия, Нижний Новгород, 2009
6-я и 7-я Международные конференции "Телевидение: передача и обработка изображений", Россия, Санкт-Петербург, 2008 и 2009;
15-я и 16-я Международные конференции Графикой, Россия, Новосибирск, 2005 и 2006
3-я Всероссийская научно-техническая конференция "Методы и средства
обработки информации" (МСО-2009), Россия, Москва, 2009;
10-я и 11-я Всероссийские суперкомпьютерные конференции серии «Научный сервис в сети Интернет», Россия, Новороссийск, 2008 и 2009;
3rd and 4th European Ph.D. Schools on Scientific Computing, телеконференции между университетами Ирландии, России, Украины и Китая, 2008 и 2009
Научная конференция «Тихоновские чтения», Россия, Москва, 2009
Совместный семинар факультета ВМК МГУ и ШМ Zurich Research Laboratory, Россия, Москва, 2009
Семинар кафедры Автоматизации систем вычислительных комплексов факультета ВМиК МГУ под руководством Королева Л.Н;
Научно-исследовательский семинар имени М.Р. Шура-Бура;
Семинар «Обратные задачи математической физики» под руководством Бакушинского А.Б, Тихонравова А.В., Яголы А.Г.;
Семинар по обработке экспериментальных данных при помощи нейронных сетей и генетических алгоритмов под руководством Королева Л.Н. и Поповой Н.Н.;
Семинар группы обработки изображений и видео сигналов Московского Исследовательского Центра компании Самсунг Электронике.
Основные результаты работы изложены в 14-и научных публикациях [1-14]. По тематике диссертации получен 1 патент РФ, подготовлено 5 заявок на патенты РФ.
Структура и объем работы. Диссертация состоит из введения, трех глав, заключения и списка литературы. Содержание работы изложено на 131 странице. Список литературы включает 98 наименований. В работе содержится 42 рисунка и 7 таблиц.
Метод визуализации в процессе выполнения параллельной программы на основе использования библиотечных функций
Функциональная схема системы визуализации представляет собой описание компонент системы визуализации, их функциональности, организации их взаимодействия. Разработка требований к функциональности и сценарию работы системы визуализации может быть обусловлена несколькими факторами. Для специализированных систем визуализации одним из основных факторов является прикладная научная область, для которой осуществляется визуализация. Прикладная область определяет, как организованы данные в процессе визуализации, как они транслируются в объекты, которые будут визуализироваться, и их характеристики. При разработке универсальной системы визуализации более значимым фактором является организация функциональности системы визуализации в соответствии с устройством аппаратного комплекса, на котором будет осуществляться визуализация. В частности при проектировании универсальной системы визуализации для массивно-параллельного вычислительного комплекса следует учитывать особенности организации вычислений, особенности работы с данными большого объема, особенности условий взаимодействия программы вычислений и системы визуализации.
В настоящее время архитектура универсальных систем визуализации построена таким образом, что система может быть установлена на различных платформах. При этом в большинстве случаев используется клиент-серверная модель взаимодействия. Например, такой подход применяется в системах ParaView и Visit. Во многих случаях использование такой модели достаточно эффективно, т.к. для вычислений используется комплекс с небольшим числом процессоров, и на межпроцессорное взаимодействие тратится не так много времени. Однако с ростом количества вычислительных узлов и усложнением архитектуры многопроцессорного вычислительного комплекса возможна организация более эффективного взаимодействия за счет введения в систему визуализации промежуточных подсистем. Такие промежуточные подсистемы в большинстве случаев позволяют более эффективно организовывать вычисления при визуализации и снизить нагрузку на основной многопроцессорный вычислитель. Использование вспомогательных вычислительных ресурсов необходимо при реализации in situ режима, в котором нужно учитывать особенности взаимодействия вычислительной программы и программы визуализации.
В качестве промежуточных звеньев можно использовать вспомогательные графические процессоры, как это реализовано в высокопроизводительной системе университета Арагоны [68-69]. В этой системе для построения визуализации предложено использовать не основные мощности вычислителя, а специальный кластер из графических процессоров, соединенных напрямую с узлами ввода вывода. Это достаточно эффективное решение, позволяющее оптимизировать процесс визуализации, сняв вычислительную нагрузку с основного вычислителя. Но такой подход требует существенных затрат для реализации. При этом как материальных затрат на приобретение и установку необходимого оборудования, и прежде всего, кластера из графических процессоров, так и затрат на организацию вычислений в системе. Дополнительное взаимодействие существенно усложняет структуру системы визуализации, требуя дополнительного модуля по контролю и организации таких вычислений.
Еще одним преимуществом использования промежуточных звенев в системе визуализации является тот фактор, что в настоящее время происходит коммерциализация многопроцессорных вычислительных комплексов, т.е. вводятся различные схемы оплаты времени счета задачи на вычислителе. При этом быстрый счет на многопроцессорном вычислителе стоит дороже, чем использование вспомогательных ресурсов, т.к. при крупномасштабном вычислительном эксперименте время счета наиболее критично. При этом при визуализации посчитанных данных можно выделить специальные блоки, которые не требуют больших вычислительных затрат и при использовании быстрых методов обработки данных могут быть выполнены не на основных счетных узлах. Это позволит сократить стоимость вычислений при визуализации, а также оптимизировать вычислительную нагрузку на основной многопроцессорный вычислитель. При этом общее время доставки визуализированных данных на машину пользователя увеличивается несущественно, а может даже сокращаться за счет использования эффективных параллельных алгоритмов сжатия данных.
Таким образом, с учетом перечисленных факторов представляется интересной разработка системы визуализации данных с промежуточными звеньями. Такая архитектура системы визуальной поддержки высокопроизводительных вычислений позволит увеличить эффективность и снизить стоимость вычислений при визуализации данных.
В данной работе предложена функциональная схема системы визуализации для МПВС. Предложенная иерархическая функциональная схема системы визуализации основана на предположении, что аппаратная архитектура большинства современных МПВС состоит из трех основных частей: вычислительных узлов, интерфейсных (сервисных) машин и удаленной машины пользователя, к которой подключено дисплейное устройство. Предложенная функциональная схема была реализована для МПВС Blue Gene /Р, но она является универсальной для МПВС с трехуровневой структурой и может быть использована для других архитектур, например, для отечественных кластерных систем семейства СКИФ[70-71] и МПВС Ангара[72-73].
Структура программного комплекса системы визуализации
Для экспериментального анализа эффективности предложенных методов была сделана программная реализация предложенного программного средства и методов на языке С++ с использованием библиотек MPI и VTK для вычислителя Blue Gene /Р, установленного в Московском Государственном Университете им. М.В.Ломоносова. Высокопроизводительный комплекс BlueGene /Р, установленный в МГУ, имеет следующие характеристики. Система включает в себя две стойки с вычислительными узлами и узлами ввода-вывода: 1024 четырехядерных вычислительных узла в каждой из стоек и 16 узлов ввода-вывода в стойке. Вычислительный узел включает в себя четырехядерный процессор, 2 ГБ общей памяти и сетевые интерфейсы. Микропроцессорное ядро - PowerPC 450 с рабочей частотой 850 MHz. Доступ к вычислительным ресурсам осуществляется через интерфейсную машину IBM pSeries 55А.
В данной главе предложена функциональная схема организации взаимодействий и вычислений в системе визуальной поддержки научных вычислений на многопроцессорных вычислительных комплексах с терафлопсной и петафлопсной производительностью. Особенностью предложенной функциональной схемы является оптимизация взаимодействий между блоками системы визуализации за счет распределения функциональности по различным узлам МПВС. В частности предложенная схема адаптирована для МПВС с трехуровневой иерархической структурой устройства аппаратных компонент: вычислительных узлов, интерфейсных узлов и локальной машины пользователя. Такую структуру имеет большинство современных МПВС, в частности вычислительный комплекс Blue Gene /Р, для которого была осуществлена программная реализация предложенных методов и программного средства.
Еще оной особенность предложенной функциональной схемы является возможность нескольких сценариев работы системы визуализации. Это позволяет пользователю иметь более адаптивную функциональность системы визуализации в зависимости от типа задачи и режима анализа данных, которые нужны ему в процессе его научного эксперимента, который он рассчитывает на МПВС.
Первый метод работы системы - режим визуализации данных после окончания эксперимента. В этом случае данные сохраняются в некоторое хранилище, из которого они извлекаются для визуализации при необходимости их анализа. В этом режиме нет необходимости осуществлять синхронизацию программы счета и программы визуализации, а данные могут быть посчитаны как на текущей МПВС, так и на любой другой вычислительной машине. Этот режим прост в реализации и использовании, но он не дает возможности визуализации в процессе эксперимента.
Далее предложено два метода in situ визуализации, т.е. визуализации совмещенной со счетом. Первый метод - через встроенную визуализации - дает большую гибкость в настройке параметров и передаче файлов. Это достигается за счет того, что пользователю предоставляется библиотека функций, которые он может использовать в своей программе. Такой подход предоставляет адаптивный инструмент для визуализации, но требует от пользователя навыков программирования. Так же затруднительно использовать этот метод визуализации в случае, если нет возможности встроить функциональность по визуализации в считающую программу.
Третий метод визуализации, который включен в функциональную схему предложенной системы визуализации, - это взаимодействии считающей программы и программы визуализации через файлы. Обе программы знают, через какие файлы они общаются (это задается на этапе инициализации). При обновлении файлов система визуализации осуществляет построение изображении в случае режима записи истории процесса, или продолжает ждать запроса визуализации текущего состояния эксперимента.
Для предложенной системы визуализации предложены внутреннее представление данных и метод для построения по входным данным внутреннего представления для системы визуализации. В качестве внутреннего представления данных в системе визуализации предложено использовать модель сцены, которая включает в себя данные, представленные в виде объемов на регулярных сетках и графических объектов в случае, если это файлы, описывающие состояния молекул. Таким образов в сцену может быть включена структура объекта и некоторые его характеристики. Особенностью системы является возможность отображать одновременно несколько характеристик объекта, в том числе и неоднородных.
Предложено программное средство, реализующее предложенную функциональную схему и методы, разработанные для системы визуализации. Представлена схема компонент программной системы. Описаны основные интерфейсы, доступные для пользователя, и приведена таблица параметров процесса визуализации.
Помимо функциональной схемы для реализации системы визуализации требуется разработать набор методов для построения изображений и обработки получившихся видеопоследовательностей перед отправкой на локальную машину пользователя. В диссертационной работе предложен ряд таких методов, которые описаны в Главе 2.
В этой главе описаны методы для реализации предложенной функциональной схемы системы визуализации, в частности методы построения изображений на многопроцессорном вычислителе, методы обработки и сжатия видео для передачи его на машину пользователя.
При построении изображений на многопроцессорном вычислителе необходимо использование специализированных методов для расчетов значений пикселей изображения, а также для обработки полученных изображений или видеопоследовательностей.
Список задач в области обработки изображений и видео для приложений визуализации, которые можно отнести к классу вызовов (challenge), широко обсуждается в различных российских и западных источниках. В частности такие обзоры приведены в книге В. Шредера, К.Мартина и Б.Лоренса [74], а также в статьях П.Д.Хейермана и К.Павлокоса [75,76], вошедших в сборник [77] под редакцией Ч.Д.Хансена и К.Р.Джонсона.
Шредер в качестве таких задач-вызовов называет следующие. Основной задачей, безусловно, называется задача построения изображений по входным данным. Причем эта задача подразделяется на две подзадачи: построение изображений с использованием поверхностей (графический метод) и построение изображений с помощью объемной трассировки лучей. Важным вопросом в этом случае, прежде всего, является организация взаимодействий при использовании большого количества процессоров для построения изображения. Также в книге рассматривается применение методов интерполяции исходных значений при построении изображений.
Метод постобработки видео для системы визуализации
На первом шаге для изменения палитры добавляют фиктивные цвета, если это можно сделать. В отношении фиктивного цвета сначала вычисляют, является ли число требующихся фиктивных цветов меньше или равно числу имеющихся фиктивных цветов (если количество использованных цветов в палитре меньше восьми), если число фиктивных цветов достаточно, то их равномерно распределяют по длинным интервалам, если это не достаточно, то разбивают рабочий интервал гистограммы на восемь одинаковых интервалов и рассматривают середины этих интервалов в качестве палитры. Рис.18 иллюстрирует предложенную идею добавления фиктивных цветов.
После добавления фиктивных цветов, в случае если остались разности больше 32 градаций, проводится смещение цветов. Перестановка цветов проиллюстрирована на Рис.19.
После определения цветовой палитры вычисляют цветовую карту, в которой номер цвета на палитре, ближайшей к реальному значению пикселя, является значением пикселя в цветовой карте. Аналогичный алгоритм применяется для определения четырехцветной палитры. Кодирование восьмью цветами требует 91 бит, кодирование четырьмя цветами - 64 бита. Эта длина закодированного пакета включает в себя два бита, которые определяют тип кодирования для блока, по которому на стороне декодера будет осуществлено восстановление изображения.
Статистическое кодирование подразумевает сжатие без потерь потока информации. Для этого применяется сворачивание цепочек нулей RLE [86].
Для различных выходных форматов используется дополнительные преобразования, если это необходимо. В частности, для стерео и мультивидовых видеопоследовательностей осуществляется кодирование одного вида, для остальных видов кодируются из разности между соседними кадрами.
В данном разделе предложен метод интерполяции для системы визуализации, использующийся для решения двух задач: Интерполяция данных при построении изображений. Увеличение разрешения изображений после построения, чтобы сократить время и вычислительные ресурсы, необходимые для построения.
При построении изображений с помощью метода объемного построения изображений (volume rendering - объемный рендеринг, трассировка) используется интерполяция данных для расчета промежуточных значений данных, если луч трассировки проходит между узлами сетки. Для корректной интерполяции необходимо применение специализированного метода, который бы учитывал особенности интерполируемого контента, в частности характеристики представления научных данных.
В разрабатываемую систему визуализации было предложено дополнить функциональностью по адаптации визуализированной видеопоследовательности под разрешения экрана устройства отображения. Эта функциональность означает, что в системе должен быть предусмотрен метод увеличения пространственного разрешения видеопоследовательности. Помимо адаптации к разрешению экрана, увеличение разрешения выполняет важную роль для сокращения времени счета на основном вычислителе (рендеринга), а так же для сокращения размера передаваемых данных: при наличии качественного алгоритма интерполяции возможна генерация на вычислителе кадров, имеющих от двух до восьми раз меньшие линейные размеры, при этом проводится их высококачественное и быстрое восстановление на машине пользователя до необходимого размера.
Для включения такой функциональности в систему необходимо использовать быстрый метод восстановления размерности (интерполяции) видео, адаптированный для работы с видеопоследовательностями, являющими результатами работы систем визуализации научных данных. Проведенный анализ показал, что существующие общие алгоритмы пространственной интерполяции видео в большинстве своем не удовлетворяют указанным требованиям либо по сложности, либо по качеству. Поэтому понадобилась разработка собственного метода интерполяции (увеличения размерности) видеопоследовательности, имеющего с одной стороны низкую сложность, а с другой — высокое визуальное качество, за счет того, что алгоритм адаптирован для работы с видеопоследовательностями, содержащими результат визуализации данных, полученных в процессе крупномасштабного вычислительного эксперимента в различных научных областях.
Существует большое количество методов интерполяции [87-90]. Однако в данном случае был необходим метод с малой вычислительной сложностью и высоким визуальным качеством, сохраняющим детали изображения. Также при интерполяции данных при построении изображения необходимо было корректно интерполировать края объектов, т.е. области, где значения полностью прозрачны или цвет близок к фоновому значению. Таким образом, алгоритм должен работать по-разному в различных областях изображения (данных). В данной работе предложено использовать подход к интерполяции, который дифференцирует интерполируемые области по некоторому признаку: интерполяции осуществляется методом, соответствующим типу области.
Был предложен и реализован специализированный метод интерполяции, основанный на вейвлетах и триангуляции, имеющий сложность, сопоставимую со сложностью бикубической интерполяции сверткой, и позволяющий сохранять визуальные особенности изображений, получаемых при научной визуализации. Алгоритм состоит из двух шагов. С помощью вейвлет-анализа определяется тип интерполяции для пикселя, далее проводится интерполяция значений пикселей в соответствии с типом области.
Рассмотрим алгоритм интерполяции в терминах задачи обработки изображений. Предложенный метод осуществляет покадровую обработки видеопоследовательности, причем каждый пиксель изображения обрабатывается с учетом значений в локальной окрестности. Предполагается, что видеопоследовательность имеет трехканальный цветовой формат, например RGB. Для интерполяции выполняются следующие шаги: определяется направления границы в обрабатываемом пикселе; определяется частотные характеристики обрабатываемого участка; вычисляется интерполированное значение пикселя на основе данных о частотных характеристиках обрабатываемого участка и направлении границ; выполняется по результатам интерполяции операция по улучшению границ; осуществляется окончательная обработка с применением функции, адаптирующейся к пропорциям интерполяции, что призвано обеспечить устранение эффекта мультипликации. Частотные характеристики обрабатываемого участка определяли с помощью вейвлетов. Для реализации требовался простой базис, имеющий быструю реализацию двумерного разложения, однако позволяющий с достаточной степенью точности разделить частотные полосы. После экспериментов был выбран вейвлет 5-3 для вычисления частотной характеристики участка, после чего тип участка определяют на основании пороговых значений. В завивимости от типа области применяется два типа интерполяции, а именно, в случае, если обрабатываемый участок не является высокочастотным, то применяют интерполяцию на основе триангуляции с сохранением границ, если участок является высокочастотным, то применяют бикубическую интерполяцию, которая сохраняет высокочастотные детали. Целесообразно также применять дополнительную обработку для предотвращения эффекта размытия (сглаживания) границ, заключающуюся в том, что используют функцию, адаптирующуюся к пропорции интерполяции. Это устраняет эффект мультипликации и обеспечивает естественность видеопоследовательности с увеличенной размерностью даже при сильном увеличении (четырех-восьми кратном).
Применение системы визуализации в задаче моделирования коммуникационной сети
Предложенные методы были реализованы в рамках функциональной схемы системы визуализации, предложенной в главе 1 данной работы. Реализованные методы были протестированы на данных реальных задач, где показали высокую эффективность применения (эксперименты описаны в главе 3 данной работы).
Первый из предложенных методов — построение изображений по исходным данным — реализован для различных типов выходных данных. Такой метод позволяет формировать изображения и видео последовательности для анализа данных на различных типах дисплейных устройств. Особенностью предложенного метода является использование специального метода построения карты глубины, использующего нелинейное сглаживание грубой карты глубины, построенной по значения 2-буфера, имеющего малую точность. Предложенный подход позволяет получать карту глубины с достаточной точностью, не увеличивая точность расчетов при построении изображения на параллельном вычислителе.
Особенность предложенного метода построения изображений состоит в том, что он позволяет формировать выходные данные в различных форматах. При этом набор выходных форматов может быть расширен с появлением новых типов дисплейных устройств и новых форматов для хранения видео. Это достигается благодаря использованию унифицированного формата представления и метода преобразования входных данных во внутреннее представление системы визуализации.
Построенные изображения и видеопоследовательности перед передачей на локальную машину пользователя проходят постобработки и сжатие. Для этого для системы визуализации были предложены специализированные параллельные методы обработки изображений.
Разработан специализированный метод многопоточного сжатия изображений, который основан на блочном кодировании кадра и использует специализированную функцию оценки визуальной сложности блока перед распределением блоков для кодирования на нескольких процессорах. Предложена соответствующая функция оценки визуальной сложности блоков, основанная на частотных характеристиках. Предложенный метод сжатия видео позволяет получить существенное улучшение качества сжатого видеопотока по сравнению со стандартными методами кодирования. Метод учитывает особенности входного контента, а именно, тот факт, что сжатию подвергается синтезированный контент, который включает в себя большие однородные области фона, объекты с ярко выраженными границами и высокочастотные области с большим количеством деталей. Эксперименты показали, что предложенный метод позволяет сжимать контент с точностью максимум до 4 градаций по сравнению с 20 градациями, которые дает стандартный mpeg2 кодек (для тестирования использовался стандартный йпре кодек) при той же степени сжатия.
Для постобработки видеоптока, в частности, для улучшения его визуального качества, был предложен метод сглаживания ступенчатых границ на изображении, для которого предложена математическая модель таких границ и способа их быстрого поиска в соответствии с предложенной моделью. Метод позволяет существенно улучшить качество синтезированного контента, сгладив ступенчатые края, которые получаются в результате построения изображений с использованием графической или объемной модели. Особенность предложенного метода состоит в том, что используется выделение только ступенчатых краев, а не всех краев объектов на изображении. Далее проводится модификация только найденных краев, а не всех краев изображения, что предотвращает размытие изображения и потерю мелких деталей изображения. Метод имеет малую вычислительную сложность и хорошее разделение по данным, что приводит к хорошей степени праллелизуемости предложенного метода.
Для системы визуализации на МПВС был разработан метод интерполяции для расчета промежуточных значений при интерполяции данных, а так же для изменения разрешения видеопоследовательности. Метод позволяет существенно сократить время построения кадра за счет уменьшение размера изображения при построении кадра. Также увеличивается точность интерполяции при расчете промежуточных значений данных при объемной трассировке изображения. Метод основан на вейвлет-анализе и применении триангуляции для типизации областей изображения и применении различных типов интерполяции для областей различных типов.
Предложенные методы были реализованы в системы в соответствии с разработанной функциональной схемой системы визуализации. Эффективность предложенных методов была протестирована на реальных научных данных, получаемых при расчетах на МПВС в различных режимах работы системы визуализации. Результаты проведенных экспериментов описаны в В главе проводится анализ эффективности разработанных методов. Описываются эксперименты по применению предложенной системы визуализации на данных научных вычислений, проводимых на МПВС Blue Gene/P: задачах молекулярной динамики, задачах моделирования коммуникаций на различных топологиях процессоров, задачах биометрии.
Предложенная система визуализации результатов научных вычислений может применяться для различных массивно-параллельных вычислительных систем с терафлопсной, а в перспективе и на петафлопсной производительности. Исследование эффективности предложенной системы проводилось на вычислительной системе Blue Gene/P, установленной в МГУ. Тестирование системы визуализации проводилось на результатах различных прикладных задач, выполняемых на МПВС Blue Gene /Р. Тестирование проводилось в различных режимах работы системы визуализации и для различных форматов данных. Для каждой из задач был выбран сценарий взаимодействия счетной программы и системы визуализации, который был оптимален в условиях задачи. В каждой задаче применялись различные настройки цветовых параметров и параметров прозрачности объектов, чтобы выделять необходимые характеристики процесса. Также сравнивалась количественная эффективность предложенных методов по различным критериям на различных объемах и форматах входных данных.
