Как оптимизировать работу OpenCL-движка для GPU?

Несколько рекомендаций по оптимизации работы OpenCL-движка для GPU:

• Определить, нужна ли оптимизация. developer.apple.com Перед началом процесса стоит взвесить затраты и преимущества оптимизации. developer.apple.com
• Оценить оптимальную производительность. developer.apple.com Для этого можно запустить простые ядра на устройстве GPU и измерить, сколько времени занимает выполнение кода ядра. developer.apple.com
• Сгенерировать или собрать тестовые данные. developer.apple.com Нужно выполнить неоптимизированный исходный код и сохранить результаты. spec-zone.ru Затем выполнить оптимизированный код на тех же данных и сравнить результаты с исходными. developer.apple.com spec-zone.ru
• Использовать встроенные функции OpenCL. developer.apple.com spec-zone.ru Для них будет сгенерирован оптимальный код. developer.apple.com spec-zone.ru
• Балансировать точность и скорость. developer.apple.com GPU предназначены для графики, где требования к точности ниже. developer.apple.com
• Повторно использовать ресурсы OpenCL. developer.apple.com Выделение и освобождение ресурсов (объектов памяти, ядер и т. д.) занимает время. developer.apple.com По возможности нужно повторно использовать эти объекты вместо того, чтобы освобождать и создавать их повторно. developer.apple.com
• Использовать более быстрые уровни памяти. developer.apple.com Локальная память, общая для всех рабочих элементов в одной рабочей группе, работает быстрее, чем глобальная память, общая для всех рабочих групп на устройстве. developer.apple.com
• Избегать расходящегося выполнения. developer.apple.com spec-zone.ru Все потоки, запланированные вместе на GPU, должны выполнять один и тот же код. developer.apple.com spec-zone.ru
• Использовать объекты изображения вместо буферов. spec-zone.ru В некоторых случаях (для определённых образцов доступа к памяти) использование GPU при доступе к изображениям может быть быстрее, чем при использовании буферов. spec-zone.ru

Также для анализа выполнения ядра можно использовать профайлеры. forum.hpc.name Это поможет выявить узкие места и оптимизировать производительность. forum.hpc.name