Как в opencv достигается такая скорость работы?

Question

[Maiker]

Столкнулся с тем, что функции из opencv для изображений работают очень быстро. Но какой-то внятной (какой-то вообще) информации о реализации не нашёл. Быть может, кто-то знает как это достигается?

Answer 1

[Армянское Радио]

Потому что он написан не на бидоне, а на C, с использованием SIMD инструкций.

Comments

[Maiker]

И всё? Не, я знаю что питон медлителен, но не настолько же. Или настолько?

[rPman]

Да на столько!
Чтобы сделать питон хоть немного быстрым и оптимальным по памяти приходится идти на сильные ухищрения, и все равно по скорости он с трудом подползает к php и java, а те в свою очередь в несколько раз медленнее кода на си

Вся мощь высокоуровневых языков не в скорости работы - а в скорости разработки.

[Армянское Радио]

Maiker, настолько. Современный процессор выдает всю свою скорость при соблюдении ряда условий:
- данные, к которым идет обращение, уложены в памяти последовательно и выровнены так, что предвыборка и кэш загружали новые данные и не давали процессору простаивать
- нет сбросов конвейера - все короткие циклы развернуты
- везде, где только можно, используются SIMD, причем той версии процессора, которая стоит в системе, а не позапрошлогодней.

Бидон не обеспечивает ни первого, ни второго, ни третьего.

[Maiker]

rPman, Армянское Радио, ясно, спасибо.

Answer 2

[rPman]

opencv это библиотека, использующая вычисления на видеокартах, используя Opnecl

Opencl тут не виноват, причина высокой скорости GPU - ОГРОМНОЕ (десятки для дешевых и тысячи для дорогих) дубовых и от этого энергноэффективных проецессоров, каждый из которых подключен к своему независимому блоку оперативной памяти (там многоуровневая система, по разному организовано у amd/nvidia/intel). И еще, работа кода на этих процессорах ограничена одним правилом - выполняется только один код сразу на всех, это дополнительно позволяет сэкономить энергию и место на чипе.

Если код без ветвлений, он сможет быть запущен на пиксельных конвеерах а работа с памятью линейна - это какраз те самые тысячи параллельных процессов будут загружены максимально оптимально.

Comments

[Maiker]

Хм, opencv использует gpu по умолчанию?

[rPman]

нет, есть реализации для cpu но они будут менее оптимальны чем та же реализация на си
p.s. пофиксил, opencl а не opencv

но все вышесказанное верно и для opencv, так как оно использует конвееры видеокарт для работы, т.е. opencv это библиотека работы с изображениями, написанная на opencl

[Армянское Радио]

rPman, в вопросе спрашивают про openCV а не про openCL

[Maiker]

rPman, в моём случае, меня удивила почти мгновенная работа фильтров. И это либо gpu, либо какой-то хитрый алгоритм, либо си действительно на порядки быстрее.

[rPman]

При оптимальном коде и подходящих задачах, gpu быстрее обычных процессоров в сотни и даже тысячи раз

Если бы лидеры рынка ПЛИС/FPGA не держали бы патенты и цены на свои решения такими высокими, то вместе с покупкой GPU имел бы смысл покупать или встраивать в материнскую плату соответствующие ускорители на их основе, это дало бы еще большее повышение производительности на порядок (по сравнению с gpu) но за счет значительного усложнения разработки.

Я думаю плис будет стоять в каждом мобильном чипе по умолчанию, чтобы обрабатывать например видеосигнал, и будет доступна обычным разработчикам. Жаль это произойдет не скоро.

[Maiker]

rPman, это-то я понимаю.

[Владимир Коротенко]

Maiker, поищите на хабре ускоряем питон в 500 раз. Почувствуете боль. Самое интересное что в том же openCV используются теже принципы, код нифига не понятный и жутко оптимизированный, в общем то все подобные библиотеки кошмар по удобству кода.

[Maiker]

Владимир Коротенко, поищу, спасибо. А то когда нетривиальный фильтр по пять минут работает над картинкой - боль)