Какая разница между параллельным и многопоточным программированием?

Question

[Vladimir Evsei]

Параллельное и многопоточное программированием часто встречаются как два отдельных пункта. Можете доходчиво объяснить в чем существенная разница между эти подходами. Может есть какие-то хорошие материалы по этой теме? Спасибо.
UPD. нашел интересную статья, которая оставила еще больше вопросов.

Answer 1

[Дмитрий Макаров]

При многопоточном программировании имеется несколько потоков, которые выполняют разные "программы", взаимодействующие друг с другом. Например, поток пользовательского интерфейса, поток вычислений, поток обработки ввода/вывода. Многопоточное программирование позволяет упростить (при адекватном подходе) архитектуру программы, но требует отдельных навыков при проектировании и отладке.

Параллельное программирование применяется для численных расчетов, или, например, в компьютерной графике. В этом случае "программа" одна, данные разные. Использование конвейеризации и большого количества вычислительных ядер позволяет получить значительный прирост в скорости вычислений.

Answer 2

[⚡ Kotobotov ⚡]

по-моему вполне ясная статья, различие указано тамже,
просто правильно переведите канкарэнси и паралелизм, как конкурентное выполнение и параллельное, конкурентное может выполнятся на 1 ядерной машине используя переключение потоков, где разные потоки конкурируют за время работы процессора, при чём это время не обязательно должно по равному распределяться, параллелизм означает что задачи выполняются параллельно например на разных ядрах (хотя могут использовать и параллелизм на основе конкурентного выполнения потоков)
при этом:
Parallelism requires concurrency, but concurrency does not guarantee parallelism.

Answer 3

[Дмитрий Ковальский]

ИМХО - разница философская. Либо решать разные задачи параллельно, либо разбивать длинные типовые вычисления на отдельные потоки.

Answer 4

[Mercury13]

Параллельное программирование — расчёт чего-либо на нескольких вычислительных ядрах.
Многопоточное программирование — написание программ, работающих в несколько потоков.

Параллельное, но не многопоточное: SETI@Home и прочие распределённые системы.
Многопоточное, но не параллельное: шахматный ИИ работает независимо от интерфейса: пока человек думает, программа считает.