Почему inline функция класса C++ медленнее обычной inline функции?

Question

[Леший Городской]

Программа должна суммировать два вектора. Даны две реализации.
Первая: на основе мета-программирования и классов:

struct Sum {
  template <class T>
  inline T operator()(const T &a, const T &b) const noexcept {
    return a + b;
  }
};

template <class FuncType>
struct Calc : public FuncType {
  template <class T>
  inline void operator()(std::vector<T> &result, 
                         const std::vector<T> &a,
                         const std::vector<T> &b) const {
    if (a.size() != b.size()) throw std::invalid_argument("vectors must have same size");
    if (result.size() < a.size()) result.resize(a.size());
#pragma omp parallel for
    for (size_t i = 0; i < a.size(); ++i) result[i] = FuncType::operator()(a[i], b[i]);
  }
};
const static Calc<Sum> sum;

Вторая: прямая реализация

template <class T>
inline void direct_sum(std::vector<T> &result, 
                       const std::vector<T> &a,
                       const std::vector<T> &b) {
  if (a.size() != b.size())  throw std::invalid_argument("vectors must have same size");
  if (result.size() < a.size()) result.resize(a.size());
#pragma omp parallel for
  for (size_t i = 0; i < a.size(); ++i) result[i] = a[i] + b[i];
}

Вопрос, почему первый вариант (sum(v1,v2,v3)) медленнее чем второй (direct_sum(v1,v2,v3)) примерно на 10%? Предполагалось, что компилятор раскроет все inline выражения, и проседания по производительности быть должно.

Answer 1

[jcmvbkbc]

Вопрос, почему первый вариант (sum(v1,v2,v3)) медленнее чем второй (direct_sum(v1,v2,v3)) примерно на 10%?

Потому что вы не показали ни опций компилятора, полной програмы, ни способа измерения времени.
Откомпилировав оба примера с вашими опциями я получил идентичный ассемблерный код для цикла вычислений.

Comments

[Леший Городской]

Значит есть надежда, что все может быть правильно сделано.
Можете, пожалуйста, указать ваше окружение (ОС, компилятор, опции)?
Измерение времени:

struct TimePrinter {
  timeval t1, t2;
  std::string name;

  TimePrinter(const std::string &name_) : name(name_) {
    gettimeofday(&t1, NULL);
  }

  ~TimePrinter() {
    gettimeofday(&t2, NULL);
    double elapsedTime;
    elapsedTime = (t2.tv_sec - t1.tv_sec) * 1000.0;     // sec to ms
    elapsedTime += (t2.tv_usec - t1.tv_usec) / 1000.0;  // us to ms
    std::cerr << name << " tooks " << elapsedTime << " ms" << std::endl;
  }
};

Использование:

std::vector<double> v1(10000000), v2(10000000), v3;
  {
    TimePrinter printer("sum");
    sum(v3, v1, v2);
  }
  {
    TimePrinter printer("direct sum");
    direct_sum(v3, v1, v2);
  }
  {
    TimePrinter printer("transform sum");
    direct_sum_transform(v3, v1, v2);
  }

Посмотрите на нашу с Армянское Радио переписку: там я указал параметры.
Компилятор: g++ (Ubuntu 4.8.2-19ubuntu1) 4.8.2
Опции: -O1

[Леший Городской]

Проблема решена: действительно с -O3 результат одинаковый. Без флага оптимизации, компилятор просто не раскрывает inline функции. Спасибо jcmvbkbc и Армянское Радио

[jcmvbkbc]

> Можете, пожалуйста, указать ваше окружение (ОС, компилятор, опции)?
Fedora 18, gcc-4.7.2, g++ -std=c++0x -fopenmp -O1

> Посмотрите на нашу с Армянское Радио переписку: там я указал параметры.
Посмотрел, да. O1 оттуда и взял.

[jcmvbkbc]

С измерением времени беда, как и ожидалось. Как у вас -- печатает:
sum tooks 46.28 ms
direct sum tooks 20.544 ms

А если блоки просто переставить местами -- печатает:

direct sum tooks 46.168 ms
sum tooks 20.402 ms

[jcmvbkbc]

> Без флага оптимизации, компилятор просто не раскрывает inline функции.
С -O1 -- раскрывает.

[Леший Городской]

jcmvbkbc: Да, это из-за изменения размера вектора v3. Уже поправил : тогда результат совпадает.

Answer 2

[Армянское Радио]

Попробуйте начать с теста без omp parallel - ведь вы его даже не настраиваете перед пуском. Если результаты совпадут - настройте. В первом случае, у компилятора явно нет гарантий локальности оператора суммирования.

Можете кстати std::plus проверить, вдруг с ним сработает.

И да, под это дело есть std::transform. Реализации STL в C++11 по стандарту требуют от операндов transform гарантий, разрешающих параллельное исполнение. Остается открытым вопрос с тем, реализуют ли они параллелизм.

И да, не вижу версии с итераторами. Вот она будет быстрее всех ваших.

Comments

[Леший Городской]

Transform оказался медленнее (OpenMP отключен):
sum tooks 227.061 ms
direct sum tooks 131.993 ms
transform sum tooks 231.368 ms

template <class T>
inline void direct_sum_transform(std::vector<T> &result, const std::vector<T> &a,
                            const std::vector<T> &b) {
  if (a.size() != b.size())
    throw std::invalid_argument("vectors must have same size");
  if (result.size() < a.size()) result.resize(a.size());
  std::transform(std::begin(a), std::end(a), std::begin(b), std::begin(result),
                 std::plus<T>());
}

[Армянское Радио]

LeshiyUrban: Какой компилятор? А опции? Очень странно, такого результата (под 50%) в тесте Степанова быть не должно.

[Леший Городской]

Армянское Радио:
g++ (Ubuntu 4.8.2-19ubuntu1) 4.8.2
Опции: -O1

[Армянское Радио]

LeshiyUrban: Тут еще за скобками остается вопрос с измерением времени. Да и компилятор такой... пенсионного возраста слегка. А бабахните-ка ему -O3

Answer 3

[Ilya Bobkov]

А вы дебагер откройте и посмотрите. Мой совет пишите максимально проще. Я вот смотрю и думаю вообще какой смысл в структуру sum запихивать оператор, когда изначально структура должна хранить в себе набор данных.

Comments

[Армянское Радио]

Ничего, что под отладчиком генерируется СААААвершенно другой код, в котором отсутствуют, например, оптимизации, зато присутствуют отладочные версии вызовов?

Уж если ловить, то с профилировщиком.

И последнее - упрощенчество в программировании недопустимо.

То, что здесь написано - почти эталонный код на C++. Если ваше "пишите проще" эквивалентно "Пишите на C++ как на C с классами", стоит задуматься.

[Ilya Bobkov]

Армянское Радио: может вы под debug сборкой смотрите эти вызовы?

[Ilya Bobkov]

Армянское Радио: упрощенство допустимо - это я вам говорю. Я в своё время очень сильно намучился с C++.

[Армянское Радио]

Илья Бобков:
Я так понимаю, вы хотели под отладчиком посмотреть машинный код, который генерирует компилятор? Тогда отчасти мой вопрос снимается.

[Ilya Bobkov]

Армянское Радио: да именно