Может ли "очевидная" оптимизация кода привести к падению производительности? Как я убедился на собственном опыте - да!

Вот фрагмент программы которая ищет максимальную подматрицу методом Кадане:

for (int x = 1; x < w; x++) {
  int v = row_y2[x] - row_y[x];
  if (local_sum > 0) local_sum += v;
  else local_sum = v;
  if (local_sum <= best_sum) continue;
  best_sum = local_sum;
  best_x2 = x;
  best_y1 = y;
  best_y2 = y + span;
}

"В коде обновления лучшей суммы явно есть лишние действия" подумал я. И переписал так:

int _x = -1;
for (int x = 1; x < w; x++) {
  int v = row_y2[x] - row_y[x];
  if (local_sum > 0) local_sum += v;
  else local_sum = v;
  if (local_sum <= best_sum) continue;
  best_sum = local_sum;
  _x = x;
}

if (_x != -1) {
  best_x2 = _x;
  best_y1 = y;
  best_y2 = y + span;
}

Однако скорость работы внезапно упала на 30%. В чем дело? Смотрим на профиль исходного кода:

И на профиль полученного:

Вот оно в чем дело! Компилятор решает, что ветка кода обновления лучшей суммы стала насколько дешевой, что ее можно рассчитывать на каждой итерации цикла.

С этого момента я стал делать только одну оптимизацию за раз и постоянно проверять, что она реально приносит пользу.

Удачи!