Тайлинг представляет собой метод написания параллельных программ (распараллеливания существующих), когда циклы программы разбиваются на куски (тайлы) не очень большого размера. В случае системы с распределённой памятью все необходимые данные для выполнения одного тайла целиком отправляются на какой-то процессор/машину, где происходит непрерывное выполнение требуемой части кода (непрерывное = без остановок на получение/отсылку данных), после чего посчитанный результат отсылается обратно главному процессору. В случае же системы с общей памятью (имеется в виду общая сверхбыстрая память - кэш одного процессора) разбиение на тайлы подразумевает собой логическое разбиение цикла на куски, при котором все потоки совместно работают над одним не очень большим куском памяти, что приводит к лучшему использованию кэша процессора, в котором они все работают.

В качестве примера рассмотрим массив А размера N и некоторый алгоритм на ней:

for (int i=0; i<N; ++i)
     // Do something with A[i]

Казалось бы, что всё отлично. Но, допустим, мы решили распараллелить этот алгоритм на n-ядерном процессоре с помощью любой технологии типа OpenMP, TBB. Тогда при достаточно больших N получится, что первый поток работает над куском массива от 0 до 100000, второй - от 100000 до 200000, и т.д. На самом деле мы можем не получить никакого прироста в скорости, потому при таком подходе в кэш процессора будут поочерёдно загружаться/выгружаться данные, локальные для первого потока, потом для второго, потом снова для первого и т.д. Гораздо лучшим подходом будет переписать код следующим образом:

for(int t=0; t<N/tileSize; ++t)
    for(int i=tileSize * t; i < tileSize * (t+1); ++i)
        // Do somethin with A[i]

Здесь также будем параллелить цикл по i. Визуально вместо одного простого цикла получили 2 вложенных, однако, очевидно, что они выполняют одинаковое число операций, с той лишь разницей, что теперь все данные, необходимые в цикле по i, находятся "недалеко" друг от друга. Понятие "недалеко" регулируется параметром tileSize. Теперь, удачно подобрав этот параметр, можно добиться того, что все элементы массива А, нужные в цикле по i, сразу попадут в кэш процессора и таким образом все потоки будут работать с одним и тем же куском памяти, который не нужно будет постоянно загружать или выгружать из памяти.

Понятно, что разбивать на тайлы можно циклы любой размерности, всё зависит лишь от конкретных условий задачи и системы, на которой это будет работать.

Более приближенные к практике примеры можно найти на вики http://en.wikipedia.org/wiki/Loop_tiling
Вот и всё на сегодня, всем удачи в параллельных алгоритмах!