0xDEADBEEF

RSS odkazy english edition
««« »»»

Průnik bitmap množin

2. 11. 2020 #množiny

Jestli dovolíte, ještě se jednou naposledy vrátím k tématu průniku množin.

(A příště ještě jednou. Reakce na tenhle článek mě utvrdily v tom, že je nekompletní a téma vyžaduje, abych se na něj podíval pořádně a nešířil tu napůl nekompletní moudra. Prostá otázka jak rychle spočítat průnik množin není vůbec prostá a jako vždy záleží na větších či menších detailech. Někdy není třeba chytřejší algoritmus, ale jen lepší implementace hloupého, která bere v potaz charakteristiky hardwaru. Závěry tohohle textu nejsou chybné, jsou jen nekompletní. Bitmapy v případě velkých množin (aspoň těch, které mě zajímají) jsou stále s přehledem nejrychlejší, ale alternativní způsoby můžou být svižnější, než merge algoritmus bez podmíněných skoků, který tady prezentuji jako základní čáru, s níž jsou alternativy porovnávány. Tohle všechno přijde v druhé části článku.)


Pokud mi jde jen o hromadné operace na množinách (průnik, sjednocení, rozdíl a jejich velikosti), mám na výběr ze dvou efektivních reprezentací: Buď jako seřazené pole nebo jako bitmapa. (Ok, není to všechno, ale komprimované verze a další bizarnosti teď vynechám.)

Co se velikosti týká, bitmapa potřebuje tolik bitů jako maximální počet možných prvků, které může obsahovat. Seřazenému poli naopak stačí tolik slov paměti, kolik prvků skutečně obsahuje. Jedno slovo může být například 4B int a pak se z hlediska prostoru bitmapa vyplatí, pokud množina obsahuje více než 1/32 maxima prvků. Ideální je reprezentovat množiny větší než tento limit jako bitmapy a menší jako seřazená pole. To platí pro prostor, ale ne nutně pro rychlost.

Výpočet velikosti průniku mezi dvěma bitmapami je triviální smyčka obsahující jen add, and a popcnt instrukce.

ulong intersectionSize(BitSet a, BitSet b) {
  ulong bits = 0;

  foreach (i; 0 .. a.arr.length) {
    bits += popcnt(a.arr[i] & b.arr[i]);
  }

  return bits;
}

Nebo takhle, pokud jste ve spěchu:

ulong intersectionSize(BitSet a, BitSet b) {
  return zip(a.arr, b.arr).map!(ab => popcnt(ab[0] & ab[1])).sum;
}

Operace popcnt je velice rychlá, na Intelích procesorech má latenci 3 takty a propustnost 1 instrukci každý takt. Co jsem se díval k Agnerovi do tabulek, na Zenech od AMD trvá pouhý jeden takt a má propustnost 4 popcnt v každém taktu. V budoucnu AVX512 přinese tuhle monstrositu a do té doby si musíme vystačit s AVX2 kouzly.

Průnik mezi polem a bitmapou je také záležitost několika triviálních operací zjišťujících, zdali je daný bit nastavený na jedničku.

ulong intersectionSize(BitSet a, uint[] idxs) {
  return idxs.count!(i => (a.arr[i / 64] >> (i % 64)) & 1);
}

Obě varianty jsou jednodušší než průnik mezi dvěma seřazenými poli. Ten porovná dva prvky a inkrementuje ukazatel na menší z nich.

int intersectionSize(uint[] a, uint[] b) {
  int ai, bi, c;
  for (; ai < a.length && bi < b.length; ) {
    auto aa = a[ai], bb = b[bi];
    c  += (aa == bb);
    ai += (aa <= bb);
    bi += (aa >= bb);
  }
  return c;
}

Je třeba provést mnohem víc instrukcí pro jeden prvek a kód navíc obsahuje datovou závislost mezi iteracemi, kdy adresa dat, které se čtou v jedné iteraci závisí na výsledku vyhodnocení té předchozí. Procesor nemůže plně spekulovat a využít dostupné ILP.

Ve výsledku tak bitmapy můžou být rychlejší, i když nejsou použity ideálně, co se místa týká. Proto tu mám jeden maličký test.

(Existují další způsoby jak udělat to samé, který můžou být mnohem rychlejší, ale v mém testu rychlostí nedokázaly sami o sobě překonat použití bitmap, jen pomohly ve vzájemné synergii.)

Vzal jsem malý vzorek ze souboru dat pro něž je třeba spočítat podobnost každé množiny s každou další. Obsahuje 2665 množin, rozsah 337229 možných prvků, v součtu mají kardinalitu 8.3 milionu, jedna množina obsahuje průměrně 3126 prvků, detailní charakteristika v grafu. Na logaritmické ose x leží jednotlivé množiny, na ose y je vyobrazena jejich velikost. Vodorovná čára ukazuje mez, nad kterou se vyplatí bitmapy a pod kterou seřazená pole. V tomto případě je to 10538 (337229 * 1/32).

Test počítal velikosti průniků každé množiny s každou další a měnil při tom hraniční velikost pod níž jsou množiny reprezentovány jako seřazená pole a nad kterou jako bitmapy. V prvním řádku mají všechny množiny formu bitmapy i ty maličké, postupně roste počet polí, až na posledním jsou jen seřazená pole.

hranicepolíbitmapčas*
00266542.8 svšechny množiny jako bitmapy
1/674659200630.9 s
1/562916174928.4 s
1/4821117154827.2 s
1/4221277138826.9 snejrychlejší
1/3371496116927.8 s
1/2811645102029.4 s
1/241174891731.1 s
1/211183583032.7 s
1/187189377234.6 s
1/169195770836.8 s
1/112215551046.6 s
1/84227039555.3 s
1/67233732862.3 s
1/34249816788.6 snejlepší využití místa
1/7264619159.9 s
1/326614188.3 stéměř všechny množiny jako seřazená pole

Je vidět, že varianta zabírající nejméně místa je rychlejší, než když jsou všechny množiny ve formě seřazených polí. Na tom není nic překvapivého a člověk by to čekal, když se musí dotknout nejmenšího množství paměti. Proces ale zrychluje i když jsou jako bitmapy kódovány stále menší a menší množiny. Nejvyšší rychlosti (±9x zrychlení) dosáhnou v bodě, kdy bitmapami reprezentovány množiny 13x menší než ideál.

Operace s bitmapami jsou velice rychlé a vyplatí se je používat, když je to možné. Nejspíš za to může fakt, že využívají jen jednoduché instrukce, které zpracují 64 položek najednou a kód je přímý, bez skoků a datových závislostí. Out-of-order jádro a prefetcher mají volné ruce dělat to, co umějí nejlépe, rozjedou spekulace naplno a můžou dělat mnoho iterací smyčky dopředu.

Jako vždy naměřená čísla berte s rezervou. Můžeme si být jisti jen tím, že platí v daném případě a na daném stroji. Na jiných procesorech a s jinými daty můžou výsledky vypadat jinak. Třeba situace, kdy mám větší počet menších množin, může dopadnout jinak z důvodu paměťové lokality a nižší efektivity prefetcheru. Nicméně nebál bych se používat prostorově ideální rozložení. Nemyslím si, že by mohlo vést ke zpomalení. Možná bych to ještě trochu popostrčil. Ale jako vždy, když na tom záleží, měřte sami a nevěřte číslům na internetu.


K tématu:

Dodatek:

Další varianta je hybridní reprezentace. Když mám data příliš řídká a bitmapa se nevyplatí, nemusí být vše ztraceno. Pokud elementy v množinách mají Zipfovo rozložení, můžu například 64 nebo 128 nejčastějších prvků reprezentovat jako bitmapu a zbytek jako seřazené pole. To také může vést ke zrychlení.

píše k47 (@kaja47, k47)