Apa sajakah cara untuk menerapkan hubungan banyak ke banyak dalam data warehouse?

25

Topologi dominan pemodelan Data Warehouse (Star, Snowflake) dirancang dengan hubungan satu ke banyak. Keterbacaan permintaan, kinerja, dan struktur sangat menurun ketika dihadapkan dengan hubungan banyak ke banyak dalam skema pemodelan ini.

Apa sajakah cara untuk menerapkan hubungan banyak-ke-banyak antara dimensi atau antara tabel fakta dan dimensi dalam gudang data dan kompromi apa yang mereka berikan berkaitan dengan granularitas dan kinerja permintaan yang diperlukan?

Brian Ballsun-Stanton
sumber
Anda harus menyatakan pertanyaan Anda dengan lebih jelas. Ini mungkin mengapa tidak ada yang menjawabnya sejak tanggal 4. Apa yang Anda nyatakan sebagai jawaban atas jawaban saya tidak sama dengan pertanyaan awal Anda.
IAMIC
@IanC Diedit. Apakah lebih baik?
Brian Ballsun-Stanton
perfect :)
IamIC

Jawaban:

17

Dalam pengalaman saya, hierarki rekursif adalah cara paling praktis untuk mengatasi hal ini. Ini menawarkan keuntungan-keuntungan berikut:

  1. Kedalaman tidak terbatas.
  2. Kekompakan.
  3. Fleksibilitas.
  4. Kecepatan.

Sebaliknya, dibutuhkan tabel tambahan untuk setiap level gabungan "-untuk-banyak". Ini sulit dikodekan dan sulit dipertahankan terhadap pembaruan skema.

Dengan menggunakan indeks yang difilter, tabel besar gabungan hierarkis dapat bekerja dengan kecepatan superior ke tabel khusus. Alasannya adalah setiap bergabung hanya "orangtua-anak" dibandingkan dengan "untuk bergabung dengan tabel ke tabel data". Yang terakhir memiliki lebih banyak indeks untuk diproses dan disimpan.

Saya sudah mencoba menyelesaikan masalah ini selama bertahun-tahun. Baru-baru ini, inilah yang saya pikirkan.

IAMIC
sumber
1
Anda bertanya "Apa beberapa cara pemodelan banyak-ke-banyak ini dan apa implikasi kinerja dan granularitas mereka?". Saya menjawab tentang pemodelan. Tidak perlu down-vote.
IAMIC
4
Anda perlu memberikan lebih banyak data tentang apa yang Anda butuhkan. Saya mengatasi masalah persis yang telah Anda nyatakan melalui hierarki rekursif. Tetapi, tanpa mengetahui sesuatu tentang data Anda dan koneksinya, sangat sulit untuk dijawab.
IAMIC
2
Ya, mereka tidak memodelkan hal ini secara asli. Apa yang salah dengan menambahkan satu tabel lagi & bergabung, sehingga mencapai banyak-ke-banyak? Dalam RDBMS, tidak peduli bagaimana Anda menyusun tabel, Anda akan memiliki 2 gabungan untuk banyak ke banyak. Tidak ada jalan pintas. Satu-satunya pengecualian yang mungkin adalah array di PostgreSQL atau Caché / M.
IAMIC
1
(Hirarki rekursif adalah ide yang bagus, sebenarnya.) Salah satu cara saya menyelesaikan masalah adalah dengan mengkomputasi daftar kemungkinan banyak-ke-banyak hubungan dalam dimensi, merujuknya ke tabel dimensi normal, dan kemudian bergabung dengan tabel fakta untuk itu tabel dimensi diringkas. Jawaban Anda tentang "hierarki rekursif" adalah jawaban desain lain yang bermanfaat. Saya bertanya-tanya apakah telah ada penelitian tentang implikasi kinerja berbagai peretasan ini?
Brian Ballsun-Stanton
3
@Brian jangan lupa suara untuk jawaban yang berguna. Ini membantu menciptakan komunitas. Untuk menjawab pertanyaan Anda, saya belum menemukan penelitian apa pun tentang peretasan ini, kecuali "apa yang lebih cepat: CTE rekursif atau pembuatan struktur manual?". Anda mengatakan solusi sebelumnya masuk akal. Saya akan menggabungkannya dengan tampilan yang diindeks, yang tentu saja memastikan Anda selalu memiliki peta hubungan pra-populasi yang benar.
IAMIC
6

Beberapa skenario untuk hubungan M: M dalam model data warehouse

Sebagian besar server OLAP dan sistem ROLAP memiliki sarana untuk menangani struktur data M: M sekarang, tetapi ada beberapa peringatan tentang hal ini yang perlu Anda perhatikan. Jika Anda menerapkan hubungan M: M, Anda perlu mengawasi lapisan pelaporan Anda dan alat apa yang ingin Anda dukung.

Skenario 1: M: M dimensi ke tabel fakta

Contohnya mungkin beberapa driver pada kebijakan motor. Jika Anda menambah atau menghapus driver, transaksi penyesuaian kebijakan mungkin memiliki hubungan dengan daftar driver yang berubah dengan penyesuaian.

Opsi 1 - M: Tabel jembatan driver-fakta M Ini akan memiliki volume data yang cukup besar, karena memiliki driver x baris transaksi untuk kebijakan yang diberikan. SSAS dapat menggunakan struktur data ini secara langsung, tetapi lebih lambat untuk melakukan kueri melalui alat ROLAP.

Jika hubungan M: M Anda didasarkan pada entitas yang khusus untuk baris fakta (misalnya driver pada mobil) ini mungkin cocok untuk alat ROLAP juga, menyediakan alat ROLAP Anda mendukung hubungan M: M (misalnya menggunakan konteks dalam Bisnis Objek).

Opsi 2 - Tabel dimensi 'kombinasi' Dummy Jika Anda memetakan daftar kode umum ke tabel fakta (yaitu entitas yang ditautkan tidak khas ke baris fakta) maka Anda dapat mengambil pendekatan lain yang akan mengurangi volume data. Contoh dari jenis skenario ini adalah kode ICD pada kunjungan rawat inap. Setiap kunjungan rawat inap akan memiliki satu atau lebih diagnosa ICD dan / atau prosedur yang terdaftar. Kode ICD bersifat global.

Dalam hal ini, Anda dapat membuat daftar kombinasi kode yang berbeda untuk setiap kasus. Buat tabel dimensi dengan satu baris untuk setiap kombinasi yang berbeda, dan miliki tabel tautan antara kombinasi dan tabel referensi untuk kode ICD itu sendiri.

Tabel fakta dapat memiliki kunci dimensi ke dimensi 'kombinasi', dan baris dimensi memiliki daftar referensi ke kode ICD aktual. Sebagian besar alat ROLAP dapat menggunakan struktur data ini. Jika alat Anda hanya akan bekerja dengan hubungan M: M yang sebenarnya, maka Anda dapat membuat tampilan yang meniru hubungan M: M antara fakta dan tabel referensi pengkodean. Ini akan menjadi pendekatan yang disukai dengan SSAS.

Keuntungan opsi 1: - Diindeks dengan tepat, kueri berdasarkan pemilihan baris tabel fakta dengan hubungan tertentu melalui tabel M: M dapat cukup efisien.

  • Model konseptual yang sedikit lebih sederhana

Keuntungan dari opsi 2: - Penyimpanan data lebih kompak

  • Anda dapat meniru hubungan 1: M langsung dengan menghadirkan kombinasi dalam format yang dapat dibaca manusia sebagai kode pada dimensi 'kombinasi'. Ini mungkin lebih berguna pada alat pelaporan dumber yang kurang mendukung untuk hubungan M: M.

Skenario 2: M: M hubungan antara dimensi:

Sulit untuk memikirkan kasus penggunaan, tetapi orang bisa membayangkan sesuatu keluar dari perawatan kesehatan dengan kode ICD lagi. Pada sistem analisis biaya, kunjungan rawat inap dapat menjadi dimensi, dan akan memiliki hubungan M: M antara kunjungan (atau episode konsultan di NHS-speak) dan kode-kode.

Dalam hal ini, Anda dapat mengatur hubungan M: M, dan mungkin menyusun rendering yang dapat dibaca manusia dari mereka pada dimensi dasar. Hubungan dapat dilakukan melalui tabel tautan M: M lurus atau melalui tabel 'kombinasi' seperti sebelumnya. Struktur data ini dapat ditanyakan dengan benar melalui Objek Bisnis atau alat ROLAP yang lebih berkualitas.

Dari atas kepala saya, saya tidak bisa melihat SSAS dapat mengkonsumsi ini tanpa membawa hubungan langsung ke tabel fakta, jadi Anda perlu menyajikan pandangan tentang hubungan M: M antara pengkodean dan tabel fakta baris untuk menggunakan SSAS dengan data ini.

ConcernedOfTunbridgeWells
sumber
5

Saya ingin tahu persis apa hubungan banyak-ke-banyak yang ada dalam pikiran Anda dalam model Anda, apakah itu dalam sistem transaksional atau model data apa pun yang saat ini ada.

Biasanya, hubungan banyak-ke-banyak antara dimensi adalah fakta tentang dimensi. Fakta bahwa seorang pelanggan memesan dari beberapa kantor cabang yang melayani banyak pelanggan, atau sesuatu seperti itu. Masing-masing adalah fakta. Itu akan memiliki kencan yang efektif atau sesuatu seperti itu, tetapi hubungan itu bisa "tanpa fakta". Hubungan itu sendiri mungkin memiliki dimensi lain selain pelanggan dan kantor cabang. Jadi ini adalah skema bintang tipikal dengan tabel fakta (yang mungkin kurang fakta) di pusat. Bagaimana bintang ini dapat berhubungan dengan bintang dimensi lain di dalam gudang akan sangat bergantung. Setiap kali Anda menggabungkan bintang yang berbeda, Anda akan melakukannya pada kunci bisnis dan harus memastikan Anda tidak melakukan cross-joins yang tidak disengaja.

Biasanya seseorang tidak melaporkan tabel hubungan dimensi seperti ke tingkat yang sama seperti tabel fakta yang lebih besar dan ketika mereka melakukannya, itu tidak selalu sebanyak data, sehingga tidak cenderung mempengaruhi kinerja. Dalam kasus di atas, Anda mungkin melihat pemanfaatan pelanggan / cabang dari waktu ke waktu, tetapi data yang lebih baik tentang jumlah pesanan aktual akan tersedia dalam tabel fakta pesanan Anda, yang mungkin juga memiliki dimensi untuk pelanggan, cabang, dll. kebanyakan orang akan mempertimbangkan banyak-ke-banyak (meskipun pesanan dapat dianggap untuk menentukan hubungan banyak-ke-banyak dari pelanggan ke cabang), jadi lebih tipikal dalam lingkungan data warehouse. Anda hanya akan melakukan agregat angka pada banyak-ke-banyak model jika Anda telah menggulung informasi ringkasan ke tingkat hubungan itu - yaitu pelanggan, cabang, bulan,

Cade Roux
sumber
Jawaban yang bagus. Ada dua kasus yang saya jelajahi di sini. N: M antara fakta dan dimensi, dan 1: N: M antara fakta, dimensi, dan dimensi.
Brian Ballsun-Stanton
3
@Brian Ballsun-Stanton Ketika Anda mengatakan N: M antara fakta dan dimensi, maksud Anda fakta yang diberikan memiliki beberapa dimensi saudara k kardinalitas yang tidak berbeda dan bervariasi yang semuanya berlaku, seperti tag pada pertanyaan? Jadi satu pertanyaan (fakta) ditandai dengan sql-server, data-warehouse dan lainnya adalah data-gudang, sql-server, intelijen bisnis. Saya masih akan menariknya menjadi bintang terpisah untuk fakta penetapan tag (yang memiliki butir sedikit berbeda dari fakta pertanyaan). Ini akan memiliki kemungkinan pengindeksan yang bagus dan Anda akan dapat menangkap perubahan dimensi dengan lebih jelas.
Cade Roux
@Brian Ballsun-Stanton Adapun 1: N: M, itu kepingan salju, saya kira, dan saya cenderung menghindarinya. Jika Anda ingin menentukan bintang lain (atau jembatan) untuk hubungan antar dimensi, itu bagus. Ingat bahwa gudang data dimensi tidak dinormalisasi dan di atas semua itu adalah konstruksi praktis yang dirancang untuk mendukung jenis operasi tertentu, bukan untuk secara khusus mewakili hubungan entitas dunia nyata atau menghilangkan redundansi.
Cade Roux
1
@Brian Ballsun-Stanton Lihatlah Forum Kimball dan apa yang dia sebut jembatan dan cadik dalam buku-buku toolkitnya
Cade Roux
@Cade Bisakah Anda memberikan jawaban yang menjelaskan hal itu? :)
Brian Ballsun-Stanton
5

Berikut adalah beberapa artikel yang relevan dari Kimball dan lainnya yang mungkin berlaku untuk pemodelan hubungan banyak-ke-banyak yang diusulkan. Perhatikan bahwa hubungan banyak ke banyak adalah konsep dalam domain masalah / model logis saja. Dalam model OLTP yang dinormalisasi itu masih akan ditangani dengan tabel tautan yang, tentu saja, satu ke banyak setiap jalan. Dalam model gudang data Kimball yang tidak dinormalisasi ada sejumlah cara untuk melakukan ini, salah satunya pada dasarnya memperlakukan tabel tautan itu sebagai fakta di pusat bintang. Lainnya adalah sebagai array dari kolom bendera.

Pada akhirnya, pilihan akan tergantung pada apa yang sebenarnya Anda modelkan, bagaimana itu berubah dan bagaimana Anda ingin melaporkannya. Di sinilah pemodelan dimensi dan penyimpanan data secara umum berbeda secara tajam dari model yang dinormalisasi. Model yang dinormalisasi berkonsentrasi pada hubungan logis dan teoritis dalam data, yang mana pergudangan data selalu mengawasi kasus penggunaan yang realistis dan denormalizes untuk membuat mereka melakukan.

Pemodelan hierarki alternatif menggunakan tabel jembatan:

http://www.kimballgroup.com/wp-content/uploads/2012/05/DT62Alternative.pdf

Tiga opsi untuk hubungan banyak ke banyak (terkait dengan alokasi berbagi numerik - lihat komentar untuk bolak-balik yang menarik)

http://www.pythian.com/news/364/implementing-many-to-many-relationships-in-data-warehousing/

Sayangnya, banyak artikel artikel Kimball Information Week / DBMS tidak lagi memiliki tautan yang baik ...

Cade Roux
sumber
Tautan ke artikel 'hierarki alternatif' rusak. Mungkin Anda merujuk ini: kimballgroup.com/html/designtipsPDF/DesignTips2004/…
Endy Tjahjono
Terima kasih atas tautannya ke banyak artikel . Dapatkan 'Aha!' saat itu.
Endy Tjahjono
Tautan kedua sudah mati. Ini tautan baru ke artikel yang sama. Ini agak kacau, bagaimanapun, dan kehilangan semua grafiknya di beberapa titik. blog.pythian.com/…
posfan12
1

Salah satu cara kita dapat menyelesaikan ini adalah memiliki tabel Fakta hanya memiliki 2 kolom, kunci asing dari 2 dimensi yang memiliki banyak hubungan kapal.

paranjai
sumber
1
Bagaimana hal itu menyelesaikan masalah?
Brian Ballsun-Stanton