Cara mengulangi vektor dalam urutan probabilitas dalam ruang kecil

12

Pertimbangkan vektor dimensional mana . Untuk setiap kita tahu dan mari kita asumsikan independen. Dengan menggunakan probabilitas ini, apakah ada cara yang efisien untuk beralih pada vektor biner dimensi agar dari yang paling mungkin menjadi yang paling kecil kemungkinannya (dengan pilihan acak untuk ikatan) menggunakan sublinear ruang dalam ukuran output? $n$ $v$ $v_i \in \{0,1\}$ $i$ $p_i = P(v_i = 1)$ $v_i$ $n$

Ambil contoh . Vektor yang paling mungkin adalah dan yang paling kecil kemungkinannya adalah . $p = \{0.8, 0.3, 0.6\}$ $(1,0,1)$ $\{0,1,0\}$

Untuk sangat kecil, kita dapat memberi label pada masing-masing vektor dengan probabilitasnya dan menyortirnya saja tetapi ini tentu saja masih tidak menggunakan ruang sublinear. $n$ $2^n$

Varian dekat dari pertanyaan ini sebelumnya ditanyakan di /cs/24123/how-to-iterate-over-vectors-in-order-of-probability .

ds.algorithms space-bounded Lembik
sumber

Apakah ada alasan Anda tidak mengajukan pertanyaan tindak lanjut di sana juga? Apakah masalah utama di sini adalah salah satunya melakukan ini di ruang bawah tanah?

Suresh Venkat

@ SureshVenkat Ya masalahnya sepenuhnya tentang ruang sublinear (dalam ukuran output). Saya bertanya di sini karena saya pikir pertanyaannya mungkin sangat sulit.

Lembik

Memecahkan ini dalam

ruang dan waktu tampaknya membutuhkan teknik yang mirip dengan SUBSET-SUM (dengan cepat mengetahui jumlah himpunan bagian yang hampir membatalkan jumlah yang berbeda). Dengan demikian, tidak mungkin memiliki solusi cepat.

poly (n)

$\textrm{poly}(n)$

Geoffrey Irving

@ GeoffreyIrving Apakah Anda pikir intuisi ini dapat dibuat lebih formal?

Lembik

9

Berikut ini memberikan algoritma yang menggunakan sekitar waktu dan ruang. $2^n$ $2^{n/2}$

Pertama, mari kita lihat masalah menyortir jumlah semua himpunan bagian dari item. $n$

Pertimbangkan subproblem ini: Anda memiliki dua daftar diurutkan dari panjang , dan Anda ingin membuat daftar diurutkan dari jumlah berpasangan nomor dalam daftar. Anda ingin melakukan ini dalam waktu kira-kira (ukuran output), tetapi ruang sublinear. Kita bisa mencapai ruang . Kami menyimpan antrian prioritas, dan menarik jumlah dari antrian prioritas dalam urutan yang meningkat. $m$ $O(m^2)$ $O(m)$

Biarkan daftar menjadi dan , diurutkan dalam urutan yang meningkat. Kami mengambil jumlah , , dan menempatkannya dalam antrian prioritas. $a_1 \ldots a_m$ $b_1 \ldots b_m$ $m$ $a_i + b_1$ $i = 1 \ldots m$

Sekarang, ketika kita tarik jumlah sisa terkecil keluar dari antrian prioritas, jika kita kemudian menempatkan jumlah tersebut ke dalam antrian prioritas. Ruang didominasi oleh antrian prioritas, yang selalu mengandung paling jumlah. Dan waktunya adalah , karena kami menggunakan untuk setiap operasi antrian prioritas. Ini menunjukkan bahwa kita dapat melakukan submasalah dalam $a_i + b_j$ $j < m$ $a_i + b_{j+1}$ $m$ $O(m^2 \log m)$ $O(\log m)$ waktu dan ruang. $O(m^2 \log m)$ $O(m)$

Sekarang, untuk mengurutkan jumlah dari semua himpunan bagian dari angka, kita hanya menggunakan subroutine ini di mana daftar adalah himpunan jumlah himpunan bagian dari paruh pertama item, dan daftar adalah himpunan jumlah subset dari bagian kedua item. Kami dapat menemukan daftar ini secara rekursif dengan algoritma yang sama. $n$ $a_i$ $b_i$

Kami sekarang akan mempertimbangkan masalah aslinya. Misalkan adalah himpunan koordinat yang , dan menjadi himpunan koordinat yang . Kemudian $S_0$ $0$ $S_1$ $1$

\begin{array}{rcl} \prod_{i \in S_{0}} p (v_{i} = 0) \prod_{i \in S_{1}} p (v_{i} = 1) & = & \prod_{1 \leq i \leq n} p (v_{i} = 0) \prod_{i \in S_{1}} \frac{p (v_{i} = 1)}{p (v_{i} = 0)} \\ = & \prod_{1 \leq i \leq n} p (v_{i} = 0) \exp (\sum_{i \in S_{1}} \log \frac{p (v_{i} = 1)}{p (v_{i} = 0)}) . \end{array}

$\begin{eqnarray*}\prod_{i \in S_0} p(v_i=0) \prod_{i \in S_1} p(v_i=1) &=& \prod_{1\leq i \leq n} p(v_i=0) \prod_{i \in S_1} \frac{p(v_i=1)}{p(v_i=0)} \\ &=& \prod_{1\leq i \leq n} p(v_i=0) \exp\,\left(\sum_{i \in S_1} \log \frac{p(v_i=1)}{p(v_i = 0)}\right).\end{eqnarray*}$

Sorting angka-angka ini adalah sama dengan menyortir nomor , jadi kami telah mengurangi masalah untuk menyortir jumlah himpunan bagian dari item. $\sum_{i\in S_1}\log p(v_i=1) - \log p(v_i=0)$ $n$

Peter Shor
sumber

Apakah ada pengurangan yang masuk akal yang akan membuat solusi ruang / waktu poli menjadi tidak masuk akal?

Lembik

2^{n}

$2^n$

n 2^{n}

$n\, 2^n$

Terima kasih. Saya tidak bermaksud waktu poli tentu saja tetapi sesuatu yang linear dalam ukuran output dan ruang poli.

Lembik

4

$O(n)$

$x \in \{0,1\}^n$ $O(n)$ $r(x)$ $x$ $x'$ $p(x') > p(x)$ $x'\in \{0,1\}^n$ $x'$ $p(x') > p(x)$ $r(x)$ $x$
$k$ $x$ $r(x) = k$ $O(n)$ $x \in \{0,1\}^n$ $x$ $r(x)$ $x$ $r(x) = k$
$k$ $0$ $2^n-1$ $k$ $x$ $r(x) =k$

(Kita juga harus menjaga ikatan yang mungkin, tetapi ini tidak sulit.)

Yury
sumber

Terima kasih. Namun itu adalah algoritma yang cukup lambat :)

Lembik

0

Sunting: Jawaban ini salah. Lihat komentar untuk detailnya. ~ gandaliter

$O(2^n)$ $O(n)$

$(i, p_i)$ $\left|0.5 - p_i\right|$
$v$ $v_i$ $1$ $p_i > 0.5$ $0$ $v$ $v_i$ $v$
Sebut fungsi rekursif ini pada daftar yang diurutkan dan vektor kosong.

$0$ $1$ $0.5$

$O(2^n)$ $O(n)$ $n$ $O(2^n)$ $O(n)$ $O(2^n)$ langkah waktu. Oleh karena itu algoritma ini adalah kompleksitas terburuk yang optimal.

pengacau
sumber

Θ (2^{n})

$\Theta(2^n)$

Terima kasih. Saya jelas tidak cukup membacanya! Saya sudah mengedit jawaban saya.

gandaliter

3

v_{1} = 1

$v_1=1$

2^{n - 1}

$2^{n-1}$

v_{1} = 1

$v_1=1$

p_{i} = 0.5

$p_i=0.5$

Anda benar, ini tidak berhasil. Maaf!

gandaliter

Cara mengulangi vektor dalam urutan probabilitas dalam ruang kecil

Jawaban: