Pemisahan sumber buta campuran cembung?

Misalkan saya memiliki sumber-sumber independen, dan saya amati cembung campuran: $n$ $X_1, X_2, ..., X_n$ $m$

\begin{aligned} Y_{1} & = a_{11} X_{1} + a_{12} X_{2} + \dots + a_{1 n} X_{n} \\ . . . \\ Y_{m} & = a_{m 1} X_{1} + a_{m 2} X_{2} + \dots + a_{m n} X_{n} \end{aligned}

$\begin{align} Y_1 &= a_{11}X_1 + a_{12}X_2 + \cdots + a_{1n}X_n\\ ...&\\ Y_m &= a_{m1}X_1 + a_{m2}X_2 + \cdots + a_{mn}X_n \end{align}$

dengan untuk semua dan untuk semua . $\sum_j a_{ij} = 1$ $i$ $a_{ij} \ge 0$ $i,j$

Bagaimana keadaan memulihkan dari ? $X$ $Y$

PCA keluar dari pertanyaan karena saya perlu komponen yang dapat diidentifikasi. Saya telah melihat ICA dan NMF - Saya tidak dapat menemukan cara untuk memaksakan nonnegativitas dari koefisien pencampuran untuk ICA, dan NMF tampaknya tidak memaksimalkan independensi.

pca ica anonim
sumber

Saya akan berpikir bahwa ini harus disebut "analisis komponen independen nonnegatif", tetapi tampaknya nama ini telah digunakan untuk ICA dengan kendala nonnegativitas pada sumber

, bukan pada matriks pencampuran

( eecs.qmul.ac.uk/ ~ markp / 2003 / Plumbley03-algorithmms-c.pdf ). Jadi ini tidak berlaku untuk kasus Anda. Pertanyaan menarik.

X

$X$

A

$A$

Amoeba berkata Reinstate Monica

Apakah Anda tidak ingin jumlah untuk melebihi j bukan saya? Bisakah Anda menganggap sumbernya kira-kira gaussian? jika mereka unimodal dan memiliki pembusukan yang cukup cepat, mungkin saja pas GMM sudah cukup.

Yair Daon

@ YairDaon Ah ya terima kasih, tangkapan yang bagus. Sayangnya sumbernya terpisah dan bahkan tidak terlihat seperti campuran gaussians. Tapi mungkin saya bisa memperkirakannya secara kasar sebagai campuran gaussian dan kemudian disempurnakan lebih lanjut. Tetapi akan menyenangkan untuk memiliki sesuatu yang lebih umum / kuat

anonim

Algoritma ICA apa yang telah Anda coba? Saya agak berkarat, tetapi anggaplah asumsi non-negatif dari koefisien pencampuran dapat diterapkan dalam beberapa algoritma yang mengasumsikan model tertentu untuk sinyal seperti algoritma Identifikasi Buta Kedua (WASOBI) yang Beratnya Disesuaikan, karena mengasumsikan Anda dapat model sinyal sebagai proses AR dan, dengan demikian, Anda dapat memaksakan kondisi dalam koefisien.

Néstor

Semua sumber didukung pada set {1,2, ..., 96}

anonim

Ini dapat dicapai dengan menggunakan non-linearitas eksponensial bukan khas / standar tanh (), jika X juga non-negatif.

Formula 40 di https://www.cs.helsinki.fi/u/ahyvarin/papers/NN00new.pdf dan tersedia di sebagian besar implementasi.

Misalnya dalam sklearn cukup gunakan fun = 'exp' https://scikit-learn.org/stable/modules/generated/sklearn.decomposition.FastICA.html

Henrique Mendonça
sumber

Selamat datang di Stats.SE. Bisakah Anda mengedit jawaban Anda dan mengembangkannya untuk menjelaskan langkah-langkah kunci dari tautan yang Anda berikan? Dengan cara ini, informasi dapat dicari di sini (dan terkadang tautan putus). Anda mungkin ingin melihat bantuan pemformatan . Saat melakukannya, Anda dapat menggunakan LaTeX / MathJax .

Ertxiem - mengembalikan Monica

Pemisahan sumber buta campuran cembung?

Jawaban: