Independensi linier vs independensi statistik (PCA dan ICA)

Saya membaca makalah yang menarik ini tentang penerapan ICA untuk data ekspresi gen.

Penulis menulis:

[T] di sini tidak ada persyaratan untuk komponen PCA harus independen secara statistik.

Itu benar, tetapi PC itu ortogonal, bukan?

Saya agak tidak jelas tentang apa hubungan antara kecenderungan statistik dan ortogonalitas atau independensi linear.

Perlu dicatat bahwa sementara ICA juga menyediakan dekomposisi linear dari matriks data, persyaratan independensi statistik menyiratkan bahwa matriks kovarians data didekorasi dengan cara yang tidak linier, berbeda dengan PCA di mana dekorelasi dilakukan secara linear.

Saya tidak mengerti itu. Bagaimana kurangnya linearitas mengikuti dari independensi statistik?

Pertanyaan: bagaimana independensi statistik komponen dalam ICA berhubungan dengan independensi linear komponen dalam PCA?

Ini mungkin merupakan duplikat dari beberapa pertanyaan lama, tetapi saya akan menjawabnya secara singkat.

Untuk penjelasan non-teknis, saya menemukan angka ini cukup membantu dari artikel Wikipedia tentang Korelasi dan ketergantungan :

Angka-angka di atas setiap plot sebaran menunjukkan koefisien korelasi antara X dan Y. Lihat baris terakhir: pada setiap plot sebaran korelasinya nol, yaitu X dan Y adalah "bebas linear". Namun mereka jelas tidak independen secara statistik: jika Anda tahu nilai X, Anda dapat mempersempit nilai yang mungkin dari Y. Jika X dan Y independen, itu berarti mengetahui bahwa X tidak memberi tahu apa - apa tentang Y.

Tujuan ICA adalah mencoba menemukan komponen independen. Di PCA Anda hanya mendapatkan komponen yang tidak berkorelasi ("orthogonal"); korelasi di antara mereka adalah nol tetapi mereka bisa sangat tergantung secara statistik.