Cara terbaik untuk menyajikan hutan acak dalam publikasi?

Saya menggunakan algoritma hutan acak sebagai penggolong kuat dari dua kelompok dalam studi microarray dengan ribuan fitur.

• Apa cara terbaik untuk menyajikan hutan acak sehingga ada cukup informasi untuk membuatnya dapat diproduksi ulang di kertas?
• Apakah ada metode plot dalam R untuk benar-benar plot pohon, jika ada sejumlah kecil fitur?
• Apakah estimasi tingkat kesalahan OOB statistik terbaik untuk mengutip?

Mengenai membuatnya dapat direproduksi, cara terbaik adalah memberikan penelitian yang dapat direproduksi (yaitu kode dan data) bersama dengan makalah. Jadikan tersedia di situs web Anda, atau di situs hosting (seperti github).

Mengenai visualisasi, Leo Breiman telah melakukan beberapa pekerjaan yang menarik dalam hal ini (lihat homepage-nya , khususnya pada bagian grafis ).

Tetapi jika Anda menggunakan R, maka randomForestpaket tersebut memiliki beberapa fungsi yang berguna:

data(mtcars)
mtcars.rf <- randomForest(mpg ~ ., data=mtcars, ntree=1000, keep.forest=FALSE,
                           importance=TRUE)
plot(mtcars.rf, log="y")
varImpPlot(mtcars.rf)

Dan

set.seed(1)
data(iris)
iris.rf <- randomForest(Species ~ ., iris, proximity=TRUE,
                        keep.forest=FALSE)
MDSplot(iris.rf, iris$Species)

Saya tidak mengetahui cara sederhana untuk benar-benar plot pohon, tetapi Anda dapat menggunakan getTreefungsi untuk mengambil pohon dan plot itu secara terpisah.

getTree(randomForest(iris[,-5], iris[,5], ntree=10), 3, labelVar=TRUE)

The Strobl / Zeileis presentasi tentang "Mengapa dan bagaimana menggunakan langkah-langkah penting variabel hutan random (dan bagaimana Anda tidak harus)" memiliki contoh pohon yang harus telah diproduksi dengan cara ini. Posting blog ini pada model pohon memiliki beberapa contoh bagus plot pohon CART yang dapat Anda gunakan misalnya.

Seperti yang dikomentari @chl, satu pohon tidak terlalu berarti dalam konteks ini, sehingga singkat menggunakannya untuk menjelaskan apa itu hutan acak, saya tidak akan memasukkan ini ke dalam makalah.

1. Seperti yang ditulis Shane; buatlah penelitian yang dapat direproduksi + termasuk benih acak, karena RF bersifat stokastik.
2. Pertama-tama, memplot pohon tunggal yang membentuk RF adalah omong kosong; ini adalah penggolong ensemble, masuk akal hanya sebagai keseluruhan. Tetapi bahkan memplot seluruh hutan itu tidak masuk akal - itu adalah klasifikasi kotak-hitam, jadi tidak dimaksudkan untuk menjelaskan data dengan strukturnya, melainkan untuk mereplikasi proses aslinya. Sebagai gantinya, buat beberapa plot yang disarankan Shane.
3. Dalam praktiknya, OOB adalah perkiraan kesalahan yang sangat baik; namun ini bukan fakta yang diterima secara luas, jadi untuk publikasi sebaiknya buat CV untuk mengonfirmasi.

Perlu diingat peringatan di jawaban lain tentang plot tentu menjadi bermakna. Tetapi jika Anda menginginkan plot untuk tujuan ilustrasi / pedagogis, cuplikan R berikut mungkin berguna. Tidak sulit untuk menambahkan "titik split" ke teks tepi jika Anda membutuhkannya.

to.dendrogram <- function(dfrep,rownum=1,height.increment=0.1){

  if(dfrep[rownum,'status'] == -1){
    rval <- list()

    attr(rval,"members") <- 1
    attr(rval,"height") <- 0.0
    attr(rval,"label") <- dfrep[rownum,'prediction']
    attr(rval,"leaf") <- TRUE

  }else{##note the change "to.dendrogram" and not "to.dendogram"
    left <- to.dendrogram(dfrep,dfrep[rownum,'left daughter'],height.increment)
    right <- to.dendrogram(dfrep,dfrep[rownum,'right daughter'],height.increment)
    rval <- list(left,right)

    attr(rval,"members") <- attr(left,"members") + attr(right,"members")
    attr(rval,"height") <- max(attr(left,"height"),attr(right,"height")) + height.increment
    attr(rval,"leaf") <- FALSE
    attr(rval,"edgetext") <- dfrep[rownum,'split var']
    #To add Split Point in Dendrogram
    #attr(rval,"edgetext") <- paste(dfrep[rownum,'split var'],"\n<",round(dfrep[rownum,'split point'], digits = 2),"=>", sep = " ")
  }

  class(rval) <- "dendrogram"

  return(rval)
}

mod <- randomForest(Species ~ .,data=iris)
tree <- getTree(mod,1,labelVar=TRUE)

d <- to.dendrogram(tree)
str(d)
plot(d,center=TRUE,leaflab='none',edgePar=list(t.cex=1,p.col=NA,p.lty=0))