Saya sering berurusan dengan jumlah data deret waktu yang masuk akal, 50-200 juta ganda dengan perangko waktu terkait dan ingin memvisualisasikannya secara dinamis.
Apakah ada perangkat lunak yang ada untuk melakukan ini secara efektif? Bagaimana dengan perpustakaan dan format data? Zoom-cache adalah salah satu contoh perpustakaan yang berfokus pada seri waktu yang besar. Dalam Zoom-cache data diringkas pada beberapa resolusi untuk membuatnya lebih mudah untuk melihat pada resolusi yang berbeda.
Sunting: Juga jika ada tempat lain saya harus menanyakan pertanyaan ini atau mencari jawaban tolong beri tahu saya.
Jawaban:
Ada satu set alat penelitian yang disebut TimeSearcher 1--3 yang memberikan beberapa contoh bagaimana menangani dataset time-series besar. Berikut adalah beberapa contoh gambar dari TimeSearcher 2 dan 3.
sumber
Maaf untuk iklan sendiri, tetapi Thunderplot (thunderplot.com) akan menjadi kandidat yang baik untuk itu. Saya menulisnya persis untuk memplot interaktif dataset besar. Saya tidak mengujinya dengan set data baris 200KK, tetapi berfungsi baik dengan ~ 10KK baris. Juga ada fitur "read every Nth row", sehingga Anda dapat mengurangi jumlah data untuk disimpan / divisualisasikan. Saya dapat mengirimkan kunci pendaftaran kepada Anda sebagai ganti dari salah satu kumpulan data besar itu. :-)
sumber
Pos lain yang mempromosikan diri karena saya bekerja untuk perusahaan ini, tetapi SensorCloud (sensorcloud.com) menggunakan algoritma pintar untuk membuat grafik kumpulan data besar dengan sangat cepat. Awalnya dirancang dengan mempertimbangkan sensor fisik kami, tetapi memiliki pengunggah CSV untuk menangani data jadwal waktu apa pun.
Misalnya, kami mengunggah set data yang memiliki 100 miliar titik data (lebih dari 1 terabyte nilai timestamp + data) dan Anda dapat membuat grafik dan berinteraksi dengannya dengan sangat cepat.
Berikut tautan publik ke dataset tersebut: https://sensorcloud.microstrain.com/SensorCloud/data/Z3MFURATHIB8A032/
Tautan di atas menggunakan penampil flash kami. Jika Anda tidak ingin menggunakan flash, inilah penampil javascript: https://sensorcloud.microstrain.com/SensorCloud/data/Z3MFURATHIB8A032/js/
Gunakan roda gulir, atau Shift + klik kiri untuk memperbesar.
sumber