Bisakah mengembalikan biner alih-alih html?

12

Saya menggunakan wget untuk mengunduh halaman html statis. Validator W3C memberitahu saya bahwa halaman tersebut dikodekan dalam UTF-8. Namun ketika saya menyimpan file setelah diunduh, saya mendapatkan banyak omong kosong. Saya di Ubuntu, dan saya pikir pengkodean default adalah UTF-8? Sepertinya itu yang dikatakan file lokal saya. Mengapa ini terjadi dan bagaimana saya bisa memperbaikinya?

Juga, sepertinya Content-Encoding: gzip. Mungkin ini membuat perbedaan?

Ini adalah permintaan sederhana:

wget https://www.example.com/page.html

Saya juga mencoba ini:

wget https://www.example.com/page.html -q -O - | iconv -f utf-16 -t utf-8 > output.html

Yang dikembalikan: iconv: illegal input sequence at position 40

cat'ing file mengembalikan biner yang terlihat seperti ini:

l�?חu�`�q"�:)s��dġ__��~i��6n)T�$H�#���QJ

Hasil dari xxd output.html | head -20:

00000000: 1f8b 0800 0000 0000 0003 bd56 518f db44  ...........VQ..D
00000010: 107e a6bf 62d4 8a1e 48b9 d8be 4268 9303  .~..b...H...Bh..
00000020: 8956 082a 155e 7a02 21dd cbd8 3bb6 97ae  .V.*.^z.!...;...
00000030: 77cd ee38 39f7 a1bf 9d19 3bb9 0bbd 9c40  w..89.....;....@
00000040: 2088 12c5 de9d 9df9 be99 6f67 f751 9699   .........og.Q..
00000050: 500d 1d79 5eee a265 faec 7151 e4ab 6205  P..y^..e..qQ..b.
00000060: 4dd3 0014 1790 e7d0 77c0 ef2f cbf8 cde3  M.......w../....
00000070: cf1f 7d6c 7d69 ec16 d0d9 c67f 7d7d 56c9  ..}l}i......}}V.
00000080: 04c5 eb33 35fc e49e 2563 e908 ca10 0d45  ...35...%c.....E
00000090: 31ce afcf a022 e77a 34c6 fa46 46be d88f  1....".z4..FF...
000000a0: a41e ab79 446d 76d6 702b cf45 9e7f ba77  ...yDmv.p+.E...w
000000b0: 7dc2 779c 274e cc18 483c 3a12 0f75 f07c  }.w.'N..H<:..u.|
000000c0: 5e63 67dd b886 ab48 e550 b5c4 f0e3 db0d  ^cg....H.P......
000000d0: 54c1 85b8 8627 2ff3 2ff3 17f9 0626 d31d  T....'/./....&..
000000e0: d9a6 e5b5 4076 663f 94ec 7b5a 17cf 7ade  ....@vf?..{Z..z.
000000f0: 00d3 0d9f 4fcc d733 ef8d a0bb 0a06 c7eb  ....O..3........
00000100: b304 6fb1 b1cc 18ed 90e0 8710 43aa 424f  ..o.........C.BO
00000110: 50c7 d0c1 2bac 09be 4d1c 2566 335e 666c  P...+...M.%f3^fl
00000120: 1e20 951d 58fd 6774 f3e9 f317 749f 7fc4  . ..X.gt....t...
00000130: d651 cdca f5a7 b0a5 aea4 08ab 055c e4c5  .Q...........\..

Juga, anehnya, file output tampaknya terbuka dengan benar di TextWrangler!

ICKIICK
sumber
1
merevisi pertanyaan untuk memberikan perintah yang digunakan dan output yang dihasilkan akan sangat membantu di sini.
steve
LANG = en_US.UTF-8 iconv: urutan input ilegal di posisi 40
ICKIICK
1
Bisakah Anda tunjukkan seperti apa "binary nonsense" itu? Saya sarankan menjalankan: xxd dubious.file| head -20` dan termasuk itu sebagai pembaruan.
Bruce Ediger
@BruceEdiger diperbarui.
ICKIICK
Juga, anehnya, file output tampaknya terbuka dengan benar di TextWrangler!
ICKIICK

Jawaban:

28

Ini adalah file terkompresi gzip . Anda dapat menemukan ini dengan menjalankan fileperintah, yang mencari tahu format file dari angka ajaib dalam data (ini adalah bagaimana program seperti Text Wrangler mengetahui bahwa file dikompresi juga):

file output.html
wget -O - … | file -

Server (saya menduga dari konten yang Anda tunjukkan) mengirim data yang di-gzip dan menyetel header dengan benar

Content-Encoding: gzip

tapi wget tidak mendukung itu. Dalam versi terbaru, wget mengirim Accept-encoding: identity, untuk memberi tahu server untuk tidak mengompres atau menyandikan data. Dalam versi yang lebih lama, Anda dapat mengirim tajuk secara manual:

wget --header 'Accept-encoding: identity' …

Namun server khusus ini tampaknya rusak: ia mengirim data terkompresi bahkan ketika diberitahu untuk tidak menyandikan data dengan cara apa pun. Jadi, Anda harus mendekompres data secara manual.

wget -O output.html.gz … && gunzip output.html.gz
Gilles 'SANGAT berhenti menjadi jahat'
sumber
Analisis yang sangat bagus
roaima
BTW, Anda dapat menyalurkan gunzipdengan cara yang sama seperti yang Anda lakukan file, jika Anda tidak ingin menyimpan sementara. Anda mungkin ingin meneruskan -catau --to-stdout(atau menyebutnya sebagai zcat) untuk memasukkannya ke dalam saluran pipa dalam pertanyaan, antara wgetdan iconv.
Toby Speight
15

File ini masih dikompresi dengan gzip.

Anda dapat melihat bahwa dua byte pertama 0x1f8b cocok dengan gziptanda tangan . Jadi untuk membaca data Anda perlu mengompresnya.

mv file.dat file.dat.gz
gunzip file.dat.gz

Atau

zcat file.dat
roaima
sumber