国产成人精品久久免费动漫-国产成人精品天堂-国产成人精品区在线观看-国产成人精品日本-a级毛片无码免费真人-a级毛片毛片免费观看久潮喷

您的位置:首頁技術(shù)文章
文章詳情頁

python - pyspider爬取了接近1G的數(shù)據(jù),無法導(dǎo)出csv?

瀏覽:76日期:2022-08-09 10:42:46

問題描述

已經(jīng)增加虛擬機(jī)內(nèi)存至2g,依然無法導(dǎo)出。

問題解答

回答1:

一般是分文件導(dǎo)出的,如果一個單位的數(shù)據(jù)大約是1M的話,就分成1024個文件。

另外,合成1G的csv也是不合實際的,因為1G的csv幾乎是打不開的。如果實在是要合成1G的話,把導(dǎo)出的一千多個文件再合成為一份CSV即可,文件合成python很容易實現(xiàn)。

回答2:

1G的數(shù)據(jù)月CSV處理本身就不太合理了。試試看sqlite3。

回答3:

8G一樣不夠,建議選擇數(shù)據(jù)庫作為存儲方案,1G規(guī)模的CSV是沒有存在的意義的。

回答4:

用ftp內(nèi)網(wǎng)下載飛快.我前兩天傳8個g.感覺就是幾分鐘就下載好了

標(biāo)簽: Python 編程
主站蜘蛛池模板: 日本人一级毛片免费视频 | 国产精品久久久久久一区二区三区 | 奇米色88欧美一区二区 | 欧美同性videos在线可播放 | 成在线人永久免费播放视频 | 成人免费一级片 | 欧美久久久久久久久 | 国产精品九九免费视频 | 韩国精品一区二区三区四区五区 | 日本欧美中文 | 男女免费观看视频 | 欧美日韩亚洲一区二区三区 | 男人透女人超爽视频免费 | 国产精品黄页在线播放免费 | 在线观看不卡一区 | 欧美成人做性视频在线播放 | 国产精品久久久久影院色 | 亚洲欧美日韩国产一区二区精品 | 亚州免费一级毛片 | 亚洲精品男人天堂 | 国产精品看片 | 国产a级一级久久毛片 | 久久香蕉精品成人 | 日本一级毛片免费 | 一级特黄牲大片免费视频 | 手机在线精品视频每日更新 | 欧美一级毛片欧美一级无片 | 日韩视频一区二区 | 深夜爽爽福利gif在线观看 | 中国美女隐私无遮挡免费视频 | 中文字幕1区 | 亚洲线精品久久一区二区三区 | 国产成人毛片视频不卡在线 | 精品久久久中文字幕一区 | 欧美一区二区三区不卡免费 | 亚洲天堂男人在线 | 久久成人精品 | 国内自拍在线观看 | 99久99久6久热在线播放 | 亚洲一区二区免费 | 欧美午夜网站 |