佳木斯湛栽影视文化发展公司

主頁 > 知識庫 > 解決python 使用openpyxl讀寫大文件的坑

解決python 使用openpyxl讀寫大文件的坑

熱門標簽:Win7旗艦版 語音系統(tǒng) 客戶服務 百度AI接口 硅谷的囚徒呼叫中心 電話運營中心 企業(yè)做大做強 呼叫中心市場需求

由于需要處理xlsx類型的文件,我使用了openpyxl來處理,然而文件比較大,大約有60多MB。讀文件的時候雖然慢了一點,但還是能夠讀出來,但是當我想寫入時卻報錯了。

顯示設備沒有多余的空間,百度了一下,發(fā)現(xiàn)有不少關于openpyxl讀寫大文件的問題??偨Y來看,解決方案主要有以下兩種,當然,我兩種都用上了。

手動釋放內存

del wb, ws
gc.collect()

這一招還算有用,在讀完文件后可以看到內存占用明顯下降了一點。

安裝lxml

使用命令·pip install lxml安裝依賴

這個依賴并非必須安裝的依賴,但是可以使openpyxl流式處理數(shù)據。

總之使用了以上兩種方案后,終于可以成功處理數(shù)據了。

補充:openpyxl讀取大文件的若干問題

需要編寫一個EXCEL文件對比工具

excel文件通常8MB,300張左右的表,每張表實際范圍為ZZ500.

使用openpyxl對表格進行遍歷,完成兩個表之間的對比,找出公式不相同的單元格編程中遇到若干問題

1、讀取時報錯,錯誤代碼忘記了,原因是通過數(shù)組的方式讀取了一個不存在的數(shù)值

如 SS['AA'],這個數(shù)值沒有定義,因此報錯(PHP直接返回空值),使用SS.get('AA',null)進行修改

D:\Python34\Lib\site-packages\openpyxl\reader\style.py

164: format_code = builtin_formats.get(numFmtId,'General')

2、讀取時內存占用過大

基本就是內存占用了2G以上以后,程序就不動了,原因是某些表格的表格范圍識別的非常大,最大可為ZZ65535

通過研究,代碼進行了如下修改

1:使用X64版本,X64版本在運行時,可以運行4G以內內存占用的程序,比2G大一倍,能夠完成大部分表格的讀取,如ZZ5000,但是遇到ZZ65535范圍的表格,內存占用達到了4G+,也會導致程序停止運行.

2:限制最大單元格遍歷范圍,最大限制為ZZ5000,能夠有效降低內存占用

3:定時重新讀取EXCEL文件(如每對比30張表),釋放內存,(Python內存釋放真的很痛苦,全部是指針引用,A=B,DEL A;是不會釋放空間的,要DEL B才行).

4:雖然openpyxl讀取文件時有個只讀模式(性能模式),但是速度實在是太慢了.

通過代碼修改,現(xiàn)在完成文件對比所用的內存通常在2G以內

以上為個人經驗,希望能給大家一個參考,也希望大家多多支持腳本之家。如有錯誤或未考慮完全的地方,望不吝賜教。

您可能感興趣的文章:
  • python 辦公自動化——基于pyqt5和openpyxl統(tǒng)計符合要求的名單
  • Python Excel處理庫openpyxl詳解
  • python使用openpyxl庫讀寫Excel表格的方法(增刪改查操作)
  • Python利器openpyxl之操作excel表格
  • Python離線安裝openpyxl模塊的步驟
  • Python openpyxl 無法保存文件的解決方案
  • python openpyxl 帶格式復制表格的實現(xiàn)
  • python 使用openpyxl讀取excel數(shù)據
  • python openpyxl的使用方法

標簽:喀什 山西 安康 崇左 濟南 海南 山西 長沙

巨人網絡通訊聲明:本文標題《解決python 使用openpyxl讀寫大文件的坑》,本文關鍵詞  ;如發(fā)現(xiàn)本文內容存在版權問題,煩請?zhí)峁┫嚓P信息告之我們,我們將及時溝通與處理。本站內容系統(tǒng)采集于網絡,涉及言論、版權與本站無關。
  • 相關文章
  • 收縮
    • 微信客服
    • 微信二維碼
    • 電話咨詢

    • 400-1100-266
    榕江县| 永州市| 开化县| 武定县| 大丰市| 华蓥市| 南通市| 阳高县| 确山县| 紫云| 汉川市| 拉孜县| 工布江达县| 周至县| 定日县| 新疆| 昌宁县| 台湾省| 信丰县| 吴忠市| 潜江市| 河西区| 夏河县| 峨山| 澳门| 蛟河市| 夹江县| 洛扎县| 田东县| 平南县| 温州市| 普兰县| 天全县| 兴化市| 高尔夫| 隆安县| 家居| 赤壁市| 金川县| 长汀县| 岳池县|