欢迎来到代码驿站!

Python代码

当前位置:首页 > 软件编程 > Python代码

python分块读取大数据,避免内存不足的方法

时间:2021-04-02 09:46:37|栏目:Python代码|点击:

如下所示:

def read_data(file_name):
 '''
 file_name:文件地址
 '''
 inputfile = open(file_name, 'rb') #可打开含有中文的地址
 data = pd.read_csv(inputfile, iterator=True)
 loop = True
 chunkSize = 1000 #一千行一块
 chunks = []
 while loop:
  try:
   chunk = dcs.get_chunk(chunkSize)
   chunks.append(chunk)
  except StopIteration:
   loop = False
   print("Iteration is stopped.")
 data = pd.concat(chunks, ignore_index=True)
 #print(train.head())
 return data

上一篇:详解用TensorFlow实现逻辑回归算法

栏    目:Python代码

下一篇:将自己的数据集制作成TFRecord格式教程

本文标题:python分块读取大数据,避免内存不足的方法

本文地址:http://www.codeinn.net/misctech/92989.html

推荐教程

广告投放 | 联系我们 | 版权申明

重要申明:本站所有的文章、图片、评论等,均由网友发表或上传并维护或收集自网络,属个人行为,与本站立场无关。

如果侵犯了您的权利,请与我们联系,我们将在24小时内进行处理、任何非本站因素导致的法律后果,本站均不负任何责任。

联系QQ:914707363 | 邮箱:codeinn#126.com(#换成@)

Copyright © 2020 代码驿站 版权所有