首页 > 其他 > 详细

pandas加速读取数据记录

时间:2021-04-10 00:35:45      阅读:24      评论:0      收藏:0      [点我收藏+]
def readf(file):
    t0 = time.time()
    data=pd.read_csv(file,low_memory=False,encoding=gbk
                     #,nrows=100
                     )
    t1 = time.time()
    print(耗时%0.3f秒钟%(t1-t0))
    return data
d1=readf(file1)
t0 = time.time()
d1.to_pickle(d1.pkl)
t1 = time.time()
print(耗时%0.3f秒钟%(t1-t0))
t0 = time.time()
d2=pd.read_pickle(d1.pkl)
t1 = time.time()
print(耗时%0.3f秒钟%(t1-t0))

print(d1.shape)
print(d2.shape)

测试读取40多万数据的速度:

耗时12.768秒钟
耗时1.561秒钟
耗时1.751秒钟
(468372, 77)
(468372, 77)

pandas加速读取数据记录

原文:https://www.cnblogs.com/prefertea/p/14637068.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!