IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 人工智能 -> pytorch数据加载-DataLoader -> 正文阅读

[人工智能]pytorch数据加载-DataLoader

本篇主要介绍torch.utils.data.DataLoader的作用

	DataLoader(dataset, batch_size=1, shuffle=False, sampler=None,
	           batch_sampler=None, num_workers=0, collate_fn=None,
	           pin_memory=False, drop_last=False, timeout=0,
	           worker_init_fn=None, *, prefetch_factor=2,
	           persistent_workers=False)

参数说明:
        dataset(Dataset):以迭代方式加载数据的数据集,具体加载形式需要重载__getitem__函数
        batch_size (int, optional): 每批要加载多少个样本
            (默认值:``1``)。
        shuffle (bool, optional): 设置为 True 让数据重新洗牌
            在每个时期(默认值:``False``)。
        sampler (Sampler or Iterable, optional): 定义采样策略
            数据集中的样本。可以是任何带有 __len__ 的 ``Iterable``
            实施的。如果指定,则不能指定 :attr:`shuffle`。
        batch_sampler(Sampler 或 Iterable,可选):类似于 :attr:`sampler`,但是
            一次返回一批索引。
        num_workers (int, optional): 有多少子进程用于数据
            加载。 ``0`` 表示数据将在主进程中加载??,容易造成等待加载数据的时间过长
            (默认值:``0``)
        collat??e_fn(可调用,可选):合并样本列表以形成
            小批量张量。使用批量加载时使用,如何处理batch数据,并返回什么形式的数据
            
        pin_memory (bool, optional): 如果为True,数据加载器将复制张量
            在返回它们之前进入 CUDA 固定内存。如果您的数据元素
            是自定义类型,或者您的 collat??e_fn 返回一个自定义类型的批次,
            请参见下面的示例。
        drop_last (bool, optional): 设置为 ``True`` 以丢弃最后一个不完整的批次,
            如果数据集大小不能被批量大小整除。如果“假”和
            数据集的大小不能被批大小整除,那么最后一批
            会更小。 (默认:“假”)
        timeout(numeric, optional):如果为正,则收集批次的超时值
            来自worker。应始终为非负数。 (默认值:``0``)
        worker_init_fn (callable, optional): 如果不是``None``,这将在每个
            worker id 的子进程(一个 int in ``[0, num_workers - 1]``)
            输入,在播种之后和数据加载之前。 (默认:“无”)
        prefetch_factor (int, optional, keyword-only arg): 加载的样本数
            由每个worker提前加载。 ``2`` 表示总共有2 * num_workers 样本预取。 (默认:``2``)
        persistent_workers (bool, optional): 如果 ``True``,数据加载器不会关闭
            worker在数据集被使用一次后进行处理。这允许
            保持worker“数据集”实例处于活动状态。 (默认:“False”)

Demo

from torch.utils.data import DataLoader
import numpy as np
import time
if __name__=="__main__":
    dataset=np.arange(10000)
    data=DataLoader(dataset=dataset,batch_size=100,  shuffle=False,num_workers=2,prefetch_factor=3)#
    begin=time.time()
    for i,d in enumerate(data):
        end=time.time()
        print('time:%f ms'%((end-begin)*1000))
        begin=time.time()

'''
num_workers:越大,初始时间越长
prefetch_factor:

num_workers=10,prefetch_factor=3
time:14173.185825 ms #初始化
time:0.000000 ms
time:0.000000 ms
time:0.998497 ms
time:0.000000 ms
time:0.000000 ms
time:0.996590 ms
time:0.000000 ms
time:0.000000 ms
time:2.991915 ms
time:0.000000 ms
time:0.000000 ms
time:0.000000 ms
time:0.000000 ms
time:0.000000 ms
time:0.000000 ms
time:0.000000 ms
time:0.000000 ms
time:0.000000 ms
time:0.996590 ms


num_workers=5,prefetch_factor=3
time:7062.668800 ms
time:0.999212 ms
time:0.000000 ms
time:0.996351 ms
time:6.023645 ms
time:0.000000 ms
time:0.000000 ms
time:0.000000 ms
time:0.000000 ms
time:0.965357 ms
time:0.000000 ms
time:0.000000 ms
time:0.989676 ms
time:0.000000 ms
time:0.000000 ms
time:0.000000 ms
time:0.000000 ms
time:0.000000 ms
time:0.996590 ms

'''

  人工智能 最新文章
2022吴恩达机器学习课程——第二课(神经网
第十五章 规则学习
FixMatch: Simplifying Semi-Supervised Le
数据挖掘Java——Kmeans算法的实现
大脑皮层的分割方法
【翻译】GPT-3是如何工作的
论文笔记:TEACHTEXT: CrossModal Generaliz
python从零学(六)
详解Python 3.x 导入(import)
【答读者问27】backtrader不支持最新版本的
上一篇文章      下一篇文章      查看所有文章
加:2022-04-30 08:42:53  更:2022-04-30 08:44:43 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/26 8:37:48-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码