Articles in the category of 深度平台

  1. Home
  2. 深度平台

Pytorch - 基于torch.distributed.all_gather的梯度反向传播[译]

原文：Gradient backpropagation with torch.distributed.all_gather - 2021.02.07作者：...

  • AIHGF
  • May 16, 2021
  • No comments
    •

    Pytorch - DataParallel和DistributedDataParallel

    基于多个 GPUs 的数据并行化处理，其基本思想是，每个 GPU 复制一个模型副本，分别对 batch 数据进行前向和后向计算. 后向计算的梯度发送到服...

  • AIHGF
  • May 16, 2021
  • No comments
    •

    Github 项目 - NVIDIA DALI 多GPU的使用

    生产级解决方案是使用多机多卡进行网络模型的训练. Multiple GPU Support 给出了如何采用多张 GPUs 运行 DALI Pipeline...

  • AIHGF
  • May 9, 2021
  • No comments
    •

    Github 项目 - NVIDIA DALI 数据加载

    DALI - Data Loading1. 外部数据源采用外部数据源作为 Pipeline 的输入.导入相关库：import types import c...

  • AIHGF
  • May 9, 2021
  • No comments
    •

    Github 项目 - NVIDIA DALI Pipeline

    使用 DALI 库时，数据处理任务都时基于 Pipeline 实现的. Pipeline 对象是 nvidia.dali.Pipeline 的实例，或衍生...

  • AIHGF
  • May 9, 2021
  • No comments
    •

    Github 项目 - NVIDIA DALI加速库介绍

    Github - NVIDIA/DALIdocs - NVIDIA DALI documentationNVIDIA/DALI(NVIDIA Data L...

  • AIHGF
  • May 9, 2021
  • No comments
    •

    Pytorch - 提升性能的几个技巧[转]

    原文：7 tips for squeezing maximum performance from pytorch原文：7个提升PyTorch性能的技巧出处...

  • AIHGF
  • May 8, 2021
  • No comments
    •

    深度模型部署的关键指标

    对于深度学习推理，有5个用于衡量的关键指标：[1] - 吞吐量(Throuthput)指定时间区间内的输出量，通常用inference/second 或者...

  • AIHGF
  • May 5, 2021
  • No comments
    •

    Pytorch - 学习率调整策略lr_scheduler

    Pytorch 学习率调整策略.1. LambdaLR1.1. 函数定义torch.optim.lr_scheduler.LambdaLR(optimiz...

  • AIHGF
  • April 27, 2021
  • No comments
    •

    Pytorch - DataLoader数据读取

    DataLoader 和 Dataset 核心逻辑伪代码，如：import torch class Dataset(object): def ...

  • AIHGF
  • April 19, 2021
  • No comments