pytorch显卡算力不够
㈠ pytorch0.1.12怎么使用多GPU训练
傻瓜的是真的回复的感觉很
㈡ 如何判断pytorch使用了gpu
1、将已经实例化的模型在多个GPU上并行，只需要使用nn.DataParallel(model)方法即可，可用torch.cuda.device_count()检查GPU的个数。
㈢ pytorch新手求问大佬们为什么 out=n(image)执行完就会跳出循环 谢谢!
pytorch动态计算图有什么好处数据计算160;Torch 自称为神经网络界的 Numpy, 因为他能将 torch 产生的 tensor 放在 GPU 中加速运算 (前提是你有合适的 GPU), 就像 Numpy 会把 array 放在 CPU 中加速运算。Torch和Numpy之间可以进行自由的切换：import torch import numpy as np np_data = np.arange(6).reshape((2, 3)) torch_data = torch.from_numpy(np_data) tensor2array = torch_data.numpy() print( ;;nnumpy array:;, np_data, [[0 1 2], [3 4 5]] ;;ntorch tensor:;, torch_data, 0 1 2 ;n 3 4 5 [torch.LongTensor of size 2x3] ;;ntensor to array:;, tensor2array, [[0 1 2], [3 4 5]] )Pytorch中的数学计算：160;Pytorch中很多的数学计算与numpy中的数学计算函数是相同的abs 绝对值计算 data = [-1, -2, 1, 2] tensor = torch.FloatTensor(data) 转换成32位浮点 tensor print( ;;nabs;, ;;nnumpy: ;, np.abs(data), [1 2 1 2] ;;ntorch: ;, torch.abs(tensor) [1 2 1 2] ) sin 三角函数 2.Variable 变量160;Pytorch的Variable相当于一个Wraper，如果你想将数据传送到Pytorch构建的图中，就需要先将数据用Variable进行包装，包装后的Variable有三个attribute：data，creater，grad
㈣ PyTorch到底好用在哪里
PyTorch是个开源的Python机器学习库，在2017年由Facebook人工智能研究院（FAIR）推出面世。很多从业者都很推崇这款工具，下面小编给大家整理了一些关于PyTorch的一些基本知识，给各位网友做个参考。
正是因为这款工具如此的好用，所以为了提升效率，很多程序员都将它添加进自己的学习计划当中。主要原因有四点：第一、多学一个框架，有备无患；第二、同类型功能的框架中PyTorch是最优秀的；第三、容易查找bug，后期查错非常方便；第四、更加简单直接，可以看懂底层的框架，对程序员的提升肉眼可见。
以上就是小编整理出来的PyTorch的相关知识。广大网友们，你们觉得如何？欢迎评论区留言交流。
㈤ pytorch用什么显卡
1. 利用CUDA_VISIBLE_DEVICES设置可用显卡
在CUDA中设定可用显卡，一般有2种方式：
(1) 在代码中直接指定
import os
os.environ['CUDA_VISIBLE_DEVICES'] = gpu_ids
(2) 在命令行中执行代码时指定
CUDA_VISIBLE_DEVICES=gpu_ids python3 train.py
如果使用sh脚本文件运行代码，则有3种方式可以设置
(3) 在命令行中执行脚本文件时指定：
CUDA_VISIBLE_DEVICES=gpu_ids sh run.sh
(4) 在sh脚本中指定：
source bashrc
export CUDA_VISIBLE_DEVICES=gpu_ids && python3 train.py
(5) 在sh脚本中指定
source bashrc
CUDA_VISIBLE_DEVICES=gpu_ids python3 train.py
如果同时使用多个设定可用显卡的指令，比如
source bashrc
export CUDA_VISIBLE_DEVICES=gpu_id1 && CUDA_VISIBLE_DEVICES=gpu_id2 python3 train.py
那么高优先级的指令会覆盖第优先级的指令使其失效。优先级顺序为：不使用sh脚本 (1)>(2)； 使用sh脚本(1)>(5)>(4)>(3)
个人感觉在炼丹时建议大家从(2)(3)(4)(5)中选择一个指定可用显卡，不要重复指定以防造成代码的混乱。方法(1)虽然优先级最高，但是需要修改源代码，所以不建议使用。
2 .cuda()方法和torch.cuda.set_device()
我们还可以使用.cuda()[包括model.cuda()/loss.cuda()/tensor.cuda()]方法和torch.cuda.set_device()来把模型和数据加载到对应的gpu上。
(1) .cuda()
以model.cuda()为例，加载方法为：
model.cuda(gpu_id) # gpu_id为int类型变量，只能指定一张显卡
model.cuda('cuda:'+str(gpu_ids)) #输入参数为str类型，可指定多张显卡
model.cuda('cuda:1,2') #指定多张显卡的一个示例
(2) torch.cuda.set_device()
使用torch.cuda.set_device()可以更方便地将模型和数据加载到对应GPU上, 直接定义模型之前加入一行代码即可
torch.cuda.set_device(gpu_id) #单卡
torch.cuda.set_device('cuda:'+str(gpu_ids)) #可指定多卡
但是这种写法的优先级低，如果model.cuda()中指定了参数，那么torch.cuda.set_device()会失效，而且pytorch的官方文档中明确说明，不建议用户使用该方法。
第1节和第2节所说的方法同时使用是并不会冲突，而是会叠加。比如在运行代码时使用
CUDA_VISIBLE_DEVICES=2,3,4,5 python3 train.py
而在代码内部又指定
model.cuda(1)
loss.cuda(1)
tensor.cuda(1)
那么代码会在GPU3上运行。原理是CUDA_VISIBLE_DEVICES使得只有GPU2,3,4,5可见，那么这4张显卡，程序就会把它们看成GPU0,1,2,3，.cuda(1)把模型/loss/数据都加载到了程序所以为的GPU1上，则实际使用的显卡是GPU3。
如果利用.cuda()或torch.cuda.set_device()把模型加载到多个显卡上，而实际上只使用一张显卡运行程序的话，那么程序会把模型加载到第一个显卡上，比如如果在代码中指定了
model.cuda('cuda:2,1')
在运行代码时使用
CUDA_VISIBLE_DEVICES=2,3,4,5 python3 train.py
这一指令，那么程序最终会在GPU4上运行。
3.多卡数据并行torch.nn.DataParallel
多卡数据并行一般使用
torch.nn.DataParallel(model,device_ids)
其中model是需要运行的模型，device_ids指定部署模型的显卡，数据类型是list
device_ids中的第一个GPU（即device_ids[0]）和model.cuda()或torch.cuda.set_device()中的第一个GPU序号应保持一致，否则会报错。此外如果两者的第一个GPU序号都不是0,比如设置为：
model=torch.nn.DataParallel(model,device_ids=[2,3])
model.cuda(2)
那么程序可以在GPU2和GPU3上正常运行，但是还会占用GPU0的一部分显存（大约500M左右），这是由于pytorch本身的bug导致的（截止1.4.0，没有修复这个bug）。
device_ids的默认值是使用可见的GPU，不设置model.cuda()或torch.cuda.set_device()等效于设置了model.cuda(0)
4. 多卡多线程并行torch.nn.parallel.DistributedDataParallel
（这个我是真的没有搞懂,,,,）
参考了这篇文章和这个代码，关于GPU的指定，多卡多线程中有2个地方需要设置
torch.cuda.set_device(args.local_rank)
torch.nn.parallel.DistributedDataParallel(model, device_ids=[args.local_rank])
模型/loss/tensor设置为.cuda()或.cuda(args.local_rank)均可，不影响正常运行。
5. 推荐设置方式：
(1) 单卡
使用CUDA_VISIBLE_DEVICES指定GPU，不要使用torch.cuda.set_device()，不要给.cuda()赋值。
(2) 多卡数据并行
直接指定CUDA_VISIBLE_DEVICES，通过调整可见显卡的顺序指定加载模型对应的GPU,不要使用torch.cuda.set_device()，不要给.cuda()赋值，不要给torch.nn.DataParallel中的device_ids赋值。比如想在GPU1,2,3中运行，其中GPU2是存放模型的显卡，那么直接设置
CUDA_VISIBLE_DEVICES=2,1,3
(3) 多卡多线程
㈥ pytorch dataloader内存不够
1.首先电脑上需要安装360安全卫士。
然后用数据线将手机与电脑的USB接口相连入手机程序列表，点击“设置”按钮。找到并点击“应用程序”列表项，再点击“开发”选项，在打开的“开发”列表中勾选“USB”调试打开手机的USB调试模式。
2.手机杀毒。
打开360手机助手，点击左侧【手机杀毒】，在右侧点击“立即查杀”，进手机进行杀毒。内存清理。点击左侧【内存清理】，在右侧窗口中点击”开始清理“，就会对当前手机中的一些临时文件或缓存文件进行清理，这样就可以释放一些有效的内存空间。
3.卸载不常使用的系统程序。点击左侧的“系统应用”，然后在右侧选择不常使用的系统程序，点击”卸载“将其移除，以释放内存空间。
4.应用程序搬家。点击左侧“我的应用”选项卡，在右侧选择“移到SD卡”，然后点击图标右上角的“搬”字即可进行程序的转移操作。
5.将联系人备份到SIM卡上，然后删除手机上的联系人，这样也可以释放一些手机的内存。首先进入“联系人”列表，按一下手机上的菜单键，从展开的窗口中选择”管理联系人“。
㈦ PyTorch安装问题
在Windows上安装
pytorch可以安装和使用在各种Windows发行版上。根据系统和计算要求，您在Windows上使用pytorch的经验可能因处理时间而异。建议，但不是必需的，您的Windows系统有一个Nvidia GPU，以便充分利用pytorch的CUDA支持。
先决条件
支持的Windows发行版 以下Windows发行版支持pytorch：
Windows 7及更高版本；建议使用Windows 10或更高版本。
Windows Server 2008 R2及更高版本 此处的安装说明通常适用于所有受支持的Windows发行版。所示的特定示例将在Windows 10企业级计算机上运行。
㈧ pytorch-cpu下载慢
下载慢可能与网速有关，也有可能与你的电脑性能不佳有关，优化电脑系统。可以提高运行效率。
㈨ 为什么pytorch的张量维列
pytorch动态计算图有什么好处
数据计算160;
Torch 自称为神经网络界的 Numpy, 因为他能将 torch 产生的 tensor 放在 GPU 中加速运算 (前提是你有合适的 GPU), 就像 Numpy 会把 array 放在 CPU 中加速运算。Torch和Numpy之间可以进行自由的切换：
import torch import numpy as np np_data = np.arange(6).reshape((2, 3)) torch_data = torch.from_numpy(np_data) tensor2array = torch_data.numpy() print( ;;nnumpy array:;, np_data, [[0 1 2], [3 4 5]] ;;ntorch tensor:;, torch_data, 0 1 2 ;n 3 4 5 [torch.LongTensor of size 2x3] ;;ntensor to array:;, tensor2array, [[0 1 2], [3 4 5]] )
Pytorch中的数学计算：160;
Pytorch中很多的数学计算与numpy中的数学计算函数是相同的
abs 绝对值计算 data = [-1, -2, 1, 2] tensor = torch.FloatTensor(data) 转换成32位浮点 tensor print( ;;nabs;, ;;nnumpy: ;, np.abs(data), [1 2 1 2] ;;ntorch: ;, torch.abs(tensor) [1 2 1 2] ) sin 三角函数
2.Variable 变量160;
Pytorch的Variable相当于一个Wraper，如果你想将数据传送到Pytorch构建的图中，就需要先将数据用Variable进行包装，包装后的Variable有三个attribute：data，creater，grad