深度学习

使用Pytorch构建一个神经网络

关于torch.nn·使用Pytorch来构建神经网络，主要的工具都在torch.nn包中·nn依赖于autograd来定义模型，并对其自动求导构建神经网络的典型流程·定义一个拥有可学习参数的神经网络·遍历训练数据集·处理输入数据使其流经神经网络·计算损失值...
2021-10-24 00:56 阅读数 51

torch.nn神经网络（2）--池化层+非线性激活函数（ReLU和Sigmiod）+Sequential()函数的使用

nn.Module神经网络4.池化层池化层：池化函数使用某一位置的相邻输出的总体统计特征来代替网络在该位置的输出。 本质是降采样，减少网络的参数量还是老规矩，导入模块及数据集，CIFAR10,batchsize=64：import torchimport torchvisionfrom tor...
2021-10-23 00:00 阅读数 48

笑出腹肌！程序员从不撒谎，但注释却会！

大牛总说：代码就是最好的注释。打开凤凰新闻，查看更多高清图片所以，世上本没有注释，代码写多了，也便有了注释。1、这是一个被代码耽误的诗人2、来一份 1987 年的代码看看3、产品经理要对此负责4、不敢看，也不敢问5、Nike 官网 robots.txt 上的注释6、程序员正确发牢骚的地方7、阅...
2021-10-18 16:02 阅读数 45

python+opencv实现高斯滤波（手写滤波函数）

用opencv进行一些图像处理的操作非常的简单和便捷了，但是对于想要了解详细内容的同学来说，最好是可以手写一下滤波核的生成以及滤波函数。了解高斯函数的变化过程，对我们深入学习图像处理有很大的帮助。图像滤波的作用总的来说有平滑（使图像边缘和图像轮廓变得模糊）以及锐化（边缘、轮廓线细节变得清晰）两...
2021-10-01 14:59 阅读数 338

【深度学习】 loss不下降，准确率很低的原因

loss不下降，ACC很低（只有0.1，0.2这种）可能的原因有：数据集有问题（噪声过多或存在过多的标签错误或类别不平衡）梯度爆炸梯度消失笔者遇到的梯度爆炸情况下图的矩阵是pooler_output（从bert得到的句子向量）：若干个不同的文本，在训练两个batch后可见模型的输出几乎一样了，...
2021-09-29 14:41 阅读数 68

关于深度学习中使用多卡GPU进行训练学习总结

1.nn.parallel.scatter 向多个设备分发参数这是实现方法，在模型中可以值调用函数，其原理就是通过for循环 然后copy到不同的设备上2.allreduce 函数 将所有向量相加，并将结果广播给所有的gpu
2021-09-13 17:25 阅读数 66

SENet概览

一、背景 在深度学习领域，已经有很多成果通过在空间维度上对网络的性能进行了提升。但是，SENet反其道而行之，通过对通道关系进行建模来提升网络的性能。Squeeze和Excitation是两个非常关键的操作，所以SENet以此来命名。SENet的动机是希望显式地建模特征通道之间的相互依赖关系...
2021-09-11 18:05 阅读数 65

字节跳动，华为，阿里巴巴，小米，腾讯 2021大厂面试经历系列之初、中、高级测试工程师面试题汇总（附答案）

前言最近看到很多人都在找工作, 而且很多人都感觉今年找工作比去年难很多, 竞争力也增加不少, 因此激发我整理这份资料, 希望能帮到正在找或者准备找工作的童鞋们.首先我们能否获得一个面试机会, 那肯定是从简历开始, 简历需要做好功夫, 一份好的简历才足够吸引企业得到面试机会, 接着就是面试了, ...
2021-08-03 16:49 阅读数 18

对于初学者Python开发难学吗？适合初学者吗？

Python入门阶段零基础学员打好基础是非常重要的，好比零基础就是刚落地的新生儿，最怕学错一步，后面长大就很难改过来。在非常高的抽象计算中，高级的Python程序设计非常难学，高级程序语言不等于简单，但对于初学者和完成普通任务Python语言是非常简单易用的。对于初学者Python开发难学吗？...
2021-08-03 15:22 阅读数 27

基于Pytorch的torch.nn.embedding()实现词嵌入层

 nn.embedding()其实是NLP中常用的词嵌入层，在实现词嵌入的过程中embedding层的权重用于随机初始化词的向量，该embedding层的权重参数在后续训练时会不断更新调整，并被优化。  nn.embedding:这是一个矩阵类，该开始时里面初始化了一个随机矩阵，矩阵的长是字典...
2021-07-28 15:21 阅读数 353
技术
今日推荐
ioDraw Mac客户端安装教程
阅读数 33
下载桌面版
GitHub
百度网盘（提取码：draw）
Gitee
云服务器优惠
阿里云优惠券
腾讯云优惠券
华为云优惠券
站点信息
问题反馈
邮箱：[email protected]
QQ群：766591547
关注微信
©2020-2024 ioDraw All rights reserved, Privacy Policy