《动手学深度学习》task2——文本预处理，语言模型，循环神经网络基础笔记
系统学习《动手学深度学习》点击这里：《动手学深度学习》task1_1 线性回归《动手学深度学习》task1_2 Softmax与分类模型《动手学深度学习》task1_3 多层感知机《动手学深度学习》task2_1 文本预处理《动手学深度学习》task2_2 语言模型《动手学深度学习》task2_3 ...
程序员文章站2024-03-14PyTorch、Keras、TensorFlow、MXNet等深度学习框架测试能否使用GPU
1、检查电脑可使用设备先检查自己有没有gpufrom tensorflow.python.client import device_libprint(device_lib.list_local_devices())以我自己电脑为例，输出如下结果。2、测试PyTorch GPUimport torch...
程序员文章站2024-03-14动手深度学习 task2(文本预处理+语言模型+循环神经网络）
1.文本预处理文本预处理步骤：读入文本分词建立字典，将每个词映射到一个唯一的索引（index）将文本从词的序列转换为索引的序列，方便输入模型读入文本的代码：import collectionsimport redef read_time_machine(): with open('/home/...
程序员文章站2024-03-14深度学习(Pytorch) 卷积神经网络训练 fashion mnist
fashion mnist数据获取根据Fashion Mnist论文给出的网址下载数据集：https://github.com/zalandoresearch/fashion-mnist网络结构包括输入层，两个卷积层，全连接层和输出层，下面是详细信息Net( (conv1): Sequential...
程序员文章站2024-03-14卷积神经网络CNN的学习路线入门（1）---深度学习
大家可以按照顺序参看这几篇博客，注意对第一篇博客中的卷积运算的Filter的维度进行一个深入理解，对第二篇博客中的相应资源进行认真阅读，相信大家对CNN会有一个清晰明朗的认识的，加油，喜欢学习深度学习的小伙伴们！！！首先推荐大家一本经典书籍，是《Neural Networks and Deep Le...
程序员文章站2024-03-14spark-BigDl:深度学习之lenet5
一、lenet模型训练和测试（一）把linux 本地图片转换成sequenceFile，并上传到HDFS上存储。1.相关运行程序为：kingpoint.utils.ImageToSeqFile2.首先把数据上传到linux本地上。数据文件夹格式为：dlDataImage/图片类别/图片名称比如手写识...
程序员文章站2024-03-14Tensorflow 实战Google深度学习框架——学习笔记（六）LeNet-5网络实现MNIST手写数字集识别
使用LeNet-5模型实现MNIST手写数字识别，其神经网络架构如下： 一、详细介绍LeNet-5模型每一层的结构第一层，卷积层这一层输入原始的图像像素，接受的输入层大小为32*32*1，第一个卷积层过滤器尺寸为5*5,共6个，不使用全0填充，步长为1。输出尺寸为32-5+1=28，为28*28*6...
程序员文章站2024-03-14深度学习归一化方法[一] Batch Normalization
文章目录Batch Normalization1. Batch Normalization原理2. Batch Normalization的效果及其证明3. 为什么要加$\gamma$,$\beta$论文: https://arxiv.org/pdf/1502.03167.pdfBatch Norm...
程序员文章站2024-03-14Pytorch深度学习入门
转载自：Pytorch深度学习入门在本教程中，将使用Pytorch框架介绍深度学习，并通过一个简单案例进行实验，通过本教程，你将可以轻松地使用Pytorch框架构建深度学习模型。（我也刚刚接触Pytorch）Pytorch 简介Pytorch 是一个基于 Torch 的 Python 机器学习包，而...
程序员文章站2024-03-14MXNET深度学习框架-19-从0开始的Bathnorm(批量归一化)
通常来说，数据标准化预处理对于浅层模型就足够有效了。随着模型训练的进行，当每层中参数更新时，靠近输出层的输出较难出现剧烈变化。但对深层神经网络来说，即使输入数据已做标准化，训练中模型参数的更新依然很容易造成靠近输出层输出的剧烈变化。这种计算数值的不稳定性通常令我们难以训练出有效的深...
程序员文章站2024-03-14MXNET深度学习框架-07-从0开始实现多层感知机(MLP)
多层感知机(multilayer perceptron，MLP)其实与逻辑回归没有太大的区别，主要就是在输入层和输出层之间加了几层隐层：下面来实现一下这个网络：PS：与上两章一样，依旧使用服饰类的mnist数据集。1、数据集获取mnist_train = gn.data.visio...
程序员文章站2024-03-14深度学习归一化方法[二] Normalization方法对比
文章目录Normalization 方法对比1 BN方法的不足之处2 独立于batch 的归一化方法3 Group Normalization4 四种方法效果比较论文:https://arxiv.org/pdf/1803.08494.pdfNormalization 方法对比1 BN方法的不足之处B...
程序员文章站2024-03-14TensorFlow实现经典深度学习网络（2）：TensorFlow实现VGGNet
TensorFlow实现经典深度学习网络（2）：TensorFlow实现VGGNet VGGNet是经典的深度学习网络之一，由牛津大学的视觉几何组（Visual Geometry Group）提出，是ILSVRC-2014中定位任务第一名和分类任务第二名（top-5错误率7.3%,19...
程序员文章站2024-03-14深度强化学习入门
面向序列分析的代表性学习策略——深度强化学习（代表性研究机构：阿尔伯特大学、deepMind，openAI、伯克利大学）传统序列学习策略的不足：强化学习的通用框架：learn by interacting with our environment强化学习区别于其他机器学习策略最重要的四大特质：动态地...
程序员文章站2024-03-14深度学习：多层感知机MLP数字识别的代码实现
深度学习我看的是neural network and deep learning 这本书，这本书写的真的非常好，是我的导师推荐的。这篇博客里的代码也是来自于这，我最近是在学习Pytorch，学习的过程我觉得还是有必要把代码自己敲一敲，就像当初学习机器学习一样。也是希望通过这个代码能够加深对反向传播原...
程序员文章站2024-03-14深度学习基础模型NIN(Network in Network)+Pytorch
论文(2014年): 链接Pytorch代码: 链接《Network In Network》是一篇比较老的文章了（2014年ICLR的一篇paper），是当时比较牛逼的一篇论文，同时在现在看来也是一篇非常经典并且影响深远的论文，后续很多创新都有这篇文章的影子。通常里程碑式的经典是不随时间而黯淡的，同...
程序员文章站2024-03-14深度纸质学习与实验（二）-真机搭建docker与kubernetes（补更）
总结一下昨天的学习过程昨天利用脚本一键式安装了docker集群与kubernetes集群bug：利用mac地址启动远程主机时命令：shell.run("wolcmd " +machine.MAC+ " 255.255.255.255 255.255.255.255 255", 1);注意三点：1，机...
程序员文章站2024-03-12【深度学习】环境搭建—TensorFlow 2.0环境搭建
前沿：本来想是搭建一个本地环境，可是在安装过程中需要 cuda 10.0 ，而我安装的是 cuda 10.1 不匹配。所以就寻思着安装了一个 docker，使用容器化安装。Created with Raphaël 2.2.0安装 Docker安装nvidia-dockerpull tensorflo...
程序员文章站2024-03-11OpenCV图像处理——深度学习样本制造
前言在做深度学习相关的项目时，往往最麻烦的是样本的收集，或者只有很少的一些样本，训练根本达不到想要的效果，很多网络模型的配置文件里面都有样本增强的定义，是对样本做旋转，变换之类的操作，但没有给样本加一些背景来制造增强样本的数量。一、样本准备1.我做一个发票检测位置到识别里面文字的项目，但我手里并没有...
程序员文章站2024-03-09利用tensorflow深度学习框架手写数字识别
首先解决数据问题，由于tensorflow自带手写数据集，本次直接使用，划重点来了：无论是机器学习还是深度学习，首先最难的也是最复杂的都是数据集的筛选和清理。数据集的好坏直接影响了学习的成败。tensorflow自带的手写数据集完全很友好，完全不用清理。切记：真实项目完全不是这样的友好数据。这里wi...
程序员文章站2024-03-08