查看: 61|回复: 0

Python 实现深度学习

[复制链接]
发表于 2020-2-16 06:55:44 | 显示全部楼层 |阅读模式
前言




最近由于疫情被困在家,于是预备每天看点专业知识,预备写成博客,不定期发布。
博客大概会写5~7篇,主要是“解剖”一些深度学习的底层技术。关于深度学习,盘算机专业的人多少都会相识,知道Conv\Pool的过程,也看过论文,做过实验或是管理方案。在写的各种卷积网路 时候,有没有问问自己:这些网络到底是怎么“运作”起来的?假如自己要实现一个具备根本功能的神经网络应该怎么去实现?
知道事物的表面征象,不知事物的本质及其产生的原因是一件很可悲的事变,正如鲁迅所说:What I cannot create, I do not understand. 只有亲自实践去创造一个东西,才算真正弄懂一个问题。
本着“知其然,知其以是然”的目的,会尽可能的用Python库和根本的数学知识,创建经典的深度学习网络。


每篇的计划如下:
第一篇介绍numpy库和matplotlib库、读写二进制的方法、pkl等。这些知识会在背面用到,在本篇的最后会以mnist数据集为例,创建处理手写体图片的函数,供后使用。
第二篇介绍感知机。用感知机实现逻辑门、用多层感知机实现复杂逻辑门。
第三篇神经网络的设计与实现。分为上下两部分:
3.1篇增加神经网络的forward。实现激活函数、全连接层的盘算、输出层。最后用mnist数据集测试forwarld是否正确;
3.2篇增加神经网络的backward。实现损失函数、梯度、学习算法。最后用mnist数据集测试神经网络的训练。

第四篇引入盘算图的头脑,用盘算图的方式实现乘法层、加法层和激活层。最后用mnist数据集测试这些简单层。
第四篇添加optimization模块。设计实现SGD,momentum,学习率的衰减,adam。 最后用mnist数据集作对比。
第五篇增加一些处理过拟合的方法。实现droupout,权值衰减,。用mnist数据集测试效果
第六篇增加batch-normalization功能。用mnist数据集做测试效果;
第七篇增加conv和pool功能。实现一个lenet-5
前面七篇的代码和博客已经写完了,颠末整理以后会陆续发布。就这样吧,加油!

天涯海角也要找到Ni:Python 实现深度学习

中发现Ni: Python 实现深度学习
中发现Ni: Python 实现深度学习
中发现Ni: Python 实现深度学习
中发现Ni: Python 实现深度学习
中发现Ni: Python 实现深度学习
中发现Ni: Python 实现深度学习
相关技术服务需求,请联系管理员和客服QQ:2753533861或QQ:619920289
您需要登录后才可以回帖 登录 | 用户注册

本版积分规则

帖子推荐:
客服咨询

QQ:2753533861

服务时间 9:00-22:00

快速回复 返回顶部 返回列表