[PyTorch][chapter 9][李宏毅深度学习][Why Deep]

前言:

       我们知道深度学习一个重要特征是网络堆叠,深。 为什么需要深度,

本篇主要简单介绍一下该原因

目录:

   1: 简介

   2: 模块化分析

   3:  语音识别例子


一  简介

         有人通过实验,使用相同的网络参数,深度越深的网络相当于浅层网络效果更好。

        1.1  Deeper is Better

             如下图,随着网络层次逐渐加深,文本错误率逐渐降低

     

  如下图,我们只用一层的网络,参数量跟多层一样,错误率高很多.

为什么产生这种现象?

同样的参数量,深度网络比浅层网络效果更好。


二  模块化分析

    我们写程序,也把函数分为不同模块,实现不同功能

深度学习不同的层也相当于不同的函数,不同的函数实现不同的功能,

更高层也能使用到.

2.1  数据集的影响

 比我我们要通过一个神经网络实现做4分类

长头发女生数据量大
长头发男生数据量小
短头发女生数据量大
短头发男生数据量小

因为长头发男生数据集小,训练的网络一般会比较差。

解决方案:

         使用更深层次的网络,有的用来识别男女,有的用来识别短头发长头发

然后更高层次的网络用来做4分类.

  深度学习就相同于实现上面模组化的功能,每一层的神经元的输出,作为下一层神经元的输入.

我们没有足够的训练数据,所以做Deep Learning


三   语音识别例子 

  以发音识别为例:

输入了语音特征,输出对应的概率

在深度学习采样的模型如下:绿色模块是一些根据专家信息提取的声音

特征信息

Google 曾经做过实验:

    使用深度学习的模型甚至完全不需要上面绿色的模块

可以达到前面模型一样的准确率.

11: Why Deep?_哔哩哔哩_bilibili


本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/337121.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【深度学习:(Contrastive Learning) 对比学习】深入浅出讲解对比学习

对比学习允许模型从未标记的数据中提取有意义的表示。通过利用相似性和不相似性,对比学习使模型能够在潜在空间中将相似的实例紧密地映射在一起,同时将那些不同的实例分开。这种方法已被证明在计算机视觉、自然语言处理 (NLP) 和强…

语义解析:连接自然语言与机器智能的桥梁

文章目录 01 语义解析的应用场景场景一:场景二: 02 语义解析和大模型的关系 语义解析技术可以提高人机交互的效率和准确性,在自然语言处理、数据分析、智能客服、智能家居等领域都有广泛的应用前景。特别是在大数据时代,语义解析能…

NX二次开发 Block UI 指定方位控件的应用

一、概述 NX二次开发中一般都是多个控件的组合,这里我首先对指定方位控件进行说明并结合选择对象控件,具体如下图所示。 二、实现功能获取方位其在选择面上原点的目标 2.1 在initialize_cb()函数中进行初始化,实现对象选择过滤面 //过滤平…

机器之心 AI 技术--人工智能助力个性化视频实战经验分享(文末送书)

【清华社&机器之心】视频生成前沿研究与应用特别活动 在视频生成即将迎来技术和应用大爆发之际,为了帮助企业和广大从业者掌握技术前沿,把握时代机遇,机器之心AI论坛就将国内的视频生成技术力量齐聚一堂,共同分享国内顶尖力量…

世微 AP6608 DC-DC转换器 1.2MHz 2-24V 2A升压转换IC

FEATURES? Integrated 80mΩ Power MOSFET ? 2V to 24V Input Voltage ? 1.2MHz Fixed Switching Frequency ? Internal 4A Switch Current Limit ? Adjustable Output Voltage ? Internal Compensation ? Up to 28V Output Voltage ? Automatic Pulse Frequency Modul…

LeetCode 225.用队列实现栈(详解) ૮꒰ ˶• ༝ •˶꒱ა

题目详情: 思路:1.定义两个队列用于存储栈的数据,其中一个为空。 2.对我们定义的栈进行入数据,就相当于对不为空的队列进行入数据。 3.对我们定义的栈进行删除,相当于取出不为空的队列中的数据放到为空的队列中&#x…

Android - CrashHandler 全局异常捕获器

官网介绍如下:Thread.UncaughtExceptionHandler (Java Platform SE 8 ) 用于线程因未捕获异常而突然终止时调用的处理程序接口。当线程由于未捕获异常而即将终止时,Java虚拟机将使用thread . getuncaughtexceptionhandler()查询该线程的UncaughtExceptio…

路由黑洞和黑洞路由的区别

路由黑洞: 路由黑洞是一种现象,一般是在网络边界做汇总回程路由的时候产生的一种不太愿意出现的现象,就是汇总的时候有时会有一些不在内网中存在的网段,但是又包含在汇总后的网段中,如果在这个汇总的边界设备上同时还配…

Java面试之并发篇(一)

1、前言 本篇主要总结JAVA面试中关于并发相关的高频面试题。本篇的面试题基于网络整理,和自己编辑。在不断的完善补充哦。 2、简述程序、进程、线程、的基本概念? 2.1、程序 程序,是含有指令和数据的文件,被存储在磁盘或其他的…

变压器

一、变压器的作用 电压变换:变压器可以改变交流电压的大小,从而满足不同设备的需要。通过变压器的降压和升压功能,可以将电压升高或降低到合适的范围,实现远距离输电、电能分配和设备安全运行的目的。 电流变换:变压器…

解决 rasa 中 slot 不能为中文的问题

解决 rasa 中 slot 不能为中文的问题 定位问题解决办法 定位问题 slots:姓名:type: textmappings:- type: custom如上的 slot 配置,在 rasa train 时会报以下错误: YamlValidationException: Failed to validate D:\project\python\rasa_test\y\domain…

Python爬取哈尔滨旅游爆火视频数据并进行可视化分析

前言 哈尔滨作为中国北方的重要城市,独特的冰雪风情和丰富的文化底蕴而受到游客的青睐。随着抖音等短视频平台的兴起,越来越多关于哈尔滨旅游的视频在网络上出现文章旨在利用Python编程语言,从音视频网站上抓取哈尔滨旅游抖音相关视频数据&a…