博客
关于我
softmax算法——处理分类问题
阅读量:178 次
发布时间:2019-02-28

本文共 732 字,大约阅读时间需要 2 分钟。

一 介绍
softmax基本可以算是分类任务的标配。本篇介绍softmax是什么,以及softmax图解和举例。
二 什么是softmax
现实生活中需要对某一问题进行多种分类,例如对图片进行分类的例子,这时就需要使用softmax算法。
softmax,就是如果判断输入属于某一个类的概率大于属于其他类的概率,那么这个类对应的值就逼近于1,其他类的值就逼近于0.该算法主要应用就是多分类,而且是互斥的,即只能属于其中的一个类。与sigmoid类的激活函数不同的是,一般的激活函数值只能分两类,所以可以理解Softmax是Sigmoid类的激活函数的扩展,其定义如下:
假设我们有一个数组V,Vi表示V中的第i个元素,那么这个元素的Softmax值就是
也就是说,是该元素的指数,与所有元素指数和的比值,所有比值之和能保证总和为1
三 图解公式
四 举例
某个样本经过生成的值为y1为5,y2为3,y3为2,那么对于的概率y1=5/10=0.5.y2=3/10,y3=2/10,于是取最大值的值y1为最终分类。
softmax在机器学习中有非常广泛的应用,MNIST的每一张图都表示一个数字,从0到9.我们希望得到给定图片代表某个数字的概念。例如,训练的模型可能推测一张包含9的图片代表9的概念未80%,但是判断8的概念为5%(因为8和9都是上半部分相似的小圆),判断它代表其他数字的概率更小。于是取最大概率的对应数值,就是这个图片的分类。这个是一个实用softmax回归模型的经典案例。
五 小技巧
在实际实用中,softmax伴随的分类标签都是one_hot编码,而且这里还有个小技巧,在softmax时候需要将目标分成几类,就在最后这层放几个节点。
六 参考
你可能感兴趣的文章
Mysql学习总结(39)——49条MySql语句优化技巧
查看>>
Mysql学习总结(3)——MySql语句大全:创建、授权、查询、修改等
查看>>
Mysql学习总结(40)——MySql之Select用法汇总
查看>>
Mysql学习总结(41)——MySql数据库基本语句再体会
查看>>
Mysql学习总结(42)——MySql常用脚本大全
查看>>
Mysql学习总结(43)——MySQL主从复制详细配置
查看>>
Mysql学习总结(44)——Linux下如何实现mysql数据库每天自动备份定时备份
查看>>
Mysql学习总结(45)——Mysql视图和事务
查看>>
Mysql学习总结(46)——8种常被忽视的SQL错误用法
查看>>
war包放到webapps下,启动tomcat,tomcat正常,却无法加载项目
查看>>
Mysql学习总结(48)——MySql的日志与备份还原
查看>>
Mysql学习总结(49)——从开发规范、选型、拆分到减压
查看>>
Mysql学习总结(4)——MySql基础知识、存储引擎与常用数据类型
查看>>
Mysql学习总结(50)——Oracle,mysql和SQL Server的区别
查看>>
Mysql学习总结(51)——Linux主机Mysql数据库自动备份
查看>>
Mysql学习总结(52)——最全面的MySQL 索引详解
查看>>
Mysql学习总结(53)——使用MySql开发的Java开发者规范
查看>>
Mysql学习总结(54)——MySQL 集群常用的几种高可用架构方案
查看>>
Mysql学习总结(55)——MySQL 语句大全再温习
查看>>
Mysql学习总结(56)——MySQL用户管理和权限设置
查看>>