藏书吧 通过搜索各大小说站为您自动抓取各类小说的最快更新供您阅读!

用故事解释Softmax函数

故事背景:选举村的村长选举

在一个叫“选举村”的地方,每四年一次,村民们都要选出一位新村长。这次,有四位候选人:

? 阿强(擅长务农,村民对他比较熟悉)

? 小美(善于管理,做过村委会秘书)

? 老李(年纪较大,经验丰富,但村民对他评价不一)

? 张三(刚来村子不久,大家对他了解不多)

选举日,村民们需要根据他们的支持度,选择一个人投票。但村民的支持度并不是“非黑即白”的,每个人对每位候选人的好感度都不同。为了更公平地衡量大家的意愿,村子里的智者发明了一种方法,叫 Softmax 规则。

Softmax 的运作方式

智者让每个村民给四位候选人打分,比如某个村民的打分是:

? 阿强:8分

? 小美:6分

? 老李:5分

? 张三:3分

但是,这些分数只是相对的,我们需要转换成“概率”来反映这个村民的最终选择倾向。Softmax 规则的做法是:

1. 先用指数函数(e的指数)放大分数,避免负分影响决策:

2. 计算这些指数值的总和:

3. 再计算每个候选人的支持度占比:

这样,每个人最终的选择概率就会落在 到 之间,并且所有候选人的概率加起来是 (保证了最终一定会选出一位村长)。

比喻解释:冰淇淋店的选择

假设你走进了一家冰淇淋店,店里有四种口味:

? 巧克力(你最爱)

? 香草(你觉得还行)

? 草莓(一般般)

? 抹茶(你不太喜欢)

如果你只是随意选,你可能会纠结,但Softmax 规则就像是在你的大脑里装了一个“选择助理”,它根据你对每个口味的喜爱程度(打分),帮你转换成最终的选择概率。例如:

? 你对巧克力的喜爱度是9分,香草7分,草莓5分,抹茶2分。

? Softmax 把这些分数转化成指数值,然后归一化成概率:

结果就是,你有最高的概率选择巧克力,较低的概率选择香草,几乎不会选抹茶。

总结

Softmax 函数的本质是:

1. 将原始分数(打分)转换成概率,使得总和为 1。

2. 指数放大优势,让分数高的选项更有可能被选中。

3. 让所有选项都有可能被选中(即使得分最低的选项概率也不会完全是0)。

无论是在选举、推荐系统还是AI分类任务中,Softmax 都像一个“理性的选择助手”,帮我们做出合理的决策。

多层分类的中间层会有偏置和中间结果

用故事解释“偏置”和“中间结果”

故事背景:魔法师的学徒

在一个魔法学院里,有一位年轻的学徒——小艾。他正在学习如何用魔法配制“完美药水”。

学院的导师告诉他:“要配出理想的药水,你需要三个关键步骤:”

1. 收集原料(输入数据)

2. 研磨并混合(计算中间结果)

3. 调整口味(加上偏置)

小艾开始尝试:

? 他拿了 龙眼果(原料1),月光花(原料2),银露水(原料3),这些原料各自有不同的药效分数。

? 他按照导师给的魔法公式进行计算,把这些原料的效果 加权(类似于机器学习中的“权重”)得到一个中间结果。

? 但是,每次配出来的药水,总觉得有点偏酸或者偏苦,于是导师告诉他:“要加上一点魔法糖!”

这 魔法糖 就是 偏置(bias)!

导师解释道:“有时候,光靠原料混合出来的效果可能会偏离目标,比如太苦了,我们就需要手动加点甜味,这样最终的药水才是完美的。”

小艾恍然大悟,他在最后的配方中加入了一点 魔法糖(偏置),最终成功调配出一款 恰到好处的药水(输出结果)。

用比喻解释“偏置”和“中间结果”

比喻1:做菜

想象你正在做一锅汤,你的过程是这样的:

1. 你放了鸡肉、蔬菜和调料(输入数据)。

2. 你用锅把这些食材煮成高汤(计算中间结果)。

3. 但你尝了一口,觉得味道有点淡,于是加了一点盐(偏置)。

这最后加的盐就是“偏置”,它的作用是让最终的味道更符合你的期待,而不是完全取决于原料本身的味道。

比喻2:考试成绩调整

假设一群学生参加了数学考试,老师发现:

? 有些学生因为压力太大,考试成绩偏低。

? 有些题目出得特别难,导致整体分数偏低。

为了更公平地评估学生的能力,老师在所有人的成绩上额外加了5分。

这个“额外加的5分”就是 偏置(bias)!它的作用是:

? 让整个评分系统更加合理。

? 弥补一些系统性误差,比如有的考试本身比别的考试更难。

而学生的原始分数就是 中间结果,它是由他们答题的情况决定的,但最终的成绩还要经过调整(加偏置)才能成为最终分数。

总结

? 中间结果 就是计算过程中的“半成品”,就像汤还没加盐,药水还没加糖,考试还没加调分。

? 偏置(bias) 就是最后人为加上的“调整项”,它的作用是让最终结果更合理、更符合目标。

就像魔法师加糖、厨师加盐、老师调分一样,神经网络在计算时也会用“偏置”来微调输出结果,使它更加精准。

藏书吧推荐阅读:末世运转重生八零从透视开始暴富疯了吧!你管这叫任务?春日美娇妇地府归来,无情无义她杀疯了异世东京,携美丽式神驱邪除灵一援一疆情柠檬精老公的马甲掉了我就是能力多点你们慌啥重生06年不悔人生我和美女室友的那些事治愈S级雄兽,小雌性是帝国珍宝我有一个世界,狗头金随便捡六零媳妇凶猛开局领导被抓,女友分手华语金曲肆虐,pdd反向抽烟我见过很多神豪,他们都叫我神豪书海第一混乱隐婚娇妻boss爱上瘾都市神医修仙归来王大伦的演艺生涯游戏制作:论玩家为何又爱又恨老登逆袭,开局顿悟圆满武学!我的性别会刷新长生殿之王大杀四方重生之水墨一遇男神暖终身重生狂妻:夫人惊艳了全球娱乐:你是警察啊,咋成了狗仔王反派:离未婚妻来退婚还剩7天高武:御兽越多,我越强!弃少归来,无法无天!左手黑剑,右手白剑,爆杀一切穿越八零:帝少老公VS俏农媳带上五岁妹妹走天下一不小心穿越成了老天爷原生家庭:我的孤独人生东莞的爱情总让人意难平影视反派:从攻略欢乐颂开始支付九十九元:为你缔造神秘葬礼桃源美妇高武世界:那个书呆子居然开挂!乱天动地我家仙府太费钱重生之绝世废少觉醒不了?那就偷系统!云龙山医仙黑色家族的秘婚:魅宠7分77秒我每天获得一百个舔狗愿做人间一散仙
藏书吧搜藏榜:重生官场:我真的不想再升职了重生之重启2004漫威有间酒馆在黑暗中守护四合院之我是刘光齐某生物正虎视眈眈盯着我们软饭不软,闲婿不闲齐少的心肝天天闹这个明星来自地球闪婚七零俏中医,京城大佬宠上天超级银行卡系统房爹在手天下我有不要和奸臣谈恋爱绝世小神医这就是套路巨星真千金断亲随军,禁欲大佬日日宠反派手挽手,八零抖一抖八七暖婚之肥妻逆袭娇妻还小,总裁要趁早穿书反派:坏了,我成反派黄毛了娱乐秦时清冷白月光,是我意中人修仙正史天眼邪医御妻无术满级大佬她又掉马了大佬约我民政局见我的尤物总裁老婆妃常难驯:病娇战王,超级宠明渣好躲,暗夫难防我要赚10000亿全民游戏,我搬运小说开创功法四合院:我许大茂彻底黑化六经刀重生之股动人生修行的世界恐女的我和美少女旅行日常第一神婿鲤鱼王的精灵模拟器寡夫从良记我就打个游戏,怎么称霸宇宙了?我与极品美女特卫:中南海保镖穿越后,我成了国民女神道童下山,诸神退位止域主宰全系异能,我的天赋强到战力崩塌祈愿夏可嫡妃的逆袭豪门新欢报告CEO:奴家有喜了
藏书吧最新小说:鉴宝:开局觉醒黄金瞳高冷校花重生了,我直接躺赢我,帝尊归来,强亿点点有问题?甜心陷阱:学霸的预知女友六十年代,开局就要我娶媳妇人生模拟,我以词条横推万族开局透视眼捡漏,九个女总裁为我杀疯了重生80,开局捡到一只东北虎全民御兽:从黑晶蛇开始成神一觉醒来成为时空之主高武:重生归来拯救失足校花重生1978,我和女知青假戏真做重生饥荒年代:我要养活九个妹妹!全球警报,那个男人下山了!隐忍三年,离婚后我摊牌了都市:风水神相我有9999万亿,跟我比有钱?理工男的战斗四合院:你们作恶我偷家我,木系造物主,成就至高神!1980年我回来了高武:我在校花梦中刷级我的鬼灵无限进化,直至全球复苏覃仁忠与陈娟淑都市:我从负债到万亿神豪通天命相师拯救少女,让我改变你们的结局武帝归来男女通吃:我即做渣男也做渣女重生80赶山:小姨子别想逃!1978:开局一条破裤衩,打猎发家下山后,我为真仙灵气复苏,开局制作铠甲变身器千年镜灵求我修道我去修仙咯抬手压制外神,你跟我说这是全知无限贷款疯狂攻略:只为治好姐姐天呢,我的电子女友竟然来自末世?高武:乡村教师?我能看穿你祖宗十八代国运:从拿瓦开始做主角的白月光重生60:族谱把我除名,我猎物满屋你又急重生:老婆离婚跟知青,我成大佬她悔了知青媳妇有空间,吃软饭很合理吧重生78:一杆猎枪承包整片大山炊事老兵:奋斗在九零年代掌控全球语言,从做神棍开始直播挑战,生存系统正在加载中重生之万亿帝国拳王赞歌