手机浏览器扫描二维码访问
第606章 用故事解释softmax函数的溢出问题（第1页）
用故事解释softmax函数的溢出问题
故事背景：龙族宴会上的金碗
在一座神秘的龙族王国，龙族每年都会举行一次盛大的宴会，宴会上有一个传统：每条龙要把自己的财富（金币数量）放进一个金碗，然后让智慧长老计算每条龙的“财富占比”，来决定谁是这一年的财富之王。
宴会当天，四条龙分别报出了自己的金币数量：
?
火龙：100万金币
?
冰龙：200万金币
?
雷龙：300万金币
?
风龙：10亿金币
智慧长老准备使用一个古老的计算方法——softmax规则，将这些财富转换成概率来比较。但他很快发现了一个严重的问题：
金碗炸了！
为什么？因为按照softmax的计算方法，他需要计算每个金币数量的指数值：
但这些数值实在是太大了，远远超出了王国的计算能力，直接导致金碗崩溃（计算溢出）。
智慧长老陷入了困境，他需要找到一个方法来避免计算崩溃。于是他想到一个聪明的技巧：
“我们不直接放金币，我们可以先让大家的金币数减去最大的金币数！”
于是，他重新计算：
?
火龙的金币数变为
100万
-
10亿
=
-9.99亿
?
冰龙的金币数变为
200万
-
10亿
=
-9.98亿
?
雷龙的金币数变为
300万
我一身神功全靠努力，给我变身！ 黄帝内经百姓版 神谕之十二生肖 叶尘：重生在赘婿逆袭之路 夺我灵根骂我狠？先天绝情圣体已成！ 夫人算卦缺灵力，亲口冷面侯爷加气运 徒儿快下山，你师姐等不及了 开局校花太太向我道歉，东京末日 我是赵梦凡 重生后被亿万富豪逼婚，渣男傻眼 兵王在地府的甜蜜生活 女将带球跑后，死对头一夜哭白头 尸之仙 穿越兽世，日日扶腰求放过 迷雾中的真相：侦探手记 万星吞天诀 玉孤 黑芒科技之途 鬼怪奇谭：兵王与小仙女 混沌疯魔
第九特区
关于第九特区第九特区伪戒新书。伪戒新书。伪戒新书。伪戒新书。伪戒新书。伪戒新书。伪戒新书。伪戒新书。伪戒新书。伪戒新书。伪戒新书。伪戒新书。伪戒新书。伪戒新书。伪戒新书。伪戒新书。伪戒新书...
乡村慾孽
这里有寂寞的嫂子，性感的村妇，美艳动人的邻家小妹，还有无数活色春香的美女。看乡村少年如何玩转乡村，抱得美人归！这是一部极度YY的故事，主角不御女三千决不罢休！...
火影：万物皆可复制
出身番茄孤儿院的角木，被泥头车送到忍界。有一个沉稳可靠，有时喜欢搞些小操作的老爸。有一个温柔体贴有主见，偶尔会小腹黑的老妈。有一个活泼调皮，崇拜哥哥的弟弟。虽然还有房贷要还，但仍是个幸福美满，温暖的家。只是，弟弟的名字叫海野伊鲁卡。自己的名字，是海野角木。从未来的九尾之乱中拯救自己的家人，便是海野角木踏足忍界要...
漂亮小哑巴被阴鸷大佬盯上了
看似心狠手辣阴鸷疯批实则心地柔软温润护妻攻×柔弱漂亮纯洁小白花哑巴受小哑巴被逼勾引大佬，盗取商业机密，之后不告而别，再没脸去见他。四年后，大佬回国逮到他。很缺钱？要跑到这种地方来卖？聂北弦眼神冰冷。小哑巴小脸羞红，用力摇头。抖什么？背叛我的时候，不是挺有勇气吗？小哑巴欲哭无泪，有口难言。放心，我不会弄死...
左手白无常右手黄泉路，都是瓜！
闻家真千金被找回来了，还是个从山里出来，满嘴胡言的小神棍，整个圈内都等着看她笑话。短短几日，宋家那小霸王追着要当她小弟萧氏一族奉她若上宾特管局一处求她加入，玄门世家想要拜她为师闻曦小手一挥，直播赚功德水友大师，最近我总觉得被鬼压床了，还梦见诡异的婚礼现场。闻曦出门在外不要乱捡东西，你那是被人配冥婚了。水...
超神宠兽店
万订爆款，火爆爽文有一刀斩杀黄金巨龙的低等骷髅种有身怀十大宠兽秘技的看门土狗更有自称为神的打工妹这是一个得到系统开店，在破碎远古培育宠兽的故事。当荣光覆灭，血脉逆流，昔日的存在将再度回归，一切都是毁灭！...