1. 从赛马说起
0x1: 赛马问题场景介绍
假设在一场赛马中有 m 匹马参赛, 令第 i 匹参赛马获胜的概率为 pi, 如果第 i 匹马获胜, 那么机会收益为 oi 比 1, 即在第 i 匹马上每投资一美元, 如果赢了, 会得到 oi 美元的收益, 如果输了, 那么回报为 0.
有两种流行的马票:
a 兑 1(a-for-1): 开赛前购买的马票, 马民赛马前用一美元购买一张机会收益为 a 美元的马票, 一旦马票对应的马在比赛中赢了, 那么他持有的那只马票在赛后兑换 a 美元, 否则, 他的马票分文不值.
b 兑 1(b-to-1): 赛后交割的马票, 机会收益为 b:1, 一旦马票对应的马输了, 则该马民赛后必须交纳一美元本金, 但是如果赢了, 赛后可以领取 b 美元.
当 b = a-1 时,"a 兑 1" 和 "b 赊 1" 两种马票的机会收益等价. 例如, 掷硬币的公平机会收益倍数是 2 兑 1 或者 1 赊 1.
假设某马民将全部资金分散购买所有参赛的马匹的马票, bi 表示其下注在第 i 匹马的资金占总资金的比例, 那么 bi>=0,. 如果第 i 匹马获胜, 那么该马民获得的回报是下注在 i 匹马的资金的 oi 倍, 而下注在其他马匹上的资金全部输掉. 于是, 赛马结束时, 如果第 i 匹马获胜, 那么该马民最终所得的资产为原始财富乘以因子 bioi, 而且这样发生的概率为 pi.
从这里可以看到, 如果马民采取但是 "showhand 策略", 即每次都将所有资金全部投资出去, 那么该马民的整体资产就取决于一个随机变量 bioi 的速率(称之为累积因子), 不断累乘利润. 令 Sn 为该马民在第 n 场赛马结束时的资产, 则有:
, 其中 是当第 X 匹马获胜时, 马民购买该只马票所得收益的累积因子.
所以, 相对收益 是一个累积因子, 如果马民中了 X 马票, 那么他的相对收益就是原始财富乘以该因子.
0x2: 赛马投资双倍率公式定义
由上面对一场赛马的相对收益公式定义可知, 一场赛马的双倍率为:
假设赛马的结果 为服从 p(x)的独立同分布序列, 那么该马民在策略 b 之下的相对收益将以指数因子为 呈指数增长, 即:
证明过程如下:
由于独立的随机变量的函数仍然是独立的, 从而
也是独立同分布的, 由弱大数定律可得:
于是有:
由于马民的相对收益是按照 方式增长, 因此, 接下来的问题是如何在所有投资组合策略 b 的集合中, 寻找使得 最大化的策略, 以便得到最快的双倍率累计结果.
0x3: 最大双倍率策略估计
1. 最优下注策略 Kelly 策略, 以及最优双倍率的上界
如果选择 b 使得双倍率 达到最大值, 那么称该值为最优双倍率:
上式中, b 作为随机变量,作为 b 的函数, 在约束条件 之下求其最大值. 可以写入如下拉格朗日乘子函数并且改变对数的基底(不影响最大化 b), 则有:
关于 bi 求导得到:
为了求得最大值, 令偏导数为 0, 从而得出:
代入约束条件 可得λ=-1, 以及 bi=pi. 从而, 我们得到 b=p 为函数 J(b)的驻点, 即按照比例 b=p 下注是最优的策略, 该策略也被称为 Kelly 策略.
由此, 我们得到一个最优下注定理, 即按比例下注是对数最优的, 最优双倍率的公式计算如下:
, 并且当按比例 的下注策略可以达到该最大值. 证明过程如下:
等号成立的充要条件是 b=p, 即马民应该按照每匹马获胜的概率按比例分散地购买马票.
考虑仅有两匹马参赛的特殊情形, 假设马 1 获胜的概率为 p1, 马 2 获胜的概率为 p2. 假设两匹马的机会收益率均等(均为 2 兑 1 方式), 此时的最优下注策略为按概率比例下注, 即 b1=p1,b2=p2.
此时最优双倍率为
, 按照这样的增长率, 将导致相对收益无限增长,.
至此, 我们证明了对于一系列独立同分布的赛马, 如果马民将全部现金反复购买马票而不是捂住现金不动, 那么按比例下注是相对收益增长最快的策略.
继续考虑一种特殊情形, 即关于某种分布具有公平机会收益倍率的情形. 换言之, 除了知道 之外, 无其他信息可用. 此时, 记, 将其视为参赛马匹的一种概率密度函数(这是用来估计赛马获胜概率的所谓马民法). 在此记号下, 双倍率可以写为:
该方程给出了双倍率在相对熵视角下的另一种解释: 双倍率是马民法的估计到真是分布的距离, 与马民下注策略到真是分布的距离之间的差值.
所以, 马民要赚钱, 只有当他的估计 (由 b 表示) 比马民法所得的估计 (由 r 表示) 更好. 上式才为正数, 相对收益才会不断增加.
2. 收益双倍率守恒定理
考虑一种更特殊的情形是: 如果每只马票的机会收益倍率为 m 兑 1, 此时, 机会收益均等, 服从均匀分布且最优双倍率为:
在此情形下可以看到: 双倍率与熵率之和为常数.
这就是双倍率与熵率对偶守恒定律, 即对于均匀的公平机会收益倍率, 有:
.
熵每减小一比特, 马民的收益就翻一番, 在熵越小的比赛中, 马民的获利越丰厚.
0x4: 赛马最终收益 (相对收益) 随机变量结果讨论
在实际的情况中, 马民不一定会倾囊投资, 一般来讲, 应当允许马民有选择地保留一部分现金. 令 b(0)为原始财富中预留为现金的比例, b(1),b(2),....,b(m)为分别购买每匹马的马票的资金比例. 那么在赛事结束时, 最终资产与原始财富的比例 (即相对收益) 为:
此时的最优化策略依赖于机会收益, 我们分情况讨论:
1. 服从某种分布的公平机会收益倍率
这种情况下, 机会收益分布为, 对于公平机会收益倍率, 保留现金的选择并不影响分析. 因为我们可以在保留现金的情况下按,i=1,2,...,m 比例下注在第 i 匹马得到的效果是相同的, 因为整个计算是等比例缩放的. 于是, 马民到底保存多少现金没有关系, 可以简单理解为整体马民投入的钱减少了, 多投多赚, 少投少赚, 依然是按比例下注策略最优.
2. 超公平机会收益倍率
这种情况下, 机会收益分布为, 这种比赛的机会收益整体优于公平机会收益倍率的赛事, 颇有送钱给马民的感觉. 所以, 任何人都希望将全部资金都押进去而不必保留现金. 在这种比赛中, 依然是按比例下注策略最优.
3. 次公平机会收益倍率
这种情况下, 机会收益分布为, 此情形更代表现实生活, 这种情况代表了赛马组织在流程内做了手脚导致收益机会总和小于 1. 在此种赛马中, 马民只应该用一部分资金买马票, 而将其他的现金捂住, 这是最起码的策略. 此时, 按比例下注不再是对数最优了.
Relevant Link:
《信息论基础》阮吉寿著 - 第六章
2. 边信息对赛马博弈结果的影响
假设马民具有一些关于赛马结果的成功和失败的信息, 例如, 马民或许拥有某些参赛马匹的历史记录, 那么这些信息会如何影响最终的相对收益呢?
我们将马民得到的边信息定义为互信息, 将因该信息而导致的双倍率的增量定义为信息价值, 接下来我们来推导互信息与双倍率增量之间的联系.
假设 为第 X 只马票, 它获胜的概率为 p(x), 机会收益率为: o(x)兑 1. 设 (X,Y) 的联合概率密度函数为 p(x,y). 用 , 表示已知信息 Y 的条件下的下注策略. 此处 理解为当得知信息 y 的条件下, 用来买第 x 只马票的资金的比例. 一般地,表示无条件下注策略.
设无条件和条件双倍率分别为:
再设双倍率增益为:
由于获得某场赛马 X 中边信息 Y 而引起的双倍率的增量 满足:
下面来证明该定理. 在具有边信息的条件下, 按照条件比例买马票, 即 , 那么关于边信息 Y 的条件双倍率 可以达到最大值, 于是:
, 最右一步用到了贝叶斯概率分解公式.
一般地, 当无边信息时, 最优双倍率为
, 这和我们前面讨论的一致.
从而, 由于边信息 Y 的存在而导致的双倍率的增量为:
从上面讨论可以看到, 边信息没有改变双倍率的期望值, 只是改变了对赛马结果 X 不确定熵的取值, 在守恒定律的作用下, 边信息给最终双倍率带来的增量, 等价于边信息给赛马结果 X 不确定性减低的熵值, 即互信息.
毫无疑问, 独立的边信息并不会提高双倍率, 只是降低赛马结果 X 的不确定熵. 这也一个侧面说明了最优双倍率是一个理论最优值, 和具体的过程和结果概率分布 X 无关.
Relevant Link:
《信息论基础》阮吉寿著 - 第六章
3. 多轮赛马序列下的守恒定理
0x1: 赛马序列随机过程下的相对收益
在赛马中, 边信息最通常的表现形式是所有参赛马匹在过去比赛中的表现(即历史先验知识), 如果各场赛马之间是独立的, 那么这些信息毫无用途, 但是如果假设各场赛马构成的序列之间存在关联关系, 那么只要允许使用以前比赛的记录来决定新一轮赛马的下注策略, 就可以计算出有效的双倍率.
假设由各场赛马结果组成的序列 是一个随机过程, 假设每场赛马的下注策略依赖于此前的各次比赛的结果, 此时, 具有均匀的公平机会收益倍率的比赛的最优双倍率为;
该最优双倍率可以在
时达到.
当第 n 场赛马结束时, 马民的相对收益变成:
且双倍率 (增长率指数)(假设为 m 兑 1 方式) 为:
其中,是 n 场赛马的平均熵. 对于熵率为 的平稳过程, 对上式两边取极限可得:
我们再次看到了守恒定理, 即熵率与双倍率之和为常数.
0x2: 通过一个随机过程案例看最优收益增长率公式
笔者思考: 赛马中的最优双倍率策略, 体现了一种绝对理性主义的策略思想, 即每一步的决策都完全遵循某种理性主义思辨的结果, 不参杂任何主观的臆断因素, 只要保证了这一点, 那么最终的收益结果就可以达到一个理论最优值, 和所参与的博弈游戏过程都无关, 不管过程中胜败如何, 最终得到的收益都是可预期的, 且最优的.
我们来看一个扑克牌博弈的例子, 叫红与黑. 一副扑克牌分成 26 张红和 26 张黑, 每一轮中从两堆中随机抽取一张, 游戏参与者需要猜测是红色还是黑色, 直到所有牌发完. 我们假设该游戏的机会收益为 2 兑 1, 显然, 红色和黑色出现的概率相同, 这种游戏是公平机会收益的.
接下来问题来了, 你需要采取什么游戏策略, 以此来博得最大的收益呢?
仔细分析一下就会发现, 第一轮时, 我们没有任何先验知识, 红和黑的概率都是 1/2, 此后每一轮后, 剩下的红黑牌数量都会发生变化, 所以对红和黑的猜测概率也会不断发生变化, 将整个游戏看做是一个随机过程, 上一小节已经讨论过, 最优双倍率策略为
, 即不断根据场上当前的概率 p(Xi) 来决定本轮的猜测策略.
考虑以下两种下注方案:
顺序地下注, 每一轮中都可以计算出下一张牌的条件概率并且按该条件概率为比率下注. 于是, 将按照 (红, 黑) 的概率分布为 (1/2,1/2) 下注第一张, 当第一张为黑色时, 再以 (26/51,25/51) 为概率分布下注第二张, 如此下去.
一次性下注所有 52 张牌构成的序列, 那么总共有 种可能的序列, 且每个序列出现的概率相等. 于是, 按比例下注意味着将现金分成 份, 对每一个序列下注 的资金. 当然假设我们猜对或猜错每张扑克牌是红是黑的概率各占一半.
上述两种方案本质是等价的. 用归纳法来看, 52 张牌组成的所有序列中, 第一张牌是红色的所有序列恰好占一半, 所以方案 2 在第一轮赌红色也是一半资金. 以此类推. 一般地, 如果将 种可能的序列视为基本事件, 那么可以验证: 对每个基本事件下注 资金, 则所有下注的策略在任何场合都是与红色与黑色在此场合出现的概率成比例. 类比赌马模型, 我们只将 资金下注在可能的基本事件上, 而且只下注在使得相对收益增长率是 252 的因子的观测序列上, 对于其他序列分文不投, 那么, 最终相对收益为:
可以看到, 此回报并不依赖于具体的序列, 这就像 AEP 中所说的, 任何序列都有相同的回报, 从这个角度来讲, 所有序列都是典型的.
Relevant Link:
《信息论基础》阮吉寿著 - 第六章
4. 熵对语料库的随机逼近
为了讨论方便, 假设英文的字母表由 26 个字母和空格共计 27 个字符构成. 通过收集一些文本样本, 根据这些文本中的字符的经验分布建立英文词频模型.
0x1: 不同 Ngram-Size 对英文语料的随机逼近效果分析
在英文语料中, 单字母出现的概率远不是均匀的, 例如:
字母 E 出现的概率最高达 13%
频率最低的字母 Q 和 Z 大约为 0.1%
双字母也一样远不是均匀分布, 例如:
字母 Q 后面总是跟着字母 U
但频率最高的双字母是 TH(通常出现的概率为 3.7%), 而不是 QU
可以利用这些双字母出现的频率来估计一个字母后面跟随另一个字母的概率, 即字母表的二阶概率转移矩阵.
同理还可以继续增加 step-size 的长度, 估计更高阶的条件概率并建立更复杂的模型, 但是, 随着 step-size 的增加, 很快会遇到 "概率空洞问题". 例如, 建立三阶的马尔科夫逼近, 必须估计条件概率 p(xi | xi-1,xi-1,xi-3)的值, 那么整个三阶概率转移矩阵表就是一个 274 的巨大表格. 这样, 要想得到所有这些 3 阶条件概率的精确估计, 就必须引入百万数量级的样本. 这在实际工程里当然很难做到, 不可能总能准备好那么大量的样本, 所以这部分概率空洞的条件概率项就置零, 但是置零又会导致整个句子的累乘式为零, 所以为了解决这个问题, 又引入平滑技术, 相关的细节讨论, 这里不再展开, 可以参阅另一篇文章.
需要注意的是, 不管 NLP 中引入的什么平滑技术, 还是后来发展处的词向量嵌入等技术, 对于 NLP 问题来说, 我们都可以借助信息论的一个核心概念:"熵" 来得到很好的解释.
N 阶 Ngram 词频模型是一种随机逼近的方法(NLP 中还有其他随机逼近方法), 使用越高的阶, 模型的复杂度就越高, 相应的对英文语料的逼近就越强. 定量地度量所谓的逼近效果的方法就是不确定熵, 可以这么理解: 随着词模型复杂度的增加, 可以捕获到英文语料中的更多结构信息, 且使得下一个字母的条件不确定性变小, 相应的, 熵值也就越小. 例如:
使用 0 阶模型时: 熵为 log27=4.76 比特 / 字母.
使用 1 阶模型时: 以列视角看 2 阶概率转移矩阵, 每个字母大多数时候就不是像 0 阶那样相对均匀分布了, 而是集中在某些 2 阶词组中, 概率分布的均匀性降低, 熵值也就降低了, 例如笔者在测试集中算得在 1 阶模型情况下, 熵为 4.03 比特 / 字母,
使用 4 阶模型时: 相比于 1 阶, 单个字母在不同 4 阶词组中的分配更加集中了, 所以熵值进一步降低, 例如笔者在测试集中算得在 4 阶模型情况下, 熵为 2.8 比特 / 字母.
但需要明白的是, 即使是 4 阶模型, 甚至工程师们最喜欢的 5 阶模型 (5-gram) 也不能捕获到英文的所有结构, 答案很简单, 因为即使是 5 阶模型, 依然存在不小的不确定熵.
0x2: 不同马尔科夫阶的模型对 webshell 语料库的随机逼近效果
为了更形象说明上面的理论, 我们借助香农在最早的论文中提到的一种对英文语料的简单随机逼近方法, 来一起看一下不同的阶数, 是如何影响语言模型的随机逼近效果的.
用一个语料库 (例如一个样本集合) 为道具, 若构造二阶模型:
那么随机选择一个样本, 并随机选定该样本内的一个字母, 这相当于初始化过程.
再随机地选择另一个样本, 随机地从某处开始往下搜索, 直到出现第一个字母为止, 将紧随该字母的那个字母选取为第二个字母. 如果一直都没有搜索到第一个字母, 则重新选择另一个样本.
得到第二个字母后, 重复前面过程, 当我们找到第二个字母后, 取其后面的那个字母作为第三个字母.
如此下去, 我们可以生成一个文本序列, 它就是我们的语料库的二阶统计量的拟合.
笔者这里用网络安全里常见的 webshell 语料库为例, 下载链接在这里 https://github.com/ysrc/webshell-sample .
- # -*- coding: utf-8 -*-
- import os
- from random import choice
- def N_order_Markov_processes(order, path_list):
- finnal_sequence = ""
- # initial, choice a random file
- choice_file_path = choice(path_list)
- choice_file_path_content = open(choice_file_path).read()
- choice_file_path_word = choice(choice_file_path_content)
- finnal_sequence += choice_file_path_word
- # search another file
- for i in range(order):
- while True:
- choice_file_path = choice(path_list)
- choice_file_path_content_list = list(open(choice_file_path).read())
- try:
- last_word_index = choice_file_path_content_list.index(choice_file_path_word) + 1
- choice_file_path_word = choice_file_path_content_list[last_word_index:last_word_index + 1][0]
- finnal_sequence += choice_file_path_word
- break
- except Exception, e:
- continue
- return finnal_sequence
- def main():
- path_list = []
- ROOT_PATH = '/Users/zhenghan/Downloads/webshell-sample-master/php'
- for f in os.listdir(ROOT_PATH):
- if f == '.DS_Store':
- continue
- file_path = os.path.join(ROOT_PATH, f)
- path_list.append(file_path)
- # generate a 32 length sequence, which each Word is an zero-order markov sequence
- finnal_sequence = ""
- for i in range(32):
- finnal_sequence += N_order_Markov_processes(1, path_list)
- print "finnal_sequence:", finnal_sequence
- if __name__ == '__main__':
- main()
0 阶逼近结果: 几乎没有捕获到任何结构信息
1 阶逼近结果:
2 阶逼近结果:
3 阶逼近结果
4 阶逼近结果
5 阶逼近结果
可以看到, 到 5 阶的时候, 随机逼近的结果开始出现了正确的 PHP 标签, 即开始渐渐捕获到了语料库中的一些结构信息.
- Relevant Link:
- https://github.com/ysrc/webshell-sample
5. 从熵角度看不同词素抽象方式在 WEBSHELL 文本检测中的效果区别
0x1: 我们要讨论什么问题?
下图展示了一个 webshell 文件的截图
如果要将这类 plain text 文件输入机器学习模型, 就需要进行向量化特征工程, 但问题是如何进行向量化呢? 本章我们来对比两种主流的方法, 并说明其优劣和原理. 这两种方法包括
char-based vector method: 逐个将每个 char 翻译为其对应的 ascii 向量.
ast-token-based vector method: 将原始文件通过词法引擎预处理为一种词法树的形式, 然后按照顺序逐个将每个 ast-token 翻译为其对应的 index 索引向量.
上图给出了 ast-token 的一个部分截图, 以帮助读者建立直观感受.
0x2: 如何对一种方案的熵进行建模分析
评估方案本身的熵是一个比较抽象的目标, 我们寻找一个等价的问题, 我们将每种技术方案都想象成一个人, 它们共同在参与一个博弈估计的游戏. 在此游戏中, 给嘉宾任意一个 Web 文件 (可能是合法文件也可能是非法 webshell 文件), 随机指定一个词素(char 或者 ast-token) 作为初始化, 并不断让嘉宾猜测下一个出现的词素.
与赛马的情形一样, 最优的博弈策略是与下一个词素出现的条件概率成比例. 猜对了词素的机会收益是:
char 有 256 个词素: 256 兑 1
ast-token 有 129 个词素: 129 兑 1
由于一连串的分布下注等价于下注一个序列的所有项, 因此, 在 n 个词素之后可得到所有的收益总额为:
- char-based method:Sn = (256)nb(X1,X2,...,Xn)
- ast-token-based method:Sn = (129)nb(X1,X2,...,Xn)
于是, 经过 n 论下注, 相对收益的对数期望满足下式:
char-based method:
ast-token-based method:
此处 是不同方案下, 词素的熵率. 于是
和
是两种方案各自的熵率的上界.
如果假设 webshell 文本是遍历的, 且参赛嘉宾使用最优双倍率策略(即最大后验概率估计), 那么其上界估计依概率收敛于各自的熵率, 即:
进一步的, 又因为熵率的上界为: H(X) <= log|X|.
所以, 综上所述, ast-token-based 的特征工程方式, 要比 char-based 的方案熵率要小, 即不确定度更小, 在相同的训练样本情况下, ast-token-based 方式可以获得理论上更好的效果.
0x3: 评估建模方案好坏的另一个方面 - 互信息
互信息的公式如下:
, 它定义了 X 含有 Y 的信息量.
这里 X 就是不同方案中的特征向量, 而 Y 就是 label 标签位. 可以这么理解, 通过输入特征向量, 能多大程度降低对未知 label 标签的模糊程度.
这项评估也很简单, 可以在特征工程阶段进行, 在开始实际训练之前, 我们肯定都有一份带标签的特征向量训练集. 通过对 X 和 Y 进行相关性分析, 可以得到一个互信息的量化度量. 一个好的技术方案, 其特征向量和待预测标签之间的互信息应该是很高的.
这里举一个虚构的具体例子说明, 假设你的训练集里有如下带标签的特征向量数据.
- ....
- [1,1,1,0,0,0] -> lable = 1
- [0,0,0,1,1,1] -> lable = 1
- ...
- [1,0,0,1,0,1] -> lable = 0
- [0,1,1,0,1,0] -> lable = 0
- ...
读者注意到了吗? 上述训练集中, 出现了 2 对完全相反的特征向量, 但同时其 label 又是相同的. 这个现象怎么理解呢? 用熵的理论视角来看就是:
对于 label=1 来说, 该数据集的是一个均匀分布, 即最大熵分布, 互信息为 0
对于 label=0 来说, 该数据集的是一个均匀分布, 即最大熵分布, 互信息为 0
当然这是一个虚构的极端例子, 现实工程中不会极端. 但与其类似的场景却屡见不鲜, 笔者自己在项目中也曾经遇到过. 当然原因有很多, 脏数据总是在所难免的, pure data 在实际工程中是很少见的.
笔者这里想告诉大家的是, 在开始训练之前, 一定要关注数据本身的质量, 如果训练集本身对待预测目标的互信息很低, 那么不管投入多少理论研究资源, 都是无法突破理论上界, 也不能拿到好的结果.
0x4:Convolution or Sequence?
需要注意的是, 图像领域的问题因为本身具备几个核心特性, 因而特别适合于 CNN 卷积网络, 例如:
平移不变性
轻度扭曲近似不变性
等比例放缩近似不变性
噪点容忍鲁棒性
边界渐变性
但是上述的这些特性, 当面对的是网络安全中的各类文本的时候, 几乎全都不适用. 所以, 在实际工程中使用最多的是 RNN 及其变体的长序列依赖模型, 很多文本问题都可以转化为序列问题来建模和解释.
- Relevant Link:
- https://www.cnblogs.com/LittleHann/p/11266085.html#_lab2_2_0
来源: https://www.cnblogs.com/LittleHann/p/11355040.html