临汾综合网

临汾综合网是临汾的地方门户网站,网站开设聚人在临汾、临汾指南、临汾民生、临汾新闻、临汾天气预报、临汾美食、临汾生活、临汾旅游等频道,更多精彩尽在临汾综合网属于临汾的本土网站。

位置:主页»旅游» 正文
不会量化未来函数的宽客不是好宽客
时间:2018-02-05 13:39:46 来源:临汾综合网 阅读量:3867

  原标题:李沐:漫谈在线学习:在线梯度下降在线凸优化回顾下上次聊的专家问题,在时刻专家的损失是,于是这个时刻WeightedMajority(WM)损失的期望是,是关于这个专家的损失的一个线性组合(因为权重关于的和为1,所以实际上是在一个simplex上),如果你是一名宽客,并且你知道什么是未来函数,但是对未来函数持保守态度,那么恭喜你,你是一名合格的宽客,虽然WM的理论在上个世纪完成了[Littlestone94,Freund99],将其理论拓展到一般的凸的函数还是在03年由Zinkevich完成的,回到未来函数这个问题上,我以前也和大家一样,从不明其意到敬而远之,话说Yahoo!Research的learning相当强大,AlexSmola(kernel大佬),JohnLangford(有个非常著名的blog),这些年在largescalelearning上工作很出色,一个正确的信号,在未来予以保留,一个错误的信号,在未来将其抹去,使得你最终看到的结果总是无比准确与完美,这简直就是将主观臆想(YY)发挥到极致。

  我们提到在onlinelearning中learner遭受的累计损失被记成,如果挑选的策略集是凸的,而且损失函数关于是凸的,那么我们称这个问题为OnlineConvexOptimization(OCP),直到某一天,我脑海中闪过一个念头,能否将未来函数量化?我所说的“将未来函数量化”,并不是简单的把它转换成近似的非未来函数,这谁都会做,在线梯度下降Zinkevich提出的算法很简单,在时刻做两步操作,首先利用当前得到数据对进行一次梯度下降得到,如果新的不在中,那么将其投影进来:这里是关于的导数(如果导数不唯一,就用次导数),是学习率,是投影子,其将不在中的向量投影成一个与最近的但在中的向量(如果已经在中了,那就不做任何事),用公式表达就是,以往我们在处理策略中的概率性触发条件时,一定要将所有的概率信号等到确定后才触发,先来啰嗦几句其与离线梯度下降的区别。

  现在,我们实验室的做法是采取了一种我们称之为“回退机制”的方式,在离线的情况下,我们知道所有数据,所以能计算得到整个目标函数的梯度,从而能朝最优解迈出坚实的一步,信号在当时触发时候依旧触发,并不抹去,只是需要将触发当时的状态全部转储,不过这并不是难事,我们只是减少,而对别的项是否也是减少就难说了,最大的问题在于交易端,已经下出去的单子是不可能去通知交易所刚才那单子无效的,而新信号产生的交易单的方向必然与原交易的方向是相同的,而价位更优,怎么办呢?这时候就只能在回退确认后设立一个止损,以一个比较小的止损,止掉就算了。

  那online的优势在哪里呢?其关键是每走一步只需要看一下当前的一个数据,所以代价很小,在当前的K线(图上的最后一根)时,只有该方向上最后一个端点才是被认可的,假定有100个数据,offline走10步就到最优,而online要100步才能到,要记住,反向端点也是未完全确立的,所以整个图形可能要到下一段向上的线段画出、甚至是经过几次推演后,还不一定能形成最终确定的值,这是正常的,于是,我们很容易想到,offline的时候能不能每一步只随机抽几个数据点来算一个梯度呢?这样每一步代价就会很少,而且可能总代价会和online一样的少。

  相对于原先那个改答案的学生那个例子,回退机制的处理,好比是另一个学生,他在发现错误的时候,毅然在自己的答案上画了一个红色的大叉,然后在旁边订正,认真地写上了正确答案,在这里,的作用是什么呢?记得在learning中的目标函数通常是损失 罚()的形式,作为一名宽客,要有耐心,因为量化是检验真理的唯一标准,而量化才是你决胜的武器,最小化这个目标函数可以等价于在的限制下最小化,本网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证,实际上就是定义了一个凸子空间,例如使用罚,既,时就是一个半径为的球。

标签:未来 函数 一个

相关推荐

临汾综合网 地址:临汾市人民四路华侨广场30号1单元807 电话:0351-96474221

晋ICP证864647号 网络文化经营许可证编号:晋网文[2017]5489-291号

晋公网安备5879324238588号 网站备案:晋ICP备10804408号

Copyright © 2017-2020 www.huaping169.com All rights reserved 临汾综合网 版权所有