大岩视点

首页-智闻
2021-06-29

大岩资本:三大因素决定深度学习

大岩资本是一家量化与基本面相辅相成的公司,在量化研究领域,深度学习是必不可少的技术。在近期的周年庆上,大岩资本王博士就与大家分享了主题为《考古深度学习》的演讲。

王博士从深度学习和机器学习的关系、发展脉络,以及其成功因素给量化带来的启示等多角度、多维度剖析了深度学习。

演讲中,王博士阐述道,深度学习是机器学习的一个子集,机器学习又是AI的一个子集。从目前来看,深度学习是现阶段达成AI最有希望的一个工具,所以深度学习的最高水平也就是当前AI的最高水平。

王昕.jpg

王博士称,要分析深度学习与传统机器学习的区别,首先要回溯深度学习的本源。随后,王博士从《imagenet classification with deep convolutional neural network》这篇发表于2012年拉开深度学习序幕的论文开始,回顾并解释了为什么CNN、 LSTM这些早在上世纪90年代就发表的成果,直到最近几年尤其是2012年之后才被大量成功地应用。

王博士称,深度学习其实是由三个因素决定的,数据、算法及算力。数据包括图片、视频、音频、文本等等;算法领域包含内容更广,比如网络模型结构、性质、学习的方式等;算力,实际上就是我们现在能买到的Nvidia显卡,还有比如Google做的tpu,华为专业的AI芯片等。在实践中,这三个环节中任何一个环节成为短板都可能导致很差的模型。

随着深度学习在不需要监督信息存在的「表示学习」上已经逼近甚至超过了需要监督信息的「表示学习」,这在很多应用上大幅降低了数据标注的成本。由于需要投入大量资金,因而在很多实践者眼中,算力已经成为公认的壁垒。而只有在算力充足的情况下,才可能更快地尝试和迭代各种复杂新奇的模型,谷歌就是一个很典型的例子。

王博士称,当今深度学习需要天量算力的两个超级工程:预训练语言模型OpenAI的GPT-3和前不久刚刚开源的华为的pangu-alpha。他总结道,深度学习试图从数据中学习任何可能的特征来逼近我们想要的预测,而多因子模型就是试图寻找任何可能的因子来解释和预测收益。所以用深度学习作为工具来预测股票收益,是一个非常自然,合理的尝试。

大岩资本,2013年6月成立于深圳。在深耕中国大陆资本市场8年多时间里,大岩资本在私募证券投资领域,累计获得包括4尊金牛奖在内的30余项业内奖项。大岩资本依托股东的全球业务网络布局,与设于香港、纽约、开曼等地多个独立姊妹公司,携手为国内外投资者提供专业的资产管理服务。

版权声明:本文由大岩资本科学投资专家思考原创,如有转载或引用,请注明出处。

联系我们

深圳嘉石大岩资本管理有限公司微信公众号
大岩资本官方公众号

深圳市福田区益田路5033号平安金融中心88层01单元

上海市浦东新区陆家嘴街道富城路99号 (震旦国际大楼)27层

香港中环德辅道中188号金龙中心17楼1701室

shenzhen@jaspercapital.com
求职简历请投递至 hr@jaspercapital.com
© 2013 - 2023 • Jasper Capital 粤ICP备13055300号-2