首发于Hello World
更有效地阅读论文 | 吴恩达

更有效地阅读论文 | 吴恩达

高考放榜后,看到一个又一个未来的大牛,你有没有感到那么亿点点焦虑呢?


学习科研时,读论文大概是比较头疼的一件事。读什么?怎么找?怎么读?Stanford教授吴恩达在Stanford CS230深度学习课程中专门抽出一节课讲授如何读论文,进而了解某个领域,果然优秀的人都是在用优秀的方法。下面总结一下笔记,算是备忘,加了一点自己的经验,也希望对大家有帮助。

原视频链接:

https://www.youtube.com/watch?v=733m6qBH-jIwww.youtube.com

该视频讲了两部分,一是有效读论文,二是对于学习ML的一些生涯建议。这篇文章只写了第一部分,第二部分先咕着。

寻找论文资源

网页搜索和博客是第一选择,通常用来对该领域有个大致印象。在国内无法翻墙的话搜索引擎推荐bing,能翻墙就谷歌。百度?正经人谁用百度啊
大致了解后就要下载论文了,大部分学校的图书馆都购买了知网万方以及其它外文数据库,所以去学校图书馆查找是第一选择。以武汉大学为例,“珞珈学术搜索”简直不能再好用,在全数据库中查找后,可以直接链接到具体数据库下载。

除了学校图书馆,还有一些其它资源网站,这里推荐Research Gate. 很多外文电子书及论文都可以查到,并且完全免费,不过需要使用edu的邮箱注册

https://www.researchgate.net/www.researchgate.net

筛选论文

找到一篇论文后,我们通常可以根据参考文献多次套娃,最终查到一堆论文,都阅读是不可能的。下面就要进行筛选了:

  1. 看作者(机构)。比如你查了个论文,作者是爱因斯坦,那这篇文章你大概率是要仔细阅读的。
  2. 看出版社,期刊。核心期刊的文章质量一般会好些。

看起来是有点草率,难道一个无名之辈在一个影响力不怎么大的期刊上发表的论文就不行吗?对不起,我们要更高效地利用时间。
另外,吴恩达还有一个“10%阅读法”(名字我自己绉的)。假如有5篇论文,你只需要看10%就能够判断这篇文章值不值得你继续读了,如果发现这文章没啥用,果断放弃。

5-20篇论文能帮你了解一个领域,看完50-100篇后,你对这个领域就很熟悉了。吴恩达现在每周会看2篇论文(为了选出要看的2篇通常需要5-6篇论文)。

吴恩达的背包里个文件夹专放自己筛选过的论文

阅读一篇论文

从第一个字看到最后一个标点是最最最蠢的方法,相反,吴恩达推荐多次阅读法。

  1. 标题,摘要,图表。标题不用说;摘要是一篇论文的灵魂,作者不知道掉了多少头发才一个字一个字的写好;对于理工科,图表能表达整篇文章的绝大部分内容。
  2. 引言,结论,更仔细地阅读图表。
  3. 阅读全文,但跳过数学。
  4. 更仔细地阅读全文,跳过没有用的地方,但对于困难的数学依然可以跳过。

其中第4步“跳过没有用的地方”这一点是我比较大的收获,刚听到时???你都知道没有用的地方,论文作者怎么会写上啊?吴恩达是这样解释的:

某些地方,比如related work,就是很水,可能作者把有点关系的一股脑都加上,显得论文很厉害的样子,但实际上这些内容毫无意义。
写的时候作者并不会知道哪些有用哪些没用。注意!这里的有用没用是针对你而言的,而论文发表是过去式。如Yan LeCun的论文LeNet-5中讲到了卷积网络,这也是卷积网络的重要基础,而该论文其它部分(至少有一半)则乏善可陈。

读完后,怎么检验自己是不是读懂了呢?问问这四个问题:

What do the authors try to accomplish?
What were the key elements of the approach?
What can you use yourself?
What other reference do you want to follow?

深入理解论文

要想深入理解论文,有两方面的事情要做:

  1. 数学。很多艺术生都需要临摹大师的作品,然后才能自己画出好作品。对于数学部分,吴建议多看几遍公式算法后自己找张空白的草稿纸推导一遍(什么都不看)。这部分很需要时间,也对数学要求较高。做这个的过程中也是对自己数学能力的提升。
  2. 代码。最简单的是下载代码(如果有),然后跑一下,学到的有限。吴建议自己重新编写一遍。

更快地跟上研究

有些领域发展迅速,工作者自然想更快地学习,跟上前沿。

  1. Twitter, 首推,然而有些原因部分人上不了这个。
  2. Subreddit.
  3. 顶会。机器学习领域:NIPS, ICML, ICLR.
  4. 朋友同学。吴恩达就在斯坦福举办深度学习相关的读书会,大家可以互相交流。
  5. Arxiv-sanity.

最后,学习的关键在于稳定和坚持,而不是暴饮暴食,这个周末一下看10篇然后就浪个几周,不如每周2篇看5周。

祝各位在变秃的路上越来越强。

编辑于 07-24

文章被以下专栏收录