美国,旧金山,斯坦福大学,一座安静的公寓内。
曼宁正疑惑地看着他眼前西装革履的男人。
“皮埃尔,你作为ACL的领域主席之一,不好好干你的工作,跑到我这来干什么?”曼宁问道。
“曼宁教授,我是想让您帮我过目一篇论文。”皮埃尔如实说道。
“皮埃尔,我想你应该明白,我虽然是ACL的会员,但我并不是很在意这个身份。”曼宁头也不回地说道:“而且你并没有和我预约时间,今天是我和我夫人难得的周末,我不希望任何事情打扰到我和她的约会。”
皮埃尔只得尴尬地笑着,曼宁这话不但有些指责他的突然登门,而且还有些轻视ACL的意思。
然而,皮埃尔一点脾气都没有,如曼宁刚刚所说,曼宁是真的一点不在乎ACL会员的身份,毕竟曼宁不但是ACL最高荣誉会员,还是AAAI和ACM等多个人工智能顶会或者国际组织的最高荣誉会员,在别人眼中抢破头才能拿到的最高荣誉会员,在曼宁眼里,也就那么回事。
反而是ACL非常在意曼宁这位大老,这位大老的名字挂在ACL的官网上,都能让ACL含金量提高不少。
再说了,要是惹曼宁这位大老不高兴了,甚至曼宁都不需要特地做什么,只要论文投稿的倾向稍微往其他会议倾斜一下,那都够ACL喝一壶了,要知道,每年曼宁实验室的论文是多少顶会顶刊都求之不得的。
总之,不能惹这位大老不开心。
一切为了ACL!
皮埃尔觉得自己真的是个尽忠职守的领域主席。
“曼宁教授,拜托了,这篇论文事关重大,很可能会轰动整个人工智能领域,如果有您的认定,ACL那边也更放心不是么。在看到这篇论文的时候,我第一时间就想起了您,因为您在自然语言处理中对注意力机制的运用非常巧妙,您或许能给这篇论文下一个中肯的评价。”皮埃尔哀求道。
“很遗憾,皮埃尔,这些称赞对我可没什么用,而且我和夫人马上就要出发了,或许你可以下周来找我。”曼宁摇了摇头,再度拒绝。
皮埃尔一阵苦笑,这位大老一向是非常温和的,而且很好说话,平常甚至都不太会拒绝别人的要求,但只要涉及到他夫人的事情的时候,总像变了一个人一样。
深情的男人真难对付啊。
“我搞不明白有什么需要我评价的,难道你们审稿人吵起来了?”曼宁正把衣服一件件塞到行李箱里,开玩笑般地说道。
想不到这句话正好戳中皮埃尔的痛处:“快打起来了。”
“这么夸张?”曼宁诧异道。
ACL虽然也是采用盲审制度,但毕竟不是像AAAI那样两轮盲审,还有个领域主席这种润滑剂一样的存在和审稿人们一起讨论,怎么会到这种地步。
“不过就算天塌下来了,也不能阻止我和我夫人的约会。”曼宁继续收拾着行李。
“曼宁教授,我向您保证,不会耽误您和您夫人的约会,您只要看上两眼,五分钟就好,这篇论文的意义重大,很可能会影响人工智能领域的走向啊。先生,我还记得您在前年的学术会议上说的,人工智能是人类科技的一个皇冠,而注意力机制是皇冠上的一颗璀璨的宝石,然而至今为止还无人能鉴赏这颗宝石的美……但现在这颗宝石就在这里,就在您手里啊。”
皮埃尔不死心的话让曼宁的动作一顿,他早听说ACL的领域主席一个个能说会道,今天总算是体会到了。
皮埃尔充满期待地看着曼宁,而曼宁则一脸纠结。
“曼宁教授,写这篇论文的是ELMo的作者,Fei Su。”皮埃尔看曼宁仍然犹豫不决,又添了一把火。
曼宁听到这个名字,眉头一挑,盯着皮埃尔的眼睛,他沉默了好一会儿,最终长叹一口气,道:“就五分钟。”
“我向您保证,先生!”皮埃尔笑着把论文递了过去。
“Attention is all you need?”
看到这个标题,曼宁就是一惊。
他在看到这个题目的瞬间便被吸引住了,这种有些狂妄的态度,不愧是那个构建出ELMo的天才。
曼宁一点也不觉得这个有些高傲的论文题目有什么问题,相反,他觉得天才就该如此,不趁着年轻的时候狂妄,难道等老了以后悲春伤秋?
“构建新的模型单元?”
“仅用注意力机制?”
曼宁刚读完论文概要,便开始惊呼,这是多少人尝试过或正在尝试却无法成功的事情。
这个本科生……步子是否迈的太大了?
曼宁不禁有些为苏飞担忧,天才且狂妄是好事,但狂妄不代表鲁莽,学术还是要一步一步来的。
但很快,他就再也没有这种想法了。
越往下看他越心惊,大概过了十分钟,曼宁把行李箱放到一旁,眉头紧锁着,一动不动地盯着这篇论文。
用位置向量引入位置信息以此解决无序问题?
多头注意力机制解决信息单一问题?
十分大胆而巧妙的想法!
曼宁发现他根本找不出什么可以改进的地方,硬要说的话,那就是这次的论文,读起来不是很顺畅,有一些语法瑕疵,比起上次的ELMo那篇论文,感觉英文写作水平下降了一些。
当然,这些都是可以忽略的小问题。
曼宁继续往下看,作者给出了这个模型在机器翻译上的评分和所用时间,性能上远远超出了现在所有的主流模型。
再下面一部分还有作者附带的理论证明,企图通过数学的角度,来解释这样构建模型的依据。
在深度学习中,大多数人都讲不清原理,毕竟深度学习是个黑盒。
但这篇论文却能大概讲清楚原理,虽然在很多地方还是存在经验性的判断,但比起深度学习这个领域的其他论文,已经好很多了。
上次的ELMo也是,这个小小的本科生好像总是很较真,给人一种非得把道理讲清楚不可的感觉。
而且更有趣的是,上次把模型取名为埃蒙,这次取名为变形金刚……
有意思,这个作者真的很有意思。
曼宁不禁会心一笑。
&... -->>
本章未完,点击下一页继续阅读