您的位置  > 互联网

科研技能提升讲座:审稿视角下的计算机视觉论文——从投稿到接收

欢迎关注@nity,关注学术论文、机器学习、人工智能、技术

近日,北京大学计算机系研究员石伯新在致远会议上作了主题为“科研技能提升讲座:审稿视角下的计算机视觉论文——从投稿到录用”的报告。 清华大学教授、主持人蓝燕燕表示:

石博新先生毕业于东京大学,获博士学位。 主要从事计算机视觉和计算相机科学方面的研究工作。

史老师这次的报告从审稿人的角度解释了一篇CVPR甚至所有计算机视觉论文是如何被接受的,并且非常详细地解释了整个稿件写作过程。

为什么要给大家介绍这么详细呢? 其主要有以下三个目的:

首先,如果你是一名学生作者,当你对整个流程有了非常清晰的认识后,对于你撰写论文、提交论文、了解整个文章处理流程进行学术交流是非常有帮助的。

其次,很多学生都有过稿件被拒的经历。 刚才石老师提到,整个复习过程是非常复杂的。 很多人都经历过艰苦奋斗的过程。 我认为你应该仔细看看。 其中大多数对你来说都是“有营养的”。 当你的稿件被拒绝时,你可能会在网上抱怨“审稿人没有理解我的文章”。 但很多时候你要思考在写论文的过程中是否有没有解释清楚的地方。 这种反思对你的科学研究会有帮助。

第三,当你自己担任审稿人时,有明确的流程可以让你认真负责。 这对于我们整个学术界来说,将会是一个非常良性的推动。

图片

以下为报告主要内容。 AI技术综述在不改变原意的情况下进行了整理。

1 在 DDL 之前

图片

去年3月,我通过致远平台做了一次网上分享。 我从作者的角度讲了计算机视觉论文从哪里来,又要去哪里,包括论文写作本身需要注意的一些技巧。 今年,让我们换个角度,从审稿人的角度来看。

图片

研究人员对顶级会议非常敏感。 比如CVPR基本上在11月的第二周或第三周结束。

不过,在此之前我们还有很多准备工作要做。 无论文章是几个月后发表的,还是准备了半年、一年的,你都得在这一天提交文章。 最近使用的基本时间是太平洋时间23:59,相当友好。 一般是北京时间第二天下午4点左右。

但2009年,当我提交文章时,时间改为北京时间上午8点。 基本上前一天晚上我都睡不着。 赶时间非常困难。 无论是文章的写作还是实验,最后一天我大概都处于恐慌之中。 到处都是鸡毛。”

因为我做的是基于物理的视觉,所以这个方向的特点就是在受控环境下拍摄真实场景的照片。 这并不像用手机拍照那么简单。 您可能需要使用一些专业设备或自己构建。 一些符合条件的场景。

那年我的第一篇 CVPR 文章,我提前大约一个月开始拍摄真实数据。 由于缺乏经验,直到最后才找到合适的环境产生合适的结果并提交了文章。

2010年,CVPR论文的长度是+8页,比现在略短。

当时我们写完论文提交之后就基本上结束了投稿流程。 少数论文会有附加材料(补充证明等)。 现在基本上所有的文章,尤其是深度学习方向的文章,我们有太多的数据要测试,太多的结果要展示,所以只能放在额外的材料中。 因此,在通过DDL提交论文后,还有7天的时间来准备额外的材料。 这才是真正的DDL。 那么,也许你可以“放松”并庆祝一下?

图片

2 DDL之后:先分配审稿人

那么,文章提交、补充材料提交后,论文还要继续走哪些流程呢?

图片

首先,了解职能划分。 会议主席(Chair)主要负责整个会议的整体组织工作; 程序主席(Chair,PC)负责与作者最相关的工作,即决定文章的录用。 文章提交后,程序主席会找到一些不同方向的Area (AC),并将这些文章分配给Area (AC)。 近年来,每个领域主席大约有 30 篇文章需要处理。 程序主席不能向会议提交文章,因为从他的角度来看,该文章的所有信息(包括作者和审稿人)都是可见的,这不符合双盲审稿原则。

图片

附件材料提交给DDL后大约7到10天,区域主席应该做什么? 首先是处理需要重新分配的文章。 例如,如果你发现自己知道(仅通过文章内容)某些文章的作者与自己相同,那么这篇文章就没有办法处理。 这样的情况不会有很多。

二是处理一些需要直接拒稿的文章(desk)。 因为有些文章根本不需要审稿人:主要是不匿名的文章,包括附加材料。 有一个真实的案例。 论文提交后,作者收到了一封拒绝邮件。 可能是因为有队友在附加素材的视频中添加了作者信息的问题。

这里有一个微妙的联系,就是长度的限制。 近年来,CVPR和ICCV都要求长度不得超过8页,不包括参考文献。 严格来说,违反上述规定也是一张桌子。 那么多一行还是多几个字算不算呢? 事实上,AC在处理这个问题上更加人性化。 超出限度是不可接受的。 确实不符合会议投稿规则,完全有理由直接拒绝这篇文章。 但在实际操作中,我们会考虑作者是否有意或无意(仓促提交的论文)超出了篇幅限制。 如果不小心出现这个问题,其实是可以忍受的。

另一个最重要的事情是(不是)审稿人,至少这是近年来计算机视觉会议上的处理方式。 这就是为什么领域主席需要是该领域经验丰富的学者,因为根据他的经验,必须在审稿人中找到大约10个合适的候选人并推荐给系统,这会参考TPMS分数、DBLP等数据。 TPMS(论文)是处理计算机视觉会议论文的常用系统。 背后设计的算法会根据你评论的文章和你提交的文章计算出一个匹配分数作为参考。 现场主席根据经验对这些数据进行加权并推荐审阅者。 需要考虑的是领域相关性。

另一件需要考虑的事情是审稿人和审稿人之间的平衡。 因为近年来,很多AI会议都面临着投稿量激增的情况。 可能十年前我们投稿的时候,如果投稿超过1000篇,感觉会是一个巨大的数字。 现在,超过 10,000 份提交内容已不再新鲜。 以前顶级会议很少聘请学生作为审稿人,但现在我们面临着审稿人严重短缺,需要很多学生审稿人,所以这个时候就要考虑到比例的平衡。 因为不同经历的审稿人看文章的角度不同。

图片

第三步是系统实际指定审稿人。 如今的计算机视觉会议基本上都是使用计算机算法来指定审稿人。 算法调整的参数我们是未知的。 不同经验审稿人的工作量也会得到充分考虑。 根据2021年ICCV排名,全职研究人员或教师的最高审稿限制为7篇论文,而学生则为4篇论文。 由于论文分配是根据领域主席的推荐结合系统指定进行的,因此近年来的计算机视觉会议,论文匹配相对准确,主要基于小型同行评审。

在匹配审稿人时,除了我提到的参数之外,还有一个可选链接。 也就是说,允许审稿人对自己感兴趣的论文进行投票。这在系统指定论文时也会占据一定的比例。 此阶段审稿人能看到的只是论文的标题和摘要。 这也是摘要对于一篇论文最重要的作用。

现阶段AC一般无权重新指定评审员,下次评审流程将根据之前系统匹配的结果进行。 如果有不合适的审稿人,需要后期处理。

3 开始复习

图片

接下来,审稿人拿到待审稿件后,就可以进行一些横向比较。 在小型同行评审中,审稿人可能会得到几篇做非常相似工作(解决相同问题)的文章。

在这种情况下,从作者的角度来看,文章怎样才能快速引起审稿人的注意呢? 第一印象非常重要。 我会对一篇文章读完5到10分钟后有一个粗略的判断,而当我写出观点时,它不会与我之前的判断有太大的不同。

我个人认为,读完这篇文章后,如果我觉得这是一篇精彩的报告,基本上知道作者提出了什么问题,解决了什么问题,结果是什么,而且讲得很流畅,印象就会很好。

相反,如果你发现了几个语法或常识错误,或者在整体图的复杂程度、问题描述的准确性等方面发现了明显的问题,那么你实际上已经帮助审稿人节省了很多时间——他很容易找到拒绝这篇文章的理由。

图片

另外,从技术角度来说,如果这篇文章让审稿人觉得他已经想透了作者想要解决的问题,甚至知道别人已经做到了,他肯定不会给这篇文章高分。 另一方面,如果审稿人给一篇文章打了最高分,他可能会认为他也想做这项工作,但他没能做到,而且贡献者比他做得更好。

图片

接下来我们将从审稿人的角度出发,探究他在审稿过程中会有什么样的思考。 首先,让我引用Roger Bo教授去年7月一次非常激动人心的演讲中的观点:“己所不欲,勿施于人。” 如果您作为作者不想看到评论,请不要将其作为审稿人提供给其他人。

我画了一个关键关键词——建设性。 一个比较肤浅、不太专业的审稿人的意见是,这篇文章一开始就没有。 在不明确哪些部分没有创新性,或者哪些部分已经被别人做过的情况下,现在提出的方法是对现有的具体方法进行一些简单的改变等等,这些都需要具体的分析或证据。

还有一类常见问题。 例如,在实验中,无论实验如何做,都可能有遗漏,但简单地评价实验不充分,这是不公平的。 审稿人应该告诉作者哪些不足,让作者知道为什么这篇文章没有赢得审稿人的好评。 因此,作为一个专业的评审者,在做出任何评价时都应该有根据。

4提醒

图片

迟到是一个常见问题。 一般来说,审稿人会给1个月的时间审稿。 但其实我记得前几天打开ICCV系统的时候,大概距离审稿公布DDL还有两三天,但当时很多文章的审稿率都是0%。

这时,现场主席会通过系统向审稿人发送邮件,督促审稿人。 这时候突然发现审稿人都是DDL战士,这几天审稿完成率明显提升。 因此,留给审稿人的时间是有限的,他可能会用最后几天的时间看论文、写审稿意见。 因此,论文作者需要认真思考如何写出高质量的文章,能够快速让审稿人理解文章的要点。

这里有一个微妙的时机。 从您作为作者看到网站上发表的审稿意见到您作为审稿人被通知提交审稿意见之间会有几天的时间。 中间的日子用来做什么? 由 AC 敦促审核人员。

有些审稿人晚了两三天提交稿件,但这一般都在容忍范围之内,你可以继续等待。 但总会有一些审稿人一直消失,这不是一个好兆头。 审稿是一项独特的工作,也是一项负责任的工作。 既然你接手了这份工作,就必须按照规定做好。 但总有一些审稿人联系不上。 这时候AC就需要找到紧急评审员来挽救局面。

一般情况下,每篇文章收到至少3条合格审稿意见后即进入审稿。 但当你最终得到审稿意见后,你可能会看到四条、五条甚至更多的审稿意见。 这可能意味着你的论文遇到了不负责任的审稿人,并且无法联系到原来的审稿人。 AC暂时找了另一个审稿人,但是原来的审稿人通过了DDL,又重新提交了。

AC除了督促审稿人外,还会检查审稿人提交的稿件是否符合审稿要求。 例如,过于简短的评审意见可能会被现场主席提醒修改。

5 审核公告

最后,将它们全部收集起来后,我们到达了第五步。 此时距离投稿已经过去两三个月了。 这也是一个激动人心的时刻,因为作者会收到第一轮分数和文章评估。

这里有一个非常关键的环节,就是以第一轮反馈为参考,对7天内审稿人提出的意见进行答辩()。

图片

原则上,抗辩是要求作者向审稿人解释他对你的文章的误解。 它不需要每个人都进行新的实验。 为什么这个阶段不让我们做新的实验? 主要花了7天时间,实验结果不太可靠。

所以,如果是比较专业的审稿人,他给出的建议不会需要这段时间大量的实验,而主要是告诉作者哪些方面需要明确。 我个人认为不要放弃这个机会是非常重要的,除非你在第一次提交这篇文章的时候对这篇文章抱着一种抽奖的态度,就去尝试一下。 如果你认真做这项工作,希望大家坚持这个链接。

但如果你运气不好,遇到了奇怪的审稿人怎么办? 打了一架? 回击? 这些都不是正确的做法。 这个时候,作者和审稿人有一个原则,那就是大家都在讨论学术问题,必须以专业的态度为自己辩护,心态好,心态平和,有理有据。

图片

计算机视觉论文通常采用5级评价机制。 一般1代表最好,5代表最差(这不是审稿人给出的分数,因为系统中有1到5五个选项)。 大家都习惯报三个数字,根据分数来判断文章的评价。 此初步分数仅供参考。 当AC和PC之后决​​定招募时,他们将主要依靠修改后的分数。

我自己也有过很多次“复活”的经历。 也许你第一眼看到比分就觉得不可能赢了,但最终的比分却出乎意料。 比如,如果审稿人后来承认你的解释合理,他就会把分数改高。 也有可能审稿人拒绝承认你的工作的创新性,但如果AC认为这项工作将有助于该领域的发展,它可以决定承认。

图片

作者写完说明并阶段提交后,还有一个非常重要的和审稿人的讨论环节。 对于审稿人来说,必须是开放的——即阅读其他文章并进行积极的讨论。 作为计算机视觉顶级会议的审稿人,这一点非常重要,因为AC的判断主要是根据最终的分数。 但事实上,并不是每个人都能做到。 有的审稿人审完后就消失了,也不参与后面的讨论,这让大家感觉没有效果。

这里最关键的两个点仍然是和平与和谐。 大家以平等的心态讨论问题。 为什么说未来可以发生很多事情呢? 由于审稿人的讨论对于作者来说是不可见的,因此在最终评分确定之前,某篇文章背后可能已经存在过激烈的讨论。 此过程对于审阅者来说是匿名的,但 AC 可以看到谁在发言。

事实上,当我担任领域主席时,我会积极推动审稿人之间的讨论,特别是对于不同意见的文章。 这时候有些审稿人就比较严肃,声音也比较大,或者是对这个领域特别熟悉,或者是有一些意见很有道理。 这些都会对最终的审核结果产生较大的影响。

图片

审稿人确定最终分数后,大约在投稿后一个月,领域主席将召开会议,最终决定文章是否接受或拒绝。

这时,Field Chair最重要的作用就是告诉程序委员会哪篇文章会被接受,哪篇文章会被拒绝,同时让作者明白为什么这篇文章会被接受或拒绝。 CVPR此前的传统是线下现场主席会议,但去年由于疫情影响,选择在网上举行,为期7天(每天1-2小时)。 会议期间,对这些文章进行了反复分析,并讨论了如何处理争议。 。

图片

这个过程是什么样的? 得出最终分数后,一般会在会前对分数进行排序。 例如,分数相对较低的文章和分数大于444的文章首先放在一起。 然后将剩余分数特别高且一致好评的文章放在一起(例如低于222)。 总体来说,这些文章并没有太大争议。 AC看完后会觉得评价很客观,没有明显的缺陷和问题,所以会提前写推荐信。

其实两端的文章并不多,而且大多数文章都是有争议的。 例如,有些文章的分数是224。作者一开始收到这个分数可能会很高兴。 当你经过时,分数会改变。 但即使最终的分数是两票赞成,一票驳回,或者反之亦然,这篇文章也有接受或拒绝的可能。 AC会根据每篇文章的评分与其他AC讨论进行具体分析。

包括向他伙伴的AC汇报,询问这篇文章是否有问题。 换句话说,每一篇文章都必须被讨论。 这篇文章到底是审稿人的意见更合理,还是作者的意见更合理,还要反复论证。 你可能认为AC权力很大,但事实上,他的决定必须是与其他AC讨论后做出的。 他不能自己决定他所处理的每一篇文章。

图片

这里有一些非常特殊的情况。 推翻审稿人的共识意见是应该尽量避免的事情。 只有在其他区域主席和计划委员会同意的情况下才能推翻它。 所以这就是为什么AC工作中有组合的情况,就是三个人两两组合,然后一个人是AC的主要负责人,另一个人是助理。 最后,大家互相核对,看看本文的领域主席是否平衡地考虑了所有因素,并从中进行了适当的选择,形成最终的推荐()。 最终录取或拒绝的决定必须基于两人以上的建议,确保公平和正确。

6 发布名单

图片

AC汇总确定录取的文章ID后,所有AC向PC报告(可能形成txt文件)就是最终的录取结果。

当我作为学生提交论文的时候,我对这个txt还是很“敏感”的。 发布时间可能比网站公布的时间要早​​,可能是因为AC会议效率比较高,大家都讨论完了。 有时在官方宣布之前,我会突发奇想浏览一下官方网站,就会发布一个神奇的txt文件(或者可能是网页链接)。 简而言之,就是一堆数字。 我记得,面对这些数字,我的手通常都会颤抖,我会战战兢兢地寻找,反复确认是不是我的论文。 每一次的“抽奖”都让我记忆犹新。

以上就是我的分享,希望对大家有所帮助。 以上分享借鉴了大量前辈的经验。 如果个人观点不准确,欢迎批评指正。

技术交流群