第20期人工智能前沿学生论坛—师姐交流会

第20期人工智能前沿学生论坛(SFFAI)—师姐交流会。

References

IEEE WIE(Women In Engineer)是全球最大的致力于支持和帮助女性参加工程和科学领域,鼓励女性从事工程事业的国际组织之一,旨在推动女性在管理中发挥领导作用,帮助女性在产业界和学术界实现更好的发展。

简述

本次论坛主要讲述的是学姐们的博士生活、科研经验和论文阅读、写作等技巧。

王少楠 博士生活杂谈

助理研究员。自然语言处理。

读博五年。

课题选择(博士第一年 学习)

选题:

  • 篇章分析
  • 情感分析
  • 借鉴认知神经科学的自然语言处理方法

调研和咨询(内容、发展情况)

个人情况(兴趣、工作)

作出决定(即将成为热点的问题,高风险,做好不被承认的准备)

调研-交叉学科(博士第二年)

认知神经科学

  • 研究人脑活动的科学
  • 感知觉……

自然语言处理

  • 实现人与计算机之间用自然语言进行有效沟通的各种理论和方法
  • 机器翻译、问答系统、人机对话、文本分类、情感分析……

五大重要步骤沟通——实践——教材——论文——上课

越来越忙的时候,大部分时候都需要通过沟通来获取知识。

研究问题 (博士第三年)

借鉴认知神经科学的自然语言处理方法。

  • 找到一个研究问题!
  • 目标是解决自然语言处理任务,以自然语言任务出发,设计认知神经科学实验,验证某个结论,提升模型性能

选定任务:

  • 词义消歧任务:张三很关心自己的仪表
    • 自然语言处理:语境、词频?
    • 认知神经科学;上下文约束。

特征工程:

  • 对于某一个词,选择最重要的一类特征

发表第一篇论文(博士第三年后期,压力骤增)

改变研究方向:(转而求其次)

  • 不作认知实验,借鉴已有结论,改进词义消歧模型
  • 发表 ——> 中文信息学报
  • 初稿-修改-修改-……-修改-投稿-……(过程曲折)

排解压力:

  • 转移注意力
  • 均衡

方向延伸

自然语言处理的深度学习开始流行。

词义消歧——语义分析——语义表征

词汇表示模型

  • NLP:Word2vec
  • 认知神经科学:词分解为可解释的特征

如何结合不可解释的vec和可解释的认知特征?(查阅文献,发现被研究过了)

  • 特征组合——更好的词汇表示模型

第一个像样工作

句子表示模型

  • 注意力机制(attention):选择性的注视和跳读

人类注意力机制启发的句子表示模型效果特别好

  • 投稿AAAI,被打回,修改后投稿UCAI 2017高分录用
  • 规律:只要投过一个高分,投其它期刊比较容易中
  • 文章:
    • 重要性, 与已有工作联系和区别,文章逻辑关系,用词语法
    • 讲故事简洁移动
    • Trick: google “ ” /grammarly(语法检查)
    • 推荐:机器翻译学术论文写作方法与技巧(刘洋)

第一次出国开会。(墨尔本)好玩。

灵感涌现 (博士第四年)

融合字符信息的中文句子表示 EMNLP-2017

融合字符信息的中文句子表示(拓展) TALLIP-2018

多模态词汇表示方法 AAAI-2018

多模态词汇表示方法和可解释性……

工作选择(博士第五年)

  • 出国读博士后:眼界、难度
  • 留所工作:科研、自由、钱少
  • 互联网公司:价值、(被动)累、约束

自由、成就感、新鲜感

毕业旅行……

遗憾:

  • 去企业实习
  • 出国访问
  • 假期旅行
  • ……

学生$\longrightarrow$老师(毕业)

研究内容:转向认知神经科学

心态:学问压力$\longrightarrow$学术压力

辅导学生:耐心

团队工作:独立$\longrightarrow​$合作

研究所招聘制度

  • 2018.1 岗位答辩(户口指标)
  • 2018.5 毕业答辩
  • 2018.12 拿到户口
  • 2018.12 青促会答辩(初始资金支持)
  • 2019.3 自然科学青年基金
  • 2010.11 副研究员岗位申请

李祎 科研经历分享和交流

中科院自动化所在读博士。

交流

结合深度学习开拓新方向?(遥感+DL)

  • 具体任务:语义分割(遥感影像)
  • 读博???

个人简介

硕士:图像语义分割,CRF……像素级别的标注问题

  • 团队积累少

博士:图像生成、深度生成模型(1篇会议、1篇期刊、1个数据库)

  • 人脸去妆和素颜化妆
  • 导师高瞻远瞩

科研方向选择

决定

  • 个人想法
  • 导师指定
  • 犹豫……
  • 备选清单
    • 自己感兴趣的
    • 符合发展潮流的
    • 能有人交流的(不必担心,多交流)
    • 能坚持住的(不必怀疑)
    • ……

变换

  • 能不能换
    • 博士入学
  • 为什么换
    • 符合小组方向
  • 换什么
    • 图像生成
  • 怎么换

入门与知识积累

硕士

  • 小团队共同学习
  • 各方面能力提升
    • 资料检索论文阅读(分享)、公式推导、代码实现、PPT制作、演讲……
      • 可以搞定的自信心
  • 合作、严谨、归纳、交流

博士

  • 跟师兄师姐请教
  • 自己搞不定再问
  • 重视交流质量(大家其实都很忙,输入+输出
  • 记录、整理,跟上节奏

积累

  • 培养思维方式(逻辑思维……)
  • 综合能力提升
  • 开阔视野,触类旁通
    • 选还是不选是其次,有得选才是最重要的
  • 良好的科研习惯
    • 多阅读、多思考、多总结、多尝试、多讨论
    • 每天刷arXiv,泛读+精读
    • 追踪团队,看清潮流
    • 笔记与总结OneNote,周报+月度回顾)
    • 发现问题,结局问题,撰写论文

论文撰写与投稿

  • 认清目标,早做打算,严格执行,适时调整
  • 从审稿中学习,自学tex
  • 从模仿(大牛作品,相关文献)到熟练
  • 论文撰写,举个例子
    • 想要往哪里投稿
      • 期刊or会议?什么主题?什么风格?
    • 创新点定基调
    • Introduction
      • 分析问题,捋顺逻辑,先结构后文字
    • 原理框图XMind/Visio:(对理解很有帮助)
      • 思路清晰,有美感
    • 方法正文:
      • 符号明确,公式简洁,前因后果
    • 实验分析:
      • 可复现,图表设计,分析详尽
    • 摘要与结论:
      • 二者不同
    • 参考文献:
      • 善用tex,与正文同步进行
  • 初稿:麻雀虽小,五脏俱全
  • 反复修改,不断充实
  • 地道表达,起承转合
  • 注重细节,不犯低级错误

科研与生活的平衡

  • 与压力和平共处
  • 张持有度,高效休息
  • 一分耕耘一分收获
  • 生活不只是科研
    • Making friends
    • Enjoying interests
    • Having trips
    • Falling in love
    • ……

考月英 科研经历与工作经验分享

三星电子中国研究院。(招实习生等,投递简历: yueying.kao@samsung.com)

研究方向:深度学习及其在计算机视觉中的应用

发表论文:UCAI,TIP等

硕博选择

  • 了解区别
  • 多多咨询
  • 确定自身特点,个人经历
  • 预见未来
  • 不后悔

科研方向的确定

  • 大方向:导师
  • 小方向:全面了解
  • 研究方向
  • 个人经历
  • 研究点

研究入门

  • 实现并总结现有方法的优点和不足

  • 针对不足能提出自己的看法

  • 设计可实现的方法

  • 能够查阅文献、讨论,解决实现过程的新问题

  • 得到预期的效果

  • 将这些过程总结成文,然后投稿

个人的第一篇论文SPIE

论文撰写

  • 广泛阅读论文,尤其是顶会论文
  • 借鉴优秀论文的写作思路及英文用法
  • 无论如何写出第一版
    • 这样才能请别人修改
  • 尽可能多地找人帮忙提出存在的问题
  • 正视所有问题,修改文章
  • 文章框架、逻辑等没有大问题后,从头到尾修改语法问题

投稿

  • 确定适合自己的会议及topic
  • 也可以先投稿比自己预估的更好的期刊或会议
    可以试试水
    还可以拿到比较专业的rwview
  • Rebuttal
    确保文章的创新、有效、完整

求职

多总结职业路线

  • 科研路线
  • 创业路线
  • 企业路线
  • 不确定方向,就先都准备着

企业路线

  • 刷题 LeetCode
  • 简历 竞赛文章,专利,获奖实习(硕士)等很重要
  • 投递简历最好内推
  • 面试要有自信,自己的东西一定要清楚
  • 多了解职位信息
  • 双向面试
  • 尽可能多面试
  • 选择
    • Follow your heart!
    • 公司最关心的是你能干多少活。
    • 投递简历: yueying.kao@samsung.com

下次论坛: 数据挖掘(包含时间序列)

0%