CNCC2017 琐记

大会日程表：http://cncc.ccf.org.cn/cn/news/schedule_empty

早上的论坛可以在爱奇艺下载视频

下午的分论坛是多个同时进行的，我也只去了一部分，这里先按时间顺序写自己的一些收获，之后会从另外的角度做一个总结。

如果觉得我的整理对你有帮助，欢迎star这个项目

10-26 am

丘成桐 现代几何在计算机科学中的应用

• 从几何学的角度找到优化问题（如GAN）的等价形式，通过解决等价问题加速优化过程

沈向洋 理解自然语言 概述，对话和理解

• 自然语言：机器学习（表述）->机器智能（对话）->机器意识（意境）

• 图像表述：微软有一个Image Caption的api可以用

• 检测，分割，识别只是基础任务，对图像进行理解是以后的热点

• 小冰：LSTM端到端，话题引导，有意识的脑补

李飞飞 A Quest for Visual Intelligence: Exploration Beyond Objects

• 在图像识别，分类，分割，检测之外，还有更多的东西可以做

• 图像理解，场景理解，问答，场景检索，思维导图生成

• 上一点也适用于视频

汤道生 让AI服务于人

• 腾讯的AI产品

  • 微信语音转文字

  • QQ视频挂件，QQ扫码转文字

  • 天天P图：美颜美妆

  • QQ音乐：个性化推荐

  • 企鹅FM：文字转语音

  • 全民K歌：伴奏分离

• 腾讯在方面已经有不错的工具，可以集成到我们想要做的东西中

  • 腾讯云小微三大开放平台

  • 腾讯云智慧交通

  • 腾讯觅影

• 可以做的问题：

  • 手机性能挖掘，模型压缩，内存共享

马维英 人工智能和新一代信息与内容平台

• 今日头条：智能内容分发（推荐系统）

10-26 pm 深度学习与医疗影像分论坛

医疗图像与疾病预警

• 医疗数据结构化，为每个病人提供个性化服务

• 通过对图像进行分析，加上医生判断，实现半自动阅片

• 对图像做异常检测，对异常数据进行预警

图像分割

图像分割是医疗图像中一个很重要的任务，通常分为分割，配准，可视化几个子任务

• 分割面临的困难：不同目标区域亮度一致，区分度小，不同目标区域边界模糊，图像采集存在噪声

• 两种分割任务： 区域分割（二维）、曲面分割（三维）

• 分割步骤：检测识别（定位），边界寻优

• 当前的一些分割方法：

  • 按照图像中区域之间的联系，或者图像中的能量，将图像转为图，用图割，图搜索的方法，对图像进行分割

  • 外观模型：特定的目标区域往往具有特殊的外观，包括轮廓，形状，可以用外观模型进行匹配，做粗粒度的分割，或者对细粒度处理后的图像进行校正，

  • 多模态图像处理

    • 融合结构信息和功能信息合起来进行分割

    • 对准两个模型（结构和功能）的图像，对两个模型的预测结果进行约束（比如希望两个模型的输出相近）

    • 双模型交互迭代优化

  • 曲面分割

    • 对曲面做分层

    • 建模成三维的图结构，对边权和点权做最大流最小割

  • 异常区域分割

    • 先对区域进行矫正，再用原来的方法进行分割

  • 数据后处理：欠分割，过分割的解决

    • 添加位置约束

    • 边缘匹配

    • 多边形近似

      • 对于某种目标区域，有着固定的多边形外观，可通过多边形近似的方法，标记出图像中近似的特征点

      • 实际图像和多边形往往不完全相似，可以用聚类的方法对瓶颈进行校正

      • 添加像素与边缘的平均几何距离约束，可以使得标记出的边缘更加接近真实边缘

  • 特征用深度学习的方法提取，距离度量用传统方法

基于贝叶斯的视觉信息编解码

• 任务

  • 视觉信息编码：视觉信息->人脑->神经活动（编码）（反之就是解码，解码也可能解码为语义信息）

  • 神经活动可以用仪器测得的脑电波变化表达

• 模型

  • 对图像进行卷积（这是推理网络），得到中间特征，用这种中间特征与神经活动进行关联，从而得到神经活动的编码

  • 将神经活动进行反卷积（这是生成网络），得到图像，

  • 目标信号的生成模型融入相似度分析，即，用两个信号是否属于对同一对象的概率作为学习目标，建立起一个贝叶斯线性模型

• 除了视觉数据之外，还有其他模态的数据，可以根据其他模态的数据构建多视图生成式自编码器

DL

• 小数据集下的深度学习

  • 数据增广

  • pretrain

  • 传统方法加深度学习做检测

    • faster rcnn提取特征（可能漏选，可以用传统方法预筛选更简单有效）

    • 多尺度卷积分类（LUNA2016第四名）

• 分类

  • 领域知识在特征提取中的作用

    • 领域知识进行预处理，对于不同的输入图片，提取不同的特征，对多种特征融合预测

• 分割

  • 多网络提取特征融合（ensemble）

  • 不同网络提取不同部分或者不同结构的局部的特征，将特征拼接起来

• 多模型投票

• 多模型相互学习（深度协同）

  • identification loss and classification loss

• 贝叶斯推理

• 深度学习影响分析

• 将先验知识设计到网络中

• 模拟数据去除隐私问题

• 脉冲神经网络

• 领域知识最大的作用在于不是直接端到端，而是对问题做分割，对子问题做端到端

• 移动GPU

异常检测

• 只有正常数据，如何发现异常数据

• 高斯模型，低概率区域为异常数据

• 高斯过程学习（非参数模型）

• 生成式↑

• 判别式（基于分类）↓

• 单类SVM：将原点作为第二类，让超平面离原点尽可能远

• 分类结果差越多（？？），说明越异常

• GAN做异常检测（如果还原出现异常（异常的局部会还原失败，从而自动完成标注），说明是异常图像）

10-27 am

物体识别到场景理解

• Face Recognition, Car Recognition

• 单类识别，多类识别

• 可扩展方向：性能，稳定性，可解释性，推广性，与人感知的一致性

• 视觉：什么东西在哪里

• 场景理解-知识图谱

• 属性组合挖掘

10-27 pm

语音前沿技术

• 港中文

  • Man-Computer Symbiosis:人机共生

  • Microsoft speech-recognition

  • 人机共生三种场景

    • AI competencies

      • Challenge: 语音加情感识别，场景丰富，non-native, dysarthric, personal speaker

    • 人机协作解决困难问题

      • RFID加在电车上，可视化，动态规划车次

    • 人机合作发明新的知识

      • AI进行search,retrieve，cluster,categorize,compare....

  • Challenge: 语音加情感识别，场景丰富，non-native dysarthric speaker

• 李锦辉 ECE

  • 语音识别（ASR），实际错词率比声称的高

  • 语音总是备选项，需要solution，speech app（在用户hands,eye-busy scenarios里）

  • more than WERs

  • 频谱转换（paradigm shift，旧方法应用在新的场景）

  • 降噪，增强，杂音分离，消除回响

  • 信号处理->识别

  • DNN黑箱

    • 属性分析，专业知识，不能盲目分析，不能说只有标签就行，knowledge-driven

    • 例如发音中识别摩擦音，爆破音

    • 将传统模型中里程碑式的东西拿过来用

  • 自动化语音属性抓取

• 搜狗 陈伟

  • 自然交互

  • 知识计算

  • 语音←(asr tts)→语言←(ocr 图像生成)→图像

  • 语音听写（字幕，演讲，采访），语音翻译，语音同传

  • 可穿戴设备，车载，智能家居

  • SeqSequence CNN LSTM

  • 运算平台：单卡3TFlops->1PFlops

  • 基于容器对GPU运算做调度

  • GPU -> FPGA -> RDMA

  • 移动端：模型压缩，轻量化

人工智能与机器学习前沿技术论坛

• 朱军：半监督深度学习模型

  • 贝叶斯深度学习

  • 基于贝叶斯推断的深度生成模型

  • 对GAN加中间约束的生成模型

  • ZhuSuan（珠算）：概率编程模型，开源可用

• 演化算法

  • 适用于：解空间不规则，需求不好精确建模的情况

• 视频检索的哈希学习

  • 图像检索

    • 通常的特征太大，检索太慢

    • 用二进制编码的一个哈希值来表达特征

    • 设计一个损失，约束正负样本的相似度误差，用变量绝对值与1的差的一范数等价为二进制约束

  • 视频检索

    • 对两段视频分别切割为帧图片做图像检索的哈希学习

10-28 am

• 下一个互联网引爆点

• 十年后的智能机器人

10-28 pm 多媒体计算

多媒体计算

• AI2.0

  • 大数据智能

  • 群体智能

  • 跨媒体智能

  • 混合增强智能

  • 自主无人系统

• 应用：制造，农业，医疗

朱文武 TMM趋势

• TMM介绍

  • IEEE of Transactions on Multimedia

  • 多媒体计算

  • 多媒体社交

  • 多媒体信号处理

  • 多媒体应用和系统

• 趋势：

  • 2.5->3.5,CCF A, 长文

  • 一年900篇提交，接受30%-35%

  • 中了之后半年内出

  • 超过60%是机器学习+图像视频分析，多模态，跨媒体

• 跨媒体智能

  • 文本图像语音视频及其交互属性混合

  • 多源融合+知识演化+系统演化

  • 解决语义鸿沟（机器认识世界是什么）意图鸿沟（机器理解人要达到什么目标）

  • 机器学习助力多媒体目前效果好，多媒体知识助力AI不成熟

  • 跨媒体深度分析和综合推理

    • 浅层到深度

    • 知识图谱指导多媒体分析，属性补全，知识表达理解是以后的趋势，多媒体理解，视频QA之类

    • 难点：跨媒体知识学习推理，多媒体情感分析

    • 知识离散，特征连续，如何转化

    • 知识和数据如何融合

    • 媒体到机器学习近期套路：

      • 深度学习+反馈（知识、规则进行反馈/强化学习）（黑箱）

      • 统计推理，贝叶斯推理（白盒）

    • 数据驱动 && 知识驱动

  • Cross-media analysis and reasoning: advances and directions

图像与视频生成的规则约束学习(GAN)

• 已有工作

  • 人脸姿态转换，年龄转换，表情转换

  • 超分辨率，画风转换，字体转换，图片转视频

  • 应用：

    • 动画自动制作（补间），手语生成

    • 视频自动编辑（天气变化）

• WGAN，PPGAN

• 无监督新框架

• 创意：随机性

• 难点

  • 解空间巨大：需要找出解所在的低维子空间

  • 宏观结构的一致性（视频生成需要的像素感受野（pooling）很大，难以预测长期运动变化）

  • 微观结构的清晰度，要同时逼近多模分布，避免单模生成的结果不够精确

• 用领域中的规则去约束GAN，加入破坏规则的代价

• 缩小预测空间，保证宏观结构，加快细节生成

• 工作介绍：

  • 景深风景生成

    • 难点：要求空间结构合理，不能有严重的模糊

    • 约束：从现有风景图像中对景深关系建模（对区域进行标注， 不同区域有不同的远近限制）

    • 建立位置和对象的关系，得到某个位置有某个对象的概率分布

    • Hawkes过程模型

    • 根据对象对图层做分解，由概率约束建立图层约束

    • 层内DCGAN，层间LSTM聚合出整图

  • 骨架约束的人体视频生成

    • 骨架运动有约束

    • 骨架提取很鲁棒，可以得到很多有标签知识（传统方法用来提取知识）

    • 静图+动作序列变动图

    • CNN编码解码，孪生网络双输入进行生成

    • 判别器：对生成和实际帧做Triplet loss优化

    • gan loss和视频相似度loss相加

    • 交互运动视频生成

• 创意+规则约束+复杂场景+复杂交互

基于锚图的视觉数据分析

• 图学习

  • 相似度矩阵 -> 图的邻接矩阵 -> 用图的方法对邻接矩阵进行优化

  • 标号建模 标号平滑 标号学习

• 锚图学习（速度+）

  • coarse to fine

  • 利用数据点图，生成锚点图，先采一部分有代表性的数据（例如聚类中心）生成一个图模型，然后推理出其他图

  • 图模型：表示矩阵，邻接矩阵，如何建立，加快相似度计算

• 高效锚图（性能速度+）

  • 数学上优化约束条件

• 层次化锚图（速度++）

  • 锚点是线性增加的，也会增加得很快

  • 对第一层采样的点做再采样，多层采样减少了锚点数目，从最少的锚点的层逐层推理

• 标号预测器（速度+++）

  • 优化对锚点的标号

  • 对最小的锚点层接一个优化器进行标号预测

• 主动学习（样本选择）

  • 减小标号的误差损失

• Google Expander Graph Learning平台：经典方法，并行运算

彭宇新 跨媒体智能

• 形式上多源异构，语义上相互关联

• 聚焦于跨媒体统一空间学习，获得多个媒体间共享的潜在子空间

• 跨媒体实体关系，跨媒体知识图谱，跨媒体知识演化和推理

  • 讲了好多篇论文的Motivation和Solution，我会具体整理另一篇文章

• 跨媒体智能描述与生成

• 用于信息检索

• 应用：内容自动监管，舆情分析，智能医疗

层次记忆网络：视频问答 跨媒体推理

• 视频转语言

  • 视频帧 + 时序依赖 -> 动态动作信息

  • 选择ROI帧，时序结构编码（Dual Memory Recurrent Model--LSTM扩充来的），生成句子

• 层次记忆网络

  • Image QA: 检查是否真的理解了图片

• 视频时序推理