CNCC2017 琐记

大会日程表:http://cncc.ccf.org.cn/cn/news/schedule_empty

早上的论坛可以在爱奇艺下载视频

下午的分论坛是多个同时进行的,我也只去了一部分,这里先按时间顺序写自己的一些收获,之后会从另外的角度做一个总结。

如果觉得我的整理对你有帮助,欢迎star这个项目

10-26 am

丘成桐 现代几何在计算机科学中的应用

  • 从几何学的角度找到优化问题(如GAN)的等价形式,通过解决等价问题加速优化过程

沈向洋 理解自然语言 概述,对话和理解

  • 自然语言:机器学习(表述)->机器智能(对话)->机器意识(意境)

  • 图像表述:微软有一个Image Caption的api可以用

  • 检测,分割,识别只是基础任务,对图像进行理解是以后的热点

  • 小冰:LSTM端到端,话题引导,有意识的脑补

李飞飞 A Quest for Visual Intelligence: Exploration Beyond Objects

  • 在图像识别,分类,分割,检测之外,还有更多的东西可以做

  • 图像理解,场景理解,问答,场景检索,思维导图生成

  • 上一点也适用于视频

汤道生 让AI服务于人

  • 腾讯的AI产品

    • 微信语音转文字

    • QQ视频挂件,QQ扫码转文字

    • 天天P图:美颜美妆

    • QQ音乐:个性化推荐

    • 企鹅FM:文字转语音

    • 全民K歌:伴奏分离

  • 腾讯在方面已经有不错的工具,可以集成到我们想要做的东西中

    • 腾讯云小微三大开放平台

    • 腾讯云智慧交通

    • 腾讯觅影

  • 可以做的问题:

    • 手机性能挖掘,模型压缩,内存共享

马维英 人工智能和新一代信息与内容平台

  • 今日头条:智能内容分发(推荐系统)

10-26 pm 深度学习与医疗影像分论坛

医疗图像与疾病预警

  • 医疗数据结构化,为每个病人提供个性化服务

  • 通过对图像进行分析,加上医生判断,实现半自动阅片

  • 对图像做异常检测,对异常数据进行预警

图像分割

图像分割是医疗图像中一个很重要的任务,通常分为分割,配准,可视化几个子任务

  • 分割面临的困难:不同目标区域亮度一致,区分度小,不同目标区域边界模糊,图像采集存在噪声

  • 两种分割任务: 区域分割(二维)、曲面分割(三维)

  • 分割步骤:检测识别(定位),边界寻优

  • 当前的一些分割方法:

    • 按照图像中区域之间的联系,或者图像中的能量,将图像转为图,用图割,图搜索的方法,对图像进行分割

    • 外观模型:特定的目标区域往往具有特殊的外观,包括轮廓,形状,可以用外观模型进行匹配,做粗粒度的分割,或者对细粒度处理后的图像进行校正,

    • 多模态图像处理

      • 融合结构信息和功能信息合起来进行分割

      • 对准两个模型(结构和功能)的图像,对两个模型的预测结果进行约束(比如希望两个模型的输出相近)

      • 双模型交互迭代优化

    • 曲面分割

      • 对曲面做分层

      • 建模成三维的图结构,对边权和点权做最大流最小割

    • 异常区域分割

      • 先对区域进行矫正,再用原来的方法进行分割

    • 数据后处理:欠分割,过分割的解决

      • 添加位置约束

      • 边缘匹配

      • 多边形近似

        • 对于某种目标区域,有着固定的多边形外观,可通过多边形近似的方法,标记出图像中近似的特征点

        • 实际图像和多边形往往不完全相似,可以用聚类的方法对瓶颈进行校正

        • 添加像素与边缘的平均几何距离约束,可以使得标记出的边缘更加接近真实边缘

    • 特征用深度学习的方法提取,距离度量用传统方法

基于贝叶斯的视觉信息编解码

  • 任务

    • 视觉信息编码:视觉信息->人脑->神经活动(编码)(反之就是解码,解码也可能解码为语义信息)

    • 神经活动可以用仪器测得的脑电波变化表达

  • 模型

    • 对图像进行卷积(这是推理网络),得到中间特征,用这种中间特征与神经活动进行关联,从而得到神经活动的编码

    • 将神经活动进行反卷积(这是生成网络),得到图像,

    • 目标信号的生成模型融入相似度分析,即,用两个信号是否属于对同一对象的概率作为学习目标,建立起一个贝叶斯线性模型

  • 除了视觉数据之外,还有其他模态的数据,可以根据其他模态的数据构建多视图生成式自编码器

DL

  • 小数据集下的深度学习

    • 数据增广

    • pretrain

    • 传统方法加深度学习做检测

      • faster rcnn提取特征(可能漏选,可以用传统方法预筛选更简单有效)

      • 多尺度卷积分类(LUNA2016第四名)

  • 分类

    • 领域知识在特征提取中的作用

      • 领域知识进行预处理,对于不同的输入图片,提取不同的特征,对多种特征融合预测

  • 分割

    • 多网络提取特征融合(ensemble)

    • 不同网络提取不同部分或者不同结构的局部的特征,将特征拼接起来

  • 多模型投票

  • 多模型相互学习(深度协同)

    • identification loss and classification loss

  • 贝叶斯推理

  • 深度学习影响分析

  • 将先验知识设计到网络中

  • 模拟数据去除隐私问题

  • 脉冲神经网络

  • 领域知识最大的作用在于不是直接端到端,而是对问题做分割,对子问题做端到端

  • 移动GPU

异常检测

  • 只有正常数据,如何发现异常数据

  • 高斯模型,低概率区域为异常数据

  • 高斯过程学习(非参数模型)

  • 生成式↑

  • 判别式(基于分类)↓

  • 单类SVM:将原点作为第二类,让超平面离原点尽可能远

  • 分类结果差越多(??),说明越异常

  • GAN做异常检测(如果还原出现异常(异常的局部会还原失败,从而自动完成标注),说明是异常图像)

10-27 am

物体识别到场景理解

  • Face Recognition, Car Recognition

  • 单类识别,多类识别

  • 可扩展方向:性能,稳定性,可解释性,推广性,与人感知的一致性

  • 视觉:什么东西在哪里

  • 场景理解-知识图谱

  • 属性组合挖掘

10-27 pm

语音前沿技术

  • 港中文

    • Man-Computer Symbiosis:人机共生

    • Microsoft speech-recognition

    • 人机共生三种场景

      • AI competencies

        • Challenge: 语音加情感识别,场景丰富,non-native, dysarthric, personal speaker

      • 人机协作解决困难问题

        • RFID加在电车上,可视化,动态规划车次

      • 人机合作发明新的知识

        • AI进行search,retrieve,cluster,categorize,compare....

    • Challenge: 语音加情感识别,场景丰富,non-native dysarthric speaker

  • 李锦辉 ECE

    • 语音识别(ASR),实际错词率比声称的高

    • 语音总是备选项,需要solution,speech app(在用户hands,eye-busy scenarios里)

    • more than WERs

    • 频谱转换(paradigm shift,旧方法应用在新的场景)

    • 降噪,增强,杂音分离,消除回响

    • 信号处理->识别

    • DNN黑箱

      • 属性分析,专业知识,不能盲目分析,不能说只有标签就行,knowledge-driven

      • 例如发音中识别摩擦音,爆破音

      • 将传统模型中里程碑式的东西拿过来用

    • 自动化语音属性抓取

  • 搜狗 陈伟

    • 自然交互

    • 知识计算

    • 语音←(asr tts)→语言←(ocr 图像生成)→图像

    • 语音听写(字幕,演讲,采访),语音翻译,语音同传

    • 可穿戴设备,车载,智能家居

    • SeqSequence CNN LSTM

    • 运算平台:单卡3TFlops->1PFlops

    • 基于容器对GPU运算做调度

    • GPU -> FPGA -> RDMA

    • 移动端:模型压缩,轻量化

人工智能与机器学习前沿技术论坛

  • 朱军:半监督深度学习模型

    • 贝叶斯深度学习

    • 基于贝叶斯推断的深度生成模型

    • 对GAN加中间约束的生成模型

    • ZhuSuan(珠算):概率编程模型,开源可用

  • 演化算法

    • 适用于:解空间不规则,需求不好精确建模的情况

  • 视频检索的哈希学习

    • 图像检索

      • 通常的特征太大,检索太慢

      • 用二进制编码的一个哈希值来表达特征

      • 设计一个损失,约束正负样本的相似度误差,用变量绝对值与1的差的一范数等价为二进制约束

    • 视频检索

      • 对两段视频分别切割为帧图片做图像检索的哈希学习

10-28 am

  • 下一个互联网引爆点

  • 十年后的智能机器人

10-28 pm 多媒体计算

多媒体计算

  • AI2.0

    • 大数据智能

    • 群体智能

    • 跨媒体智能

    • 混合增强智能

    • 自主无人系统

  • 应用:制造,农业,医疗

朱文武 TMM趋势

  • TMM介绍

    • IEEE of Transactions on Multimedia

    • 多媒体计算

    • 多媒体社交

    • 多媒体信号处理

    • 多媒体应用和系统

  • 趋势:

    • 2.5->3.5,CCF A, 长文

    • 一年900篇提交,接受30%-35%

    • 中了之后半年内出

    • 超过60%是机器学习+图像视频分析,多模态,跨媒体

  • 跨媒体智能

    • 文本图像语音视频及其交互属性混合

    • 多源融合+知识演化+系统演化

    • 解决语义鸿沟(机器认识世界是什么)意图鸿沟(机器理解人要达到什么目标)

    • 机器学习助力多媒体目前效果好,多媒体知识助力AI不成熟

    • 跨媒体深度分析和综合推理

      • 浅层到深度

      • 知识图谱指导多媒体分析,属性补全,知识表达理解是以后的趋势,多媒体理解,视频QA之类

      • 难点:跨媒体知识学习推理,多媒体情感分析

      • 知识离散,特征连续,如何转化

      • 知识和数据如何融合

      • 媒体到机器学习近期套路:

        • 深度学习+反馈(知识、规则进行反馈/强化学习)(黑箱)

        • 统计推理,贝叶斯推理(白盒)

      • 数据驱动 && 知识驱动

    • Cross-media analysis and reasoning: advances and directions

图像与视频生成的规则约束学习(GAN)

  • 已有工作

    • 人脸姿态转换,年龄转换,表情转换

    • 超分辨率,画风转换,字体转换,图片转视频

    • 应用:

      • 动画自动制作(补间),手语生成

      • 视频自动编辑(天气变化)

  • WGAN,PPGAN

  • 无监督新框架

  • 创意:随机性

  • 难点

    • 解空间巨大:需要找出解所在的低维子空间

    • 宏观结构的一致性(视频生成需要的像素感受野(pooling)很大,难以预测长期运动变化)

    • 微观结构的清晰度,要同时逼近多模分布,避免单模生成的结果不够精确

  • 用领域中的规则去约束GAN,加入破坏规则的代价

  • 缩小预测空间,保证宏观结构,加快细节生成

  • 工作介绍:

    • 景深风景生成

      • 难点:要求空间结构合理,不能有严重的模糊

      • 约束:从现有风景图像中对景深关系建模(对区域进行标注, 不同区域有不同的远近限制)

      • 建立位置和对象的关系,得到某个位置有某个对象的概率分布

      • Hawkes过程模型

      • 根据对象对图层做分解,由概率约束建立图层约束

      • 层内DCGAN,层间LSTM聚合出整图

    • 骨架约束的人体视频生成

      • 骨架运动有约束

      • 骨架提取很鲁棒,可以得到很多有标签知识(传统方法用来提取知识)

      • 静图+动作序列变动图

      • CNN编码解码,孪生网络双输入进行生成

      • 判别器:对生成和实际帧做Triplet loss优化

      • gan loss和视频相似度loss相加

      • 交互运动视频生成

  • 创意+规则约束+复杂场景+复杂交互

基于锚图的视觉数据分析

  • 图学习

    • 相似度矩阵 -> 图的邻接矩阵 -> 用图的方法对邻接矩阵进行优化

    • 标号建模 标号平滑 标号学习

  • 锚图学习(速度+)

    • coarse to fine

    • 利用数据点图,生成锚点图,先采一部分有代表性的数据(例如聚类中心)生成一个图模型,然后推理出其他图

    • 图模型:表示矩阵,邻接矩阵,如何建立,加快相似度计算

  • 高效锚图(性能速度+)

    • 数学上优化约束条件

  • 层次化锚图(速度++)

    • 锚点是线性增加的,也会增加得很快

    • 对第一层采样的点做再采样,多层采样减少了锚点数目,从最少的锚点的层逐层推理

  • 标号预测器(速度+++)

    • 优化对锚点的标号

    • 对最小的锚点层接一个优化器进行标号预测

  • 主动学习(样本选择)

    • 减小标号的误差损失

  • Google Expander Graph Learning平台:经典方法,并行运算

彭宇新 跨媒体智能

  • 形式上多源异构,语义上相互关联

  • 聚焦于跨媒体统一空间学习,获得多个媒体间共享的潜在子空间

  • 跨媒体实体关系,跨媒体知识图谱,跨媒体知识演化和推理

    • 讲了好多篇论文的Motivation和Solution,我会具体整理另一篇文章

  • 跨媒体智能描述与生成

  • 用于信息检索

  • 应用:内容自动监管,舆情分析,智能医疗

层次记忆网络:视频问答 跨媒体推理

  • 视频转语言

    • 视频帧 + 时序依赖 -> 动态动作信息

    • 选择ROI帧,时序结构编码(Dual Memory Recurrent Model--LSTM扩充来的),生成句子

  • 层次记忆网络

    • Image QA: 检查是否真的理解了图片

  • 视频时序推理