【AICC】2019训练营笔记

1、AI

人工的方法在机器上实现智能：机器学习、计算机视觉、规划决策、自然语言处理、认知推理、高效搜索

2、三大学派

符号主义

连接主义：CNN

行为主义

3、两条路线

结构模仿

功能模仿

4、AI芯片

人脑结构

人脑功能

5、关系

人工智能 > 机器学习 > 多层感知机 > 深度学习

6、学习种类

规则学习

样本学习

自主学习

7、样本学习

分类问题：线性、非线性

回归问题：拟合样本曲线

空域延伸

时域延伸

8、样本学习问题

数据质量：稀疏性、小样本、偏见性、不均衡性

训练效率：收敛性、样本选择、并行化

模型规模：模型量化、模型裁剪、模型迁移

9、规则学习

从遵循规则到学习规则

专家系统---专业知识工程师

条件语言、逻辑语言

规则表==》数据挖掘

确定性逻辑=》模糊逻辑

10、规则学习问题

敏感性：鲁棒性、可重复性、可复现性

仿真成本高：延迟奖励、仿真误差、学习效率低

行为偏见：奖励偏见、局部极值、合谋欺诈

11、自主学习AutoML

12、流程：原始数据==》数据处理==》特征工程==》模型设计==》模型验证

13、自主学习：稀疏网络、多任务支持、技术复用、动态构建

------目标均衡、。。。、灾难性遗忘

14、智能系统：自组织、自学习、自适应

15、深度学习：张量、张量操作、计算图、自动微分工具、计算扩展包

16、PaddlePaddle

PaddleDection：Mask R-CNN 、YOLO V3、FPN、Casade RCNN、TridentNet

PaddleSeg：V-Net、Deep LabV3、ICNet（实时语义分割）

移动端：MobileNet

服务端：XCeption

17、流程：需求分析、技术选型、模型训练、模型调优、硬件部署、生产实测

18、PaddleSeg：车道线分割、地块分割

19、PaddleVideo

End-to-End

Two-State

视频定位：BMN、BSN

视觉检测：理解、编辑、生成

20、PaddleNLP

WordEmbedding

ELMO

GPT

BERT：基于基本语言单元语义建模

ERNIE：基于知识增强语义建模

文本相似度、问答匹配、情感分析、自然语言推断

词法、结构、语义

知识预测、句子排序、句子逻辑关系预测（因为所以、如果就、并且、尽管但是）

搜索CTR预估、搜索智能问答

ERNIE发展

任务：生成任务、篇章、匹配

行业：法律、医疗、金融

21、联邦学习

蜂巢联邦学习平台

谷歌输入法GBoard

TensorFlow Federated Pysyft

联邦学习、安全多方计算、差分隐私

FATE

搜索广告---逻辑回归

同态加密：加法同态、乘法同态

法国Snips

OWKIN

风险分析、营销分析

寿险推荐系统、客户贷款逾期率预测系统

XGBoost

LR