人工智能是重塑生产生活、引领时代变革的重要力量，但发展中面临数据、算法、应用三重挑战，对社会产生深远影响。本笔记是导论课程的收尾篇：挑战 → 社会影响 → 未来趋势。

三大挑战

① 数据层面

挑战	说明	应对
数据获取	单点场景可用公开数据，解决具体业务需业务场景数据；业务信息化不足致历史数据缺乏	少样本学习、结合业务经验制定采集规则
数据合规	隐私政策趋严、数据归属权限制流动；涉及来源合法性、训练合规、二次训练隐私	联邦学习：不交换底层数据加密训练，保护隐私
数据治理	多源异构、时序、非结构化数据增加存储治理难度	数据湖模式：兼顾结构化/非结构化、低成本存储
数据标注	垂直细分场景需专业标注（医疗需医学人员），3D/文本标注复杂，成本高	半监督/无监督迁移算法、第三方标注平台、自动化辅助工具

② 算法与模型层面

• 算法偏见：训练数据偏差让模型放大偏见（招聘歧视、ChatGPT 西方文化烙印），形成"偏见的禀赋效应"和信息茧房
• 模型可解释性：深度学习是"黑盒子"，金融/医疗/工业需可解释以满足监管合规。"可解释 AI"（XAI）向使用者和监管机构阐释决策逻辑；可用深度学习 + 经典统计规则结合解决

③ 应用场景层面

产业链分基础层（数据）、技术层（核心）、应用层（商业化）。当前处于商业落地早期，"应用场景落地难"：需求多样化碎片化 → 定制化开发周期长、适用场景有限；成本高（人力/算力/数据）。

社会影响

教育与就业：

• 替代重复性高、技能要求低的工作（生产线操作、数据录入），同时创造新岗位（AI 算法工程师）
• 未来人机关系更多是协作；非程序化认知类工作难被替代，对人的创新、思考和想象力要求更高
• 需警惕失业率上升、贫富差距、社会稳定问题，探索匹配的教育与就业机制

隐私与安全：

• 数据安全风险：消费者隐私侵害、网络诈骗、黑产灰产
• 隐私界定难题：智慧医疗病例归属权、AI 生成作品著作权争议、监管对象难确定
• 潜在犯罪风险：冒充熟人诈骗、无人机/无人车被非法侵入控制

未来趋势

宏观方向

趋势	内容
通用智能发展	从专用智能向通用智能（AGI）发展，可解决复杂科学难题；但人类如何监督超人类智能值得思考
人机混合智能	借鉴脑科学认知科学，把人的作用/认知模型引入 AI 系统，人机协同解决复杂问题
自主智能系统	减少人工干预，提高机器自主学习能力（AlphaZero 自我对弈实现通用棋类 AI）
交叉渗透加速	"AI+X"推动进入普惠型智能社会
算力创新	算力稀缺昂贵制约发展；量子计算、光电计算有望成颠覆性力量

基础设施升级

• 5G 通信：支撑海量设备实时在线，超高清视频、工业实时监控预警、VR/AR 远程专家诊断
• AI 芯片：专用芯片需求强烈（巨头 + 创业公司布局）
• 边缘计算：边缘端智能终端爆发，AI 广泛落地边缘侧（边缘智能崛起）

人机协同演进

按 AI 解决问题能力分三阶段：感知智能 → 认知智能 → 行动智能。人机协同是重要方向（冗余/互补/混合三种交互方式），已在智慧餐厅（机器人与服务员配合）、智慧公安（刑侦专家 + 机器搜索）落地。

应用场景延伸

• 产业智能互连：AI 应用从企业内部延伸到产业智能化，各环节智能协同
• 智能互联网时代：通用 AI 平台融合千行百业（滴滴出行需求匹配、双十一海量交易履约）

一句话总结

数据是 AI 的"原料"，算法是"引擎"，落地是"试金石"。AI 的未来不是取代人，而是人机协同——从感知到认知再到行动，在算力与伦理的双重约束下走向通用智能。