1.1人工智能的新时代

时代	主要驱动力 / 特点	阶段顺序
农耕时代	以农业生产为主	1
互联网时代	信息与网络技术广泛应用	2
大数据时代	数据量爆炸式增长与数据分析	3
人工智能的新时代	智能化（由互联网和大数据引发）	4

人工智能的时代——无处不在的AI

一、 AI应用场景概述（无处不在的AI）

如今人工智能已经无处不在，深度参与的应用场景包括：

• 智能物流
• 个性化推荐
• 仓储机器人
• 智能图像理解
• 智能美图
• 对话式人工智能聊天秘书
• 智能对话助理
• 自动驾驶
• 机器翻译

二、 AI在垂直行业的应用

行业/领域	主要应用点
识别	语音、人脸、视频内容识别；应用于：安防、客服等。
BI (商业智能)	商业流程自动化。
互联网数据	购买转化、商品推荐、定价、精准营销、社交媒体营销。
券商股票	智能+量化交易、智能投顾、机器人理财。
银行、保险应用	针对性电话营销、贷款审批、信用卡欺诈。
医学	自动读片、辅助诊断、个性化诊断、基因排序。
教育	学习外语、智能选题。

人工智能无处不在的时代：大语言模型来了

![[Pasted image 20251019204855.png]]

人工智能无处不在的时代：盘古大模型

一、 盘古大模型概述

• 定义： 盘古大模型是华为云团队在 2021 年发布的一系列规模化的预训练大模型。

• 目标： 旨在为行业提供高性能、可落地的 AI 能力。

二、 主要特点

1. 中文优先，国产化优先：

   • 专注于中文语料的预训练，针对中文理解与生成进行了深度优化。

2. 多模型协同发展：

   • 涵盖 CV 模型、NLP 模型、多模态模型和代码生成模型。

3. 行业落地能力强：

   • 应用于政务、金融、电力、医疗等领域，提供“千模千面”的定制化服务。

三、 应用场景

• 智能客服 / 智能问答

• 金融文档自动生成与审核

• 医疗报告辅助撰写

• 电网调度智能预测与智能代码补全（与华为云 DevCloud 集成）等。

四、 版本更新与生态

• 当前版本： 盘古大模型已更新至 3.0。

• 能力提升： 支持跨模态推理与生成。

• 生态定位： 与昇腾生态深度绑定，实现软硬一体国产替代。

各类国产大模型：竞相发布 支持并进

文心一言	通义千问	360智脑	混元	盘古
日日新	孟子	悟道 2.0	星火认知	天工 3.5
ChatGLM-6B	MOSS	紫东太初	CPM-Bee	曹植

1.2 人工智能的起源定义

1.2.1 人工智能的起源：图灵机与ENIAC

一、 图灵机（Turing Machine）

• 提出者与时间： 英国数学家艾伦·图灵 于 1936 年提出。

• 本质： 一种抽象计算模型，用于形式化地描述算法和计算的本质。

• 组成部分： 一条无限延伸的纸带、一个读写头以及一个有限状态控制器。

• 工作原理： 读写头在纸带上左右移动，并进行读写操作。状态控制器根据当前状态和读取到的符号决定接下来的操作。

• 历史意义： 奠定了现代计算理论的基础，提出了 图灵可计算性 的概念，用于判断问题是否可以通过算法解决。它是 现代计算机的逻辑原型之一。

二、 ENIAC

• 全称： Electronic Numerical Integrator and Computer (电子数字积分计算机)。

• 地位： 世界上第一台通用电子数字计算机。

• 完成时间与国家： 由美国工程师莫克利和埃克特于 1945 年完成。

• 特点： 使用约 18000 个真空管进行计算，占地巨大，耗电量高，但其运算速度远超当时的机械计算设备。

• 最初用途与应用： 最初用于军事用途（如弹道轨迹计算），后应用于天气预测和原子能研究等领域。

• 历史意义： ENIAC 的出现标志着电子计算时代的来临，为后续电子计算机的发展奠定了基础，具有划时代的意义。

1.2.1 人工智能的起源：达特茅斯会议

方面	详情
地位	人工智能历史上第一次具有里程碑意义的学术会议。
时间与地点	1956 年夏天，在美国新罕布什尔州达特茅斯学院举行。
发起人	约翰·麦卡锡 (John McCarthy)、马文·闵斯基 (Marvin Minsky)、克劳德·香农 (Claude Shannon) 和纳撒尼尔·罗切斯特 (Nathaniel Rochester) 等。
核心成果	约翰·麦卡锡在会议提案中首次正式提出了“人工智能” (Artificial Intelligence) 这一术语。
目标设想	设想可以用机器模拟人类的学习、推理和解决问题的能力。
历史意义	标志着人工智能作为一个独立研究领域的正式诞生，奠定了此后几十年 AI 发展的基础。
会议规模	规模不大，成果有限，但其历史意义重大。

1.2.2 人工智能的定义

一、 智能与人工智能的定义

1. 人的智能（智能的起源）

• 正名篇 (荀子，战国时期赵国):

  • “所以知之在人者谓之知，知有所合谓之智。所以能之在人者谓之能，能有所合谓之能。”

  • 简而言之： 人通过“知”（知识、理解）获得“智”（智慧），通过“能”（能力）实现“能”（行动）。

• 多元智能理论 (1983, 霍华德·加德纳):

  • 包括：语言智能、音乐智能、逻辑智能、空间智能、运动智能、人机智能、认知智能。

2. 人工智能 (Artificial Intelligence) 的定义

• 核心定义： 人工智能是以机器为载体，用人工智能方法和技术模拟实现的人的智能。

• 构成路径： 人的智能 $\stackrel{\text{人工智能方法和技术模拟}}{\to }$ 机器 $\to$ 人工智能。

一、 人的智能定义（基于《荀子·正名篇》）

人的智能被分解为两个主要部分：智慧和才能。

1. 智慧 (知 + 智)

概念	《荀子·正名篇》原文	现代解读
知 (认知能力)	“所以知之在人者谓之知。”	人（主体）所固有的认识外界事物（客体对象）的能力。
智 (智慧)	“知有所合谓之智。”	主体认知能力与客体事物相接触联通所产生的认知，即“智慧”。

• 特点： “智”在内，往往在脑子（心里）里，常说“心智”，跟人的心脑直接相关。

2. 才能 (能 + 才)

概念	《荀子·正名篇》原文	现代解读
能 (固有能力)	“所以能之在人者谓之能。”	人（主体）固有的能力。
才 (才能)	“能有所合谓之能。”	主体的能力与客体对象接触联通后所形成的能力，即“才能”。

• 特点： “能”在外，“能力”一般是通过其各种形式表现出来的，跟身体架构整体相关。

二、 人体智能分析结构图

智能关联部分	对应身体部位 / 结构	对应功能 / 行动
心、脑	头（脑）	认知、学习（对应智慧）
身体各部分	五官 (脸、口、耳、鼻、眼)	嗅觉、视觉、听觉、味觉、触觉
	四肢 (手、臂、骨、腿、脚)	撑、行、走、跑、跳（对应才能/能力）
	内脏系统 (心、肺、脾、肠、胃、肾)	呼吸、消化系统、血液系统

多元智能理论总结

方面	详情
提出者	霍华德·加德纳 (Howard Gardner) 教授（哈佛大学发展心理学家）
时间	1983 年
核心内容	将人类的智能分为多种相对独立的类型，而不仅仅是传统的 IQ 测试所衡量的逻辑和语言能力。
智能类型与描述	详见下表

---

多元智能类型及其描述与对应技术

智能类型	智能说明（定义）	代表性的人工智能技术
语言智能	指听、说、读、写的能力，能有效运用口头语言或文字表达自己的思想并理解他人。掌握语言、语义、语法并具备用语言思维、用言语表达和欣赏言语深层内涵的能力。	自然语言处理、自然语言理解、智能语音等
音乐智能	指能够感受、辨别、记忆、改变和表达音乐、感知音调、旋律、节奏、音色等的能力。	智能音乐、音乐感知、音乐理解、语音识别、语音感知等
逻辑智能	指能够运算和推理的能力，表现为对事物间各种关系、如类比、对比、因果和逻辑关系的敏感以及通过数理运算和逻辑推理等进行思维活动的能力。	逻辑运算、逻辑推理等
空间智能	指准确感知和视觉空间及周围一切事物，并且能把所感觉到的形象以图像、图形的形式表现出来的能力。	机器视觉、图像识别、图像生成等
运动智能	指善于运用整个身体来表达思想和情感、灵巧地运用双手制作或操作物体的能力。	动作识别、姿态平衡等
人机智能	指人机交互、机器与人相处和交往的能力。能理解别人、欣赏他人，能体验、模仿和意图并做出适当反应的能力。	机器问答、情绪识别、情感识别、人机交互、机器人
认知智能	包括自我认知和自然认知。自我认知指认识、洞察和反省自身的能力。自然认知指认识自然环境，还包括人造环境中物的分类等。	自然认知，包括图像视频的自动识别、目标检测、知识图谱、分类等

2.1、什么是人工智能

人工智能定义总结

方面	内容详情
简言之	是人造智能，是人工创造的智能，是人造的智慧和才能。
分析（关键点）	人工智能不是在人的身上创造智能，而是用机器实现智能。机器不会自己实现智能，只能是人工方法和技术在机器上模拟智能。
人工智能定义(1)	以机器为载体，用人工方法和技术模拟实现的人的智能。
核心流程	机器 $\stackrel{\text{人工方法和技术模拟}}{\to }$ 人的智能 $\to$ 人工智能

早期学者们眼中的人工智能

1. 定义 (1) 约翰·麦卡锡 (早期比较流行的)：

   “人工智能就是要让机器的行为看起来就像是人所表现出的智能行为一样”。

2. 定义 (2) 马文·明斯基：

   “人工智能是一门科学，是使机器做那些人需要通过智能来做的事情”。

3. 定义 (3) 斯坦福大学尼尔逊：

   “人工智能是关于知识的学科，怎样表示知识以及怎样获得知识并使用知识的科学”。

4. 定义 (4) 美国 MIT 的温斯顿教授：

   “人工智能就是研究如何使计算机去做过去只有人才能做的智能工作”。

核心主题： 这些定义都围绕着让机器展现出类似人类的智能行为、能力或工作这一目标。

其他的人工智能定义

一、 人工智能 (AI) 的定义

1. 定义（详细）：

   • 是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。

   • 是企图了解智能的本质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。

   • 研究包括机器人、语音识别、图像识别、自然语言处理和专家系统等。

2. 定义（抽象）：

   • 人工智能是对人的意识、思维的信息过程的模拟，不是人的智能，但能像人那样思考，也可能超过人的智能。

3. 定义（功能性）：

   • 人工智能是能够和人一样进行感知、认知、决策、执行的工程或系统。

4. 定义（载体）：

   • 人工智能是以机器为载体模拟实现的人类的智能。

二、 人工智能的应用与目标

AI 的目标是让机器能够做到以下几点：

• 让机器和人一样思考

  • 机器学习

  • 自动推理

  • 人工智能意识

  • 知识表示

• 让机器和人一样听懂

  • 语音识别

• 让机器和人一样看懂

  • 视觉识别

• 让机器和人一样运动

  • 运动识别

三、 概念层次关系

图示了一个包含关系，显示了人工智能、机器学习和深度学习之间的联系：

• Artificial Intelligence (人工智能)

• Machine Learning (机器学习)：是人工智能的基础技术之一。

• Deep Learning (深度学习)：是机器学习的一个子集，它使用多层神经网络。

2.2、 通用人工智能、“强”人工智能和“弱”人工智能

一、 核心思考

• 问题： 机器模拟人的智能，到底模拟多少人的智能算是实现了人工智能？

二、 人工智能的分类

根据机器实验模拟智能的程度不同，分为三类：

1. 强人工智能 (Strong AI)

• 起源： 最初是约翰·塞尔针对计算机和其它信息处理机器创造的。

• 定义/观点：

  • 认为计算机不仅是用来研究人的思维的一种工具，相反，只要运行适当的程序，计算机本身就是有思维的。

  • 是一开始研究者们最终希望达到的智能，实际上可能或根本无法达到。

  • 又指与人类一样或超越人类智慧的人工智能，又叫人工智能鸿沟。

• 强人工智能的两种类型：

  • 一类是类人的智能，即机器的思考和推理像人的思维一样。

  • 另一类是非类人的智能，即机器产生了和人完全不一样的知觉和意识，使用和人完全不一样的推理方式。

2. 弱人工智能 (Weak AI)

• 定义：

  • 如果人工智能不是为了实现一个能赶上甚至超越人类智能的机器人，而是通过计算机替代一部分人类的智能化能力或一部分智能的增强，当然在某方面还可能会超越人类，或者说实现了机器模拟人的部分智能，我们称这样的人工智能为“弱人工智能 (Weak AI)”。

• 智能的例子（即弱人工智能的例子）：

  • 在日常生活中，我们进出许多门襟时的人脸识别。

  • 手机 APP 的人脸认证和指纹认证。

  • 汽车进出停车场时的车牌识别。

  • 跟语音大模型对话。

  • 智能预测天气。

  • 扫地机器人的智能扫地等。

3. 通用人工智能 (General AI)

1.3 人工智能的主流学派

一、 人工智能的学派与研究方向

目标	学派 (主要研究方法)	核心技术/产物
模拟人的心智	符号学派 (Symbolism/Logicism)	知识表示
模拟脑的结构	联结学派 (Connectionism)	神经网络
模拟人的行为	行为学派 (Behaviorism)	机器人

二、 人工智能的理论基础

在学派的演变和发展中，涉及以下理论：

• 进化学派

• 类推学派

• 贝叶斯学派

三、 人工智能的两大方向

当前的人工智能研究可以分为以下两大方向：

1. 聪明的 AI (感知智能)

• 特点： 侧重于感知、识别、判断。

• 对应技术： 神经网络 (如图所示的深度学习网络结构)。

2. 有学识的 AI (认知智能)

• 特点： 侧重于思考、语言、推理。

• 对应技术： 知识图谱 (如图所示的复杂网络结构)。

（1）三大学派–符号主义

一、 符号学派 - 基础与核心

• 基本元素： 人类认知和思维的基本单元是符号，认知过程是以符号表示基础的一种运算。

• 计算机角色： 计算机是一个可用来模拟人的智能行为的物理符号系统。

• 核心： 核心是构建符号表达法。

二、 专家系统结构

符号学派的典型应用是专家系统，其结构包括：

• 知识库： 存储规则、定理、经验、公式等知识。

• 推理引擎： 对知识进行推理。

• 过程： 具象事务 $\to$ 抽象 $\to$ 符号 $\to$ 推理 $\to$ 知识。

三、 逻辑推理方法、成功案例与优缺点

方面	内容
逻辑推理方法	三段论、归纳-演绎、充要条件、命题证明（逆、否、逆否、真、假、伪）、易经、梅花易数、铁板神数？（此处以问号表示，可能为讨论或待定）
成功案例	定理证明（逻辑理论家，西蒙）、人机对弈（深蓝）、专家系统、知识图谱
优点	精确、推理源、严谨、可解释、普适
缺点	冲突、构建复杂、特殊条件和规则、跟不上变化、语义分歧

四、 苏格拉底的观点

• 观点： 苏格拉底说，人工智能是模仿人类思维的技术。

五、 符号学派代表人物与图灵测试

1. 代表人物

• (1) 艾伦·图灵

• (2) 多位达特茅斯会议专家： 约翰·麦卡锡、马文·明斯基、艾伦·纽厄尔、赫伯特·西蒙等。

2. 图灵测试 (Turing Test)

• 描述： 多名评委在隔离的情况下，通过设备向一个机器和一名人类随意提问，多次问答后，若超过 30% 的人不能确定被答者是人还是机器，那么该机器具备人类智能。

• 图示： 展示了提问人（真人）与计算机应答、真人应答的场景。

• 通过案例： 2014 年 6 月 7 日，聊天程序 “尤金·古斯特曼 (Eugene Goostman)” 首次**“通过”**了图灵测试。

• 质疑： 图灵测试被质疑：塞尔的 “中文屋” 思想实验，反驳以图灵测试为代表的强人工智能的观点。

（2）三大学派—联结主义

一、 联结主义的核心思想

• 目标： 试图模拟大脑的神经网络来解释人类的认知功能，如记忆、学习、语言处理和模式识别。

• 方法： 是实现模拟人脑的结构，提出了神经网络方法。

二、 联结主义的阶段与结构

1. 训练学习阶段（基于数据和目标）

• 流程： 数据 $\to$ 输入 $\to$ 算法 $\to$ 神经网络 $\to$ 输出 $\to$ 误差/损失 $\to$ 目标

• 描述： 通过算法根据输入数据调整神经网络，并根据与目标的误差来优化网络。

2. 推理应用阶段（基于知识和模型）

• 流程： 输入 $\to$ 神经网络 $\to$ 预测

• 描述： 训练好的神经网络结合知识，对新的输入进行预测和应用。

3. 典型结构图

• 图片右上方展示了一个典型的卷积神经网络 (CNN) 结构图，用于图像分类，包括卷积层 (Convolutional layers) 和全连接层 (Fully connected layer)。
  ![[Pasted image 20251019213433.png]]

三、 算法与模型

联结主义的算法和模型包括：

• BP (反向传播)

• MLP (多层感知机)

• CNN (卷积神经网络)

• LSTM (长短期记忆网络)

• Transformer

• GPT

• Diffusion (扩散模型)

• MLLM (多模态大模型)

• 提示： “看：Huggingface…”

四、 成功案例

基于神经网络和深度学习的成功案例包括：

• 神经网络深度学习

• 大语言模型 (LLM)

• 人脸识别

• 机器翻译

• ChatGPT

• 图像分类 (AlexNet)

• Sora

• AI 绘画

五、 优缺点分析

方面	内容
优点	自动训练、可预测、适应变化、超越人类、仿生、高维…
缺点	难解释、算力、过拟合、偏见性、伦理冲突…

• 提示： 对缺点需“重新思索 ‘科学’”。

（3）三大学派—行为主义

一、 行为主义的核心思想

• 目标： 构建一个智能体，关注智能体在环境中的行为。

• 机制： 智能体以最大化奖励为目标，与环境不断交互学习和适应，并根据行为的结果进行调整。

• 主要方法： 强化学习 (Reinforcement Learning)、Q-learning、策略梯度方法。

二、 学习流程图

行为主义的学习流程是一个循环过程：

$$刺激\to 智能体\to 策略\to 行动\to \{\begin{array}{l}奖\\ 惩\end{array}$$

智能体根据环境的刺激，选择策略，执行行动，并从环境得到奖励 (奖) 或惩罚 (惩)，然后调整策略以追求最大化奖励。

三、 算法原理和实验基础

• 算法原理： 条件反射、博弈、强化学习

• 实验基础： 图片中提到了小鼠穿梭箱（常用于行为实验）和巴甫洛夫实验（经典条件反射）。

四、 优缺点与成功案例

方面	内容
优点	重视结果、环境适应性强、人类对齐
缺点	功利主义、试错成本和风险高
成功案例	游戏 AI (如 AlphaGo、AlphaStar)、自动驾驶、机器人、无人机…

1.4 人工智能的发展浪潮

第一次浪潮 (1956年-1979年)

时间	事件	状态
1956年	达特茅斯会议，标志着人工智能的诞生。	诞生
1957年	心理学家罗森布拉特发明神经网络感知器。	发展
1979年	受限于计算能力，人工智能进入第一个寒冬。	寒冬

第二次浪潮 (1980年-1990年)

时间	事件	状态
1980年	专家系统问世。	发展
1986年	Rumelhart 和 McClelland 等为首的科学小组提出 BP 神经网络算法。	发展
1990年	人工智能计算机 DARPA 失败，政府投入缩减，进入第二次寒冬。	寒冬

第三次浪潮 (2006年至今)

时间	事件	状态
2006年	Hinton 提出深度学习的神经网络。	爆发
22010年	随着信息技术、云、互联网的发展，进入爆发期。	爆发
2013年	深度学习算法在语音和视觉识别上实现大突破，识别率超过 99% 和 95%。	突破
2016年	AlphaGo 战胜李世石。	高潮
2017年	AlphaGo 战胜柯洁，人工智能的关注度得到空前提升。	高潮

总结： AI 的发展是波浪式前进的，由关键会议和技术突破（如感知器、专家系统、深度学习）推动，但在计算能力和政府投入不足时会经历低谷（寒冬）。第三次浪潮的特点是深度学习的成功和计算资源的丰富。

1.5 人工智能的伦理安全

（1）AI是把双刃剑

一、 核心观点

• AI 作为一项颠覆性技术，本质上是一把双刃剑。

  • 一方面（积极面）： 它可以极大提升生产效率，推动医疗、交通、教育等领域的智能化进步，为人类创造前所未有的便利。

  • 另一方面（消极面）： 它也可能被用于侵犯隐私、操纵舆论，甚至推动军事化发展，带来社会控制和道德风险。

• 双重性要求： 使用 AI 的同时，必须有更强的规范意识和价值判断。

• 例子： AI 在公共安全系统的广泛应用虽然提高了效率，但也引发了对公民自由受限的担忧。

二、 具体应用与双面影响（图表总结）

积极面（AI 带来的便利/进步）	过程/应用	消极面（潜在风险/道德挑战）
提高生产效率	自动化	造成大量失业
改善生活品质	网约车	算法歧视偏见
改善医疗保健	智能诊断	滥用隐私数据
助力科学研究	论文写作	学术诚信危机
赋能因材施教	个性教学	加剧教育不公
智能交通管理	无人驾驶	致命自主机器
…	其他	…

（2）道德困境与伦理冲突

一、 核心问题与观点

• 核心挑战： AI 在实际运行中面临各种道德困境和伦理冲突，需要做出类似人类的道德判断，而这是 AI 目前无法胜任的领域。

• 技术决策与伦理： 以自动驾驶汽车为例，当系统必须在保护乘客与避免伤害行人之间作出选择时，技术决策不可避免地涉及伦理问题。

• 文化差异与责任：

  • 不同文化背景下对“正确选择”的定义可能大相径庭。

  • AI 无法理解这些差异，也无法承担责任。

• 本质： 这类问题反映出：AI 并不仅仅是技术问题，它深刻地嵌入了社会和伦理结构之中。

二、 道德困境的图示（以自动驾驶为例）

图示通过著名的“电车困境”和自动驾驶场景来阐述 AI 的道德选择问题：

困境类型	紧急情况下的选择	结果	思考
电车困境	紧急情况	1. 直行撞死多人 或 2. 左转撞死 1 人	机器有道德选择权吗？
自动驾驶	紧急情况	1. 保护路上的行人 或 2. 保护车上的乘客	机器必须在两个不可避免的伤害之间进行取舍。

（3）幸存者偏差——沉默的大多数

一、 核心问题：幸存者偏差

• AI 智能的来源与缺陷： AI 的智能来自大量历史数据的训练，但这些数据往往不完整，甚至本身就带有偏见。

• 示例 (招聘系统)： 如果一个 AI 招聘系统的训练数据主要来自过去成功录用的员工档案（即“幸存者”），那么它可能会无意中排除某些背景或群体的求职者，从而形成结构性歧视。

二、 结论与反思

• “客观中立”的假象： 即便 AI 看起来“客观中立”，实际上它只是放大并延续了已有的不平等。

• 公平性的依赖： 这提醒我们，算法的公正性依旧依赖于数据的多元和审慎选择，而不是技术本身的先进程度。

三、 图示（二战飞机损伤图）

![[Pasted image 20251019214855.png]]

• 图片右侧展示了二战中飞机机翼和机身布满弹孔的示意图。

• 这个著名的例子（幸存者偏差）说明：研究人员最初想加强弹孔多的区域，但统计学家指出，应该加强没有弹孔的区域，因为那些中弹的飞机没有返回，它们是“沉默的大多数”，是真正的致命弱点。

• 图示文字：

  • “AI 的局限绝大多数起源于幸存者偏差现象”

  • “AI 的使用条件：假设” (可能指使用数据时的假设和偏见)

总结： 强调了 AI 模型的内在偏见和不公平性并非来自技术本身，而是来自其训练数据中固有的幸存者偏差和不完整性，因此在应用 AI 时必须对数据进行严格的多元化和审慎选择。

（4）泄露个人隐私

一、 核心问题：隐私泄露的重灾区

• AI 运行对数据的需求： AI 系统的运行需要大量个人数据来进行建模与优化。

• 双面影响： 这使得用户在享受 AI 带来的便利的同时，也暴露于前所未有的隐私风险之中。

• 数据采集的不透明性： 许多智能设备在未经充分告知用户的前提下，采集语音、行为或生理特征信息，用于分析或商业目的。

• 后果： 这种数据使用的**“不透明性” 破坏了用户的知情权和控制权**。

• 本质要求： 在数字时代，保护个人隐私不仅仅是技术问题，更是维护人类尊严的基本要求。

二、 图示说明：模型对隐私的“记忆”

右侧的图示说明了大规模模型的训练数据中包含个人隐私信息，并可能导致泄露：

• 流程：

  • 训练数据中包含地理位置信息 (如 “East Stroudsburg…”)

  • GPT-2 (AI 模型)

  • 结果： GPT-2 可能会“记忆”并输出被记忆的文本 (Memorized text)，其中包含了完整的个人或机构的敏感信息（如地址、姓名 Peter、邮箱和传真 Fax 号码）。

总结： AI 对海量个人数据的依赖是隐私泄露风险的根源。特别是大规模 AI 模型，可能在训练过程中记忆并无意泄露敏感的个人信息。保护隐私不仅是技术责任，更是维护人类尊严的伦理责任。

（5）AI造假

一、 核心挑战：AI 伪造 (Deepfake)

• 问题描述： 随着生成式 AI 的发展，“AI 伪造”现象日益严重，带来了信息真实性方面的新挑战。

• 伪造内容： 图像、语音、视频等内容可以被轻易伪造，达到肉眼难以分辨的程度。

• 滥用后果： 这种技术被用于制造虚假新闻、诈骗信息，甚至冒充他人身份，严重干扰社会信任体系。

• 本质与风险： 虽然技术本身具有中立性，但其滥用带来的后果可能远超想象。

（6）AI造假如何识别

一、 总体原则

• 面对 AI 伪造的现实，必须主动建立多层次的应对机制。

• 有效的防线需要政府、企业、社会多方协作才能构建起来。

二、 具体应对机制（三层次）

1. 技术层面

• 目标： 开发能够识别和追踪 AI 生成内容的工具。

• 措施示例：

  • 图像水印。

  • 内容标识 (Content Provenance)。

  • 可信计算机制。

• 图示流程：

  • AI 生成内容 $\stackrel{嵌入水印}{\to }$ $\{\begin{array}{l}\text{AI 生成内容}\\ \text{真实内容}\end{array}$

  • $\{\begin{array}{l}\text{AI 生成内容}\\ \text{真实内容}\end{array}\stackrel{提取器}{\to }\{\begin{array}{l}\text{假!}\\ \text{真!}\end{array}$

  • 解释： 通过嵌入数字水印，然后使用提取器来验证内容的来源和真伪。

2. 法律层面

• 目标： 明确法律责任，提升违法成本。

• 措施：

  • 应当明确规定使用 AI 技术伪造信息的法律责任。

  • 提升违法成本。

3. 公众层面

• 目标： 提高公众辨别虚假信息的能力。

• 措施：

  • 应加强媒介素养教育。

  • 提高人们辨识虚假信息的能力。

（7）如何应对挑战——是否可以设计负责任的AI？

一、 应对挑战：构建 AI 治理框架

• 核心观点： AI 所带来的挑战不仅限于某个领域，而是对整个社会秩序与伦理架构的系统性冲击。

• 应对措施： 需要构建一个全球化、多层次、负责任的 AI 治理框架。

  • 框架内容： 制定明确的伦理准则、推动法规建设、加强跨国合作、注重公众教育与参与。

• 国际趋势： 近年来，联合国、欧盟等国际组织已开始推动 AI 伦理治理的建设，标志着全球范围内对安全、公平、可持续 AI” 的共识正在逐步形成。

• 目标： 唯有通过制度设计与价值引导，才能确保 AI 的发展真正惠及人类，而非成为未来的隐患。

二、 负责任 AI 治理的阶段划分

阶段	治理重点	内容
事前	改进数据收集方法	系统、全面、负样本思辨、正反考虑周全
事中	模型训练规范化	准则化、透明化
事后	监管	监管、责任认定明确、法律保障

三、 负责任 AI 的设计理念

图片下方列出了设计负责任 AI 的核心价值理念和伦理基础：
![[Pasted image 20251019215931.png]]

伦理基石（阿西莫夫的机器人三定律简化）

图片引用了机器人伦理的经典原则：

• 1. 机器人不得伤害人类，或者坐视人类受到伤害。

• 2. **在不违背 1) 的前提下，机器人必须服从人类的指令

• 3.在不违背 1）2）的前提下，机 器人有义务自我保护

• 总结： 这些原则构成了 AI 设计的伦理基石。

1.6 为什么要学AI

国家战略

一、 国家安全与科技自主

1. 核心技术自主可控：

   • AI 是新一轮科技革命和产业变革的核心驱动力。

   • 掌握了 AI，就掌握了未来科技的话语权。

   • 国家推动 AI 研发，是为了摆脱对外部技术的依赖，确保国家安全。

2. 战略资源与安全防护：

   • AI 在军事、网络安全、卫星图像分析、反恐监控等领域都有广泛应用。

   • 这些应用直接关系到国家的生存安全。

二、 经济增长与产业升级

1. 驱动经济新引擎：

   • AI 已被广泛应用于制造业、金融、医疗、交通等传统行业。

   • AI 推动智能制造、智慧城市发展，带动高质量增长。

2. 发展新质生产力：

   • AI 与 5G、区块链、新能源等深度融合，培育出新的经济增长点。

   • 这是国家发展新质生产力的重要手段。

总结： AI 不仅是维护国家安全和掌握科技话语权的关键战略技术，也是驱动传统产业升级和培育新经济增长点的核心动力。

个人发展

一、 拥有 AI 能力 = 更强的职业抗风险能力

1. AI 正在替代传统岗位：

   • 传统岗位中，文员、客服、翻译、数据录入等规则化、重复性强的岗位，正在被 AI 取代。

2. 掌握 AI，掌控变化：

   • AI 技能是适应未来职场变化的重要武器。

   • 能够帮助个人从**“被替代者”转变为“AI 使用者”，甚至“AI 创造者”**。

二、 拓宽个人发展与创业的边界

1. 打造“超级个体”能力模型：

   • 借助 AI，一个人可以完成一支小团队的工作。

   • 示例： 用 ChatGPT 写方案、用 AI 绘图设计产品、用 AI 建模做数据分析。

2. 创业者的新工具箱：

   • AI 降低了创业门槛。

   • 切入点： 从 AI 教育产品、AI 营销服务、AI 社交应用，到 AI 个性化推荐系统，都是快速测试商业模式的切入点。

3. 自由职业者的新机会：

   • 会 AI 技能，可以做智能客服开发、AI 简历优化、AI 写作、AI 美术等自由职业。

   • 能够摆脱传统单位限制，实现更灵活的职业路径。

总结： 在 AI 时代，掌握 AI 技能不仅是职业生存的必要条件，更是实现个人效率飞跃、降低创业难度、并走向灵活自由职业模式的关键。

1.6 为什么要学AI？——打通学科之间壁垒

一、 AI 的跨学科地位（图示）

• AI 是连接基础学科与 Super AGI 的核心层。

• 学科范围： AI 贯穿于所有主要学科，包括理、工、农、医、人文、社科等。

• 结构：

  • 上层： 各个专业学科（理、工、农、医、人文、社科…）

  • 中层： AI（人工智能）

  • 底层： Super AGI（超级通用人工智能）

结论： AI 是一个底层技术，能够赋能和渗透到所有学科领域，打破传统学科之间的壁垒。

二、 学习 AI 的具体价值与应用（列表）

学习 AI 的目的和益处包括：

1. 辅助学习、科研： 利用 AI 工具提升学习效率和科研能力。

2. 伴学： 利用 AI 陪伴和指导学习过程。

3. 老年陪伴： 将 AI 应用于养老和陪伴领域。

4. 私有 AI： 掌握构建和使用个性化 AI 工具的能力。

5. 对抗思辨： 学习 AI 的原理和局限，培养批判性思维和对抗能力（例如：对抗 AI 伪造）。

6. 解决实际问题： 将 AI 应用于解决各行各业的现实挑战。

7. 正确使用 AI，设计负责任的 AI： 不仅是会用技术，更要具备伦理意识和规范，参与构建公平、安全的 AI 系统。

总结： 学习 AI 不仅是为了掌握一项技术，更是为了应对未来的跨学科挑战，提升个人能力，并在伦理框架内负责任地使用和发展 AI，最终服务于人类社会。

1.6 如何学好AI？——能力比知识更重要

一、 思辨：学会质疑，过程比答案更重要，教学相长，抬杠

1. 核心思维： 强调学会质疑，认为过程比答案更重要，推崇教学相长和**“抬杠”（思辨）**的学习方式。

2. 古代思辨代表人物/典故：

   • 苏格拉底

   • 庄子

   • 公孙龙

   • 二小儿辩日

   • 第一辩 (指一起辩论)

3. 对人工智能定义的质疑：

   • 质疑点： “所有用于模拟、延伸和扩展人的智能的理论、方法、技术都属于人工智能。”（通过质疑现有定义来加深理解）

二、 重在掌握原理和算法思想

1. 道和术的关系：

   • 有道无术，术尚可求；（掌握“道”（原理和思想），“术”（技术）可以再学）

   • 有术无道，止于术。（只有“术”而没有“道”，则技术无法进步）

2. 孙子兵法：

   • 上兵伐谋；（最高明的用兵方法是运用谋略）

   • 不轻易开战；

   • 不战而屈人之兵；（不通过实际战斗就战胜敌人）

   • 义战（正义之战）

总结： 主张学习 AI 应该回归哲学思辨和底层原理。要敢于质疑定义，将学习重点放在**“道”（原理、算法思想）**而非“术”（具体技术或工具），并以古代智者和兵法思想来指导学习和应用。

1.6 如何学好AI？——换位思考

一、 学习 AI 的核心思维：换位思考

• 换位思考： 即“知己知彼，方能百战不殆”。

• AI 的思考方式（图示）：

  • 人类输入的**“文本、图像、声音等”** 内容，在 AI 的世界里被转化为二进制的数字或向量（0/1 矩阵）。

  • 编码器 (Encoder) 将“句子”转化为 AI 的思维矩阵，如“苹果”被表示为一个行向量（0.789, 0.334, …）。

  • AI 的思考发生在这些数字矩阵内部。

  • 解码器 (Decoder) 再将 AI 思考后的矩阵转化为人类可理解的**“文本、图像、声音等”**。

• 总结： 了解 AI 对自然语言的**“理解和思考”本质是基于数字向量和概率矩阵的计算**，是理解 AI 机制的关键。

二、 学习 AI 的方法论

1. 四、兴趣、动手实践、实践、实践、试错。 知之为知之，不知更非知。

2. 五、坚持每天看 AI 新闻，练习 AI 工具 20 分钟。

3. 六、以及学会提问。

三、 学习资源与考题提示

图片列出了一些学习 AI 的网络资源链接，以及一张**“2024 年高考作文 新课标卷”**的提示图，暗示 AI 与社会、伦理、创作等主题已成为社会关注的焦点和考核内容。

学习资源链接示例 (仅列出图片中的链接):

• http://www.deepseek.com/DeepSeek

• http://tongyi.aliyun.com/qianwen/ 通义千问

• http://tongyi.aliyun.com/wanxiang/ 通义万相

• https://yiyan.baidu.com/ 文心一言

• https://www.bilibili.com/ 哔哩哔哩

• https://mo.zju.edu.cn/ 浙江大学 Mo 平台

• http://www.waytoagi.com/ 通往 AGI 之路

• https://kimi.moonshot.cn/ 月之暗影