Agent 02-智能体发展史

梳理智能体从符号主义到大模型驱动的演进脉络。

本文聚焦智能体从符号主义到大模型驱动范式的关键演进路径。

2.1 基于符号与逻辑的早期智能体

物理符号系统假说

论断 含义
充分性 任何物理符号系统都具备产生通用智能行为的充分手段
必要性 任何展现通用智能行为的系统,本质必然是物理符号系统

核心思想:智能的本质是符号的计算与处理

专家系统

知识库(IF-THEN规则)和 推理机(正向链/反向链)组成。

MYCIN:血液感染诊断专家系统,约600条规则。创新之处是引入 置信因子(CF) 处理不确定性。

符号主义的局限

  • 常识知识瓶颈
  • 框架问题与系统脆弱性

SHRDLU

SHRDLU是积木世界中的自然语言交互智能体,具备:

  • 自然语言理解(解析复杂指令)
  • 指代消解(理解"你手中拿的")
  • 上下文记忆
  • 规划与行动(规划动作序列)
  • 记忆与问答

2.2 基于规则的聊天机器人

ELIZA 的设计

核心机制:模式匹配 + 文本替换

1
2
3
4
5
6
def respond(user_input):
    # 1. 关键词识别
    # 2. 分解(捕获通配符*匹配的内容)
    # 3. 代词转换(I ↔ you)
    # 4. 重组生成回应
    pass

局限

  • 无语义理解(不理解否定词)
  • 无上下文记忆
  • 规则扩展导致组合爆炸

2.3 马文·明斯基的"心智社会"

核心观点:智能源于大量简单智能体的协作,而非单一完美系统

概念 含义
智能体(Agent) 简单、专门、无心智
机构(Agency) 协作的智能体集合

对多智能体系统(MAS)的启发:

  • 去中心化控制
  • 涌现式计算
  • 智能体社会性

2.4 学习范式的演进

从符号到联结主义

范式 核心思想
符号主义 知识显式编码为规则
联结主义 知识以连接权重分布式存储

强化学习框架

五元组 (S, A, P, R, γ)

组件 说明
Agent 学习者和决策者
Environment 智能体外部的一切
State (S) 环境在某一时刻的描述
Action (A) 智能体可采取的操作
Reward (R) 评价行动好坏的标量信号

学习循环:观察 → 选择行动 → 执行 → 获得奖励 → 调整策略

预训练-微调范式

1
2
3
海量文本 → 自监督学习 → 基础模型
                    特定任务数据微调 → 下游任务

大语言模型驱动的智能体

核心组件

1
2
3
感知模块 → 思考模块(Planning + LLM) → 执行模块 → 工具调用
    ↑                                              ↓
    └──────────── 观察与记忆更新 ←──────────────────┘
阶段 功能
感知 接收用户指令、环境状态
思考 规划分解、推理决策、工具调用
行动 执行工具、与环境交互
观察 获取工具结果、更新记忆

发展时间线

时期 代表技术
1950s-1980s 符号主义:专家系统、SHRDLU
1980s-2010s 联结主义:神经网络复苏、深度学习
2010s-至今 强化学习 + 预训练-微调 + LLM Agent

2.5 习题解析

题 1:物理符号系统假说

Q1:充分性论断和必要性论断分别是什么?

论断 含义
充分性 任何物理符号系统都具备产生通用智能行为的充分手段
必要性 任何展现通用智能行为的系统,本质必然是物理符号系统

Q2:符号主义实践中的哪些问题挑战了"充分性"?

  • 常识问题:依赖庞大的背景知识
  • 框架问题:规则静态,无法适应变化

Q3:LLM驱动的智能体是否符合该假说?

不完全符合。LLM通过分布式权重隐式编码知识,而非显式符号规则。

题 2:专家系统MYCIN

Q1:为何MYCIN未大规模应用于临床?

维度 原因
技术 知识库难以覆盖全部医学知识
伦理 诊断错误责任归属不明
用户接受度 医患对非人类系统缺乏信任

Q2:现代医疗诊断智能体如何改进?

  • 动态知识更新(结合最新研究)
  • 个体化诊断(考虑患者差异)
  • 可解释性(清晰展示诊断依据)

Q3:哪些垂直领域仍适合基于规则的系统?

  • 法律咨询(规则明确)
  • 工业控制(稳定可预测)
  • 药物配置(避免相互作用冲突)

题 3:ELIZA 扩展实践

核心扩展:添加 上下文记忆 功能,记住姓名、年龄、职业等信息。

与ChatGPT的本质差异

维度 ELIZA ChatGPT
知识边界 固定规则集 预训练知识+推理
上下文 无状态 多轮对话连贯
开放能力 预设场景 开放域处理

组合爆炸问题:假设n个规则、每个规则匹配m种输入,组合数为m^n(指数级增长)。

题 4:“心智社会"理论

Q1:GRASP智能体失效会怎样?

系统失去抓取积木能力,但其他智能体可继续工作。优势是鲁棒性,劣势是整体性能下降。

Q2:与现代多智能体系统的关联?

  • 关联:都体现协作思想、去中心化控制
  • 不同:现代系统有更先进的通信协议和学习算法

Q3:LLM时代"心智社会"是否仍适用?

适用。智能的涌现和协作思想仍是理解多智能体系统的重要框架。

题 5:强化学习与监督学习

Q1:AlphaGo的"试错学习"机制?

通过自我对弈不断尝试策略,根据胜负结果调整,优化长期收益。

Q2:为何强化学习适合序贯决策?

强化学习 监督学习
关注长期奖励 关注单次预测正确
与环境交互收集数据 需要预标注数据集
适合动态环境 适合静态模式识别

Q3:RLHF在LLM训练中的作用?

通过人类反馈强化学习,使模型输出更符合人类期望和偏好。

题 6:预训练-微调范式

Q1:预训练如何解决"知识获取瓶颈”?

  • 符号主义:专家手工编码规则
  • 预训练:从数据中自动学习,分布式表示知识

Q2:互联网数据带来的问题及缓解?

问题 缓解措施
错误信息 数据清洗
偏见 偏见检测与修正
知识过时 持续更新

题 7:智能代码审查助手

三个时代的设计对比

时代 方案 困难
符号主义 手工编码规则 知识获取瓶颈、脆弱性
深度学习(2015) 特征工程+分类器 特征设计难、泛化能力弱
LLM时代 感知+思考+执行模块 架构复杂度

演进意义:从"几乎不可能"到"可行",核心是 理解和推理能力 的质变。

小结

智能体发展史是一场关于"如何定义智能、获取知识、进行决策"的思想变革:

  1. 符号主义:显式规则 → 知识获取瓶颈
  2. 联结主义:分布式表示 → 感知能力突破
  3. 强化学习:试错交互 → 决策能力突破
  4. LLM Agent:感知-思考-行动闭环 → 通用智能雏形
Licensed under CC BY-NC-SA 4.0
comments powered by Disqus
使用 Hugo 构建
主题 StackJimmy 设计