智能体-人类-环境统一对齐原则初探-李鹏

智能体-人类-环境统一对齐原则初探李鹏2024年10月13日2大模型智能体迅猛发展•2023年以来大模型智能体受到广泛关注，研究、框架、应用迅猛发展。https://www.youtube.com/watch?v=U9mJuUkhUzk ; https://www.youtube.com/live/XEzRZ35urlk?t=1485s ; Wang et al. 2023. A Survey on Large Language Model based Autonomous Agents. arXiv: 2308.11432.3智能体历史沿革•智能体概念由来以久，是对人工智能问题的重要研究抽象。Russell, S. J. Artificial intelligence: A modern approach. Pearson Education, Inc., 2010.Anagentisanythingthatcanbeviewedasperceivingitsenvironmentthroughsensorsandactinguponthatenvironmentthroughactuators.——Stuart J. Russell and Peter Norvig4传统智能体v.s. 大模型智能体•解决开放域问题将是大模型智能体区别于传统智能体的关键特征之一。https://deepmind.google/discover/blog/alphastar-mastering-the-real-time-strategy-game-starcraft-ii/ ；https://auto-gpt.ai/•训练：强化学习+自我对弈•数据：专用环境收集的海量数据•任务：仅能玩星际争霸2•训练：免训练•数据：无需专门收集数据•任务：可完成多样化任务AlphaStarAutoGPT5大模型智能体现状•当前大模型智能体虽获取广泛关注，但尚未完成在开放域上的效果阶跃。GPT-3ChatGPT大模型智能体潜力初现效果阶跃•通用性•自主性•有效性6典型系统1：OpenAIGPTs•基础版：使用文字配置智能体，可看作系统提示的产品化。•进阶版：基础版+工具调用，增加了一定自主性。图片来源：https://www.datacamp.com/tutorial/how-to-make-cu