钱忱-YSSNLP-大模型驱动的群体智能

云南·昆明2024年06月15日大模型驱动的群体智能qianc62@gmail.com钱忱清华大学· 自然语言处理实验室YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024包括美国三院院士LiFei-Fei、美国文理学院院士ChristopherManning和DanJurafsky在内的斯坦福大学100多位学者联名发表长达160页的观点文章，提出超大规模预训练模型将是实现通用人工智能的“基础模型”图片生成模型DALLE代码生成模型CoPilot智能问答模型ChatGPT通用控制模型Gato基础模型通过“预训练-微调”来支持下游任务1950s-1990s：符号学习1990s-2000s：统计学习2010-2017：深度学习2018-至今：大规模预训练模型超大规模预训练模型GPT-3可以通过学习少量样例完成十余种文本生成任务，入选2021年MIT科技评论10大突破性技术人工智能进入大模型时代YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024大模型的局限性实时知识缺乏受限于训练语料，大模型知识有时间局限性，难以获取实时知识协作意识薄弱大模型缺少协作意识，彼此之久间无法协同配合，共同完成复杂任务专业技能欠缺大模型只能处理语言任务，大模型不擅长处理涉及专业领域的复杂任务大模型无法进行多步决策，面对复杂任务无法规划复杂逻辑，编排复杂流程来解决自主能力不足Model输入：计算12321 / 234320.002360.526Model不使用工具使用工具•大模型虽然展示出了前所未有的通用性，但是在应用于实际生活中，仍存在着实时知识缺乏、专业技能欠缺、自主能力不足以及协作意识薄弱等局限性YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024大模型驱动的自主智能体学习环境静态训练数据有限监督信号直接大模型为智能“灵魂”学习环境动态训练数据无限监督信号间接智能体为智能“载体”大模型驱动智能体智能体反馈大模型•基础大模型作为智能应用技术的内核，必须以自主智能体作为载体与动态环境进行交互，才能充分胜任动态复杂的智能应用，因此亟需发展大模型驱动的自主智能体技术YSSNLP2024YSSNLP