赵彦杰-大模型应用市场安全研究现状与挑战

大模型应用市场安全：研究现状与挑战赵彦杰 | 华中科技大学演讲嘉宾赵彦杰华中科技大学博士后&武汉金银湖实验室特聘研究员博士毕业于澳大利亚莫纳什大学。研究领域集中在移动软件工程、移动安全以及大模型的应用与安全，主要目标是研发先进的算法和工具以自动检测或修复软件缺陷和漏洞。至今已经在多个高质量的期刊(如TSE、TOSEM)和会议(如ICSE、ASE、ISSTA、WWW)上发表了多篇与移动应用程序分析相关的论文。此外，她致力于探索将大模型应用于软件工程领域的新方法，曾指导学生完成全球首篇大模型在软件工程中的应用综述相关论文并于2024年被TOSEM接收。目 录CONTENTS1.大模型应用概述2.主要安全挑战及其应对、防范措施3.大模型应用安全风险分析4.总结与展望大模型应用(LLM app) 概述PART 016LLM app是LLM发展的产物Wang, S., Zhao, Y., Hou, X., & Wang, H. (2024). Large language model supply chain: A research agenda.arXivpreprint arXiv:2404.12736.图：LLM供应链定义及各个组成部分LLM供应链下游生态的重要组成7LLM app的蓬勃发展OpenAI 统计，GPT Store上线短短 2 个月，用户已经创建超过 300 万个 GPTs。FlowGPT每月超过400万活跃用户，近期还成功完成 1000 万美元的Pre-A融资。Coze中app的部署：海外版可以发布到Discord、Telegram、Cici、WhatsApp、Twitter等；国内版目前主要支持飞书、豆包、微信公众号、微信、掘金等其他自定义渠道。Zhao, Y., Hou, X., Wang, S., & Wang, H. (2024). Llmapp store analysis: A vision and roadmap. arXivpreprint arXiv:2404.12737. (SE2030)8LLM app的蓬勃发展Wang, S., Zhao, Y., Hou, X., & Wang, H. (2024). Large language model supply chain: A research agenda.arXivprepri