对生成式AI工作负载进行威胁建模以评估安全风险

© 2024, Amazon Web Services, Inc. 或其附属公司。保留所有权利。© 2024, Amazon Web Services, Inc. 或其附属公司。保留所有权利。对生成式AI的工作负载进行威胁建模以评估安全性风险陈昇波高级解决方案架构师亚马逊云科技© 2024, Amazon Web Services, Inc. 或其附属公司。保留所有权利。开发者的故事我目前正在服用什么药物？你一年前开始服用治疗心悸的普萘洛尔。在这里聊天…?????© 2024, Amazon Web Services, Inc. 或其附属公司。保留所有权利。威胁ID威胁声明缓解措施优先级STRIDE模型T-001一个可访问面向公众的应用程序的外部威胁行为体可能会注入能够改写现有系统提示词的恶意提示词，导致其他患者的医疗保健数据被返回，影响数据库中数据的机密性M-001:通过系统提示词定义可接受的用途M-002:清理已知参数M-003:预定义并检查可接受的SQL语句M-004:验证输出与用户相关高级身份假冒, 信息泄露T-002一个能够向大语言模型系统提交内容的威胁行为体可能会在该内容中嵌入恶意提示词，操纵大语言模型采取有害行为，损害大语言模型系统和连接资源的完整性和可用性M-005:输入验证和清理M-006:隔离外部内容M-007: 限制大语言模型访问外部系统高级身份假冒, 信息泄露，权限提升T-003一个能够与大语言模型系统交互的威胁行为体可能会利用输出数据的编码处理不足，导致XSS或代码注入，从而降低用户数据的机密性和/或完整性M-008:对输出数据进行编码，以防止意外的代码执行M-009: 输出验证和清理M-010: 使用CORS限制中级身份假冒, 信息泄露© 2024, Amazon Web Services, Inc. 或其附属公司。保留所有权利。什么是威胁建模？SHOSTACK的四个问题框架© 2024, Amazon Web Services, Inc. 或其附属公司。保留所有权利。我们在做什么?© 2024, Amazon Web Services, Inc. 或其附属公司。保留所有权利。我们在做什么?AmazonLambda我目前正在服用什么药物？你一年前开始服用治疗心悸的普萘洛尔。在这里聊天…用户Amazon CloudFrontAmazon S