维端网随着AI技术的广泛应用，新的安全隐患正在挑战行业数字化的安全壁垒——恶意攻击者利用AI来伪造信息、实施恶意攻击或者窃取数据。因此，AI时代也需要强化对AI技术本身的安全性，包括对模型和数据的保护，以免它们被滥用。
一个例子：某大型国际企业采用了某个基于大语言模型的公开聊天应用服务以后，20天时间里出现了3起数据泄露事件，从产品良率的泄露到代码的泄露，更有会议内容的泄露。如果深度挖掘的话，这一案例正是企业的安全机制对访问控制不足的体现。
亚马逊云科技大中华区解决方案架构部总监代闻
“从整体架构建设开始，我们就需要将安全作为企业AI战略发展中的核心环节。由此，这就要求我们不能只是关注 AI 应用本身，而是从一个全栈的角度，去全面审视 应用、模型、数据、基础架构的安全规范、技术策略和平台工具。生成式AI应用就像是海面上的冰山，我们想要在企业里安全地驾驭这项新技术，还需要关注海面下的冰川。” 亚马逊云科技大中华区解决方案架构部总监代闻，在近日举办的亚马逊云科技re:Inforce 2023中国站演讲中如是说。
数据和模型的安全性是AI应用的命脉
众所周知，数据是模型的基石，模型依赖于数据来产生有用的结果。同时，模型的质量和性能也反过来影响了对数据的需求和处理方式。
正如许多行业用户所言，数据和模型的安全性是构建可信、可靠和高效AI应用的基础，也是保护用户隐私和企业利益的重要手段。而AI时代的数据保护是一个持续演化的挑战，需要组织采取多层次的安全措施，并不断更新这些措施以适应不断变化的威胁和法规环境。
由此，亚马逊云科技提供了贯穿生成式AI全周期的数据治理——从数据源的获取到数据的存储和查询，再到将数据传输给 AI平台进行模型的训练、调优和推理，以及全面实施数据分类和治理。
同时，亚马逊云科技提供了一整套的解决方案、产品服务和最佳实践，帮助企业加速落地端到端的云原生数据战略，给生成式AI 提供高质量的数据安全支持：
其一，亚马逊云科技通过实施安全密钥管理、静态数据加密、强制实施访问控制、利用机制限制数据访问，保护存储中的数据。高质量数据是构建生成式AI能力的关键。针对高质量的数据，亚马逊云科技有两个保护重点：防止数据泄漏以及防止数据篡改。
在本次大会上，亚马逊云科技推出了敏感数据保护解决方案，其可实现对企业敏感数据的自动化发现并在统一平台管理数据资产。该解决方案允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型，该方案利用机器学习、模式匹配的方式自动识别敏感数据，并提供可视化面板，帮助客户更轻松地对敏感数据进行管理和保护。
其二，亚马逊云科技从实施安全密钥和证书管理、执行传输中加密、自动检测意外数据访问、对网络通信进行身份验证四个方面对传输中的数据进行保护。
多层次保护传输中的数据。亚马逊云科技通过跨区域之间的数据传输、VPC内部以及VPC之间的传输、迁移上云的过程中、以及TLS1.2+AES256从整个的基础架构上实现应用层的加密和传输的保护。
其三，从身份认证、隔离环境、多方协作以及数据共享四个方面，进行使用中的数据保护。
另一方面，夯实大模型的安全性需要综合的策略和技术措施，以应对多样化的威胁和挑战。
几个月前，亚马逊云科技宣布推出Amazon Bedrock和多种生成式AI服务和功能，以帮助客户构建和扩展自己的生成式AI应用程序。作为能够提供广泛基础模型的重磅角色，Amazon Bedrock的能力颇受用户青睐：
第一，Amazon Bedrock可接入基础模型，通过API可以使用大模型加速生成式AI的应用程序和开发，无须管理底层的基础设施；
第二，Amazon Bedrock携手合作伙伴，例如AI21 Labs、Anthropic、Stability AI以及自己的基础模型，再加上Cohere，为客户提供最合适，且能力最强的基础模型；
第三，Amazon Bedrock为大模型客户提供独享的私有数据拷贝，其不会通过任何用户的数据来提升自身模型的技术能力；
第四， Amazon KMS、Amazon IAM等可以完善地与Amazon Bedrock集成，从而可以更好地管理加密、权限控制和所有行为的日志。
值得一提的是，亚马逊云科技将自身的大模型Amazon Titan开放给用户使用。Amazon Titan有两个基础模型：一个是Titan Text，能够执行文本类的任务；另外一个则是Titan Embeddings，其能够执行个性化推荐的任务。
从中可见，亚马逊云科技致力于开发公平且准确的人工智能和机器学习服务，并负责任地为企业客户提供构建人工智能和机器学习应用程序所需的工具和指导。亚马逊云科技对AI的责任有着坚定的承诺——通过减少和消除有害的威胁与隐患，来支持负责任AI的实现。
应用安全是实现AI价值的保障
“应用为创造价值而生，应用的安全一定是实现AI价值的保障。从防护方面，我们有两个阶段来防护，第一个阶段是开发流程中的安全，第二个阶段是生产过程中的安全。”代闻强调。
针对第一个阶段的开发流程中的安全（DevSecOps），亚马逊云科技认为安全应该贯穿于开发、集成、部署再到投产、监控以及整体反馈的过程中。亚马逊云科技利用自身经验，将AI防护应用到软件开发的全生命周期，让开发更便捷，更安全。
比如，亚马逊云科技近期最新发布的工具服务为AI开发安全能力提供了坚实的支持：
首先，Amazon CodeWhisperer是亚马逊云科技推出的AI编程助手，其可根据开发者指令利用内嵌的基础模型实时生成代码建议，该服务内置了代码安全扫描功能，可帮助开发者查找难以检测的漏洞并提出补救建议。
其次，Amazon CodeGuru Security可以扫描代码，在代码里面寻找漏洞，其中包括调用包漏洞以及其他代码逻辑的漏洞。其还能够基于CICD通过人工智能和机器学习的方式自动降低误报率，同时基于API设计，能够非常方便地集成到开发工作流里边去，实现集中化和扩展性。
针对第二个阶段的运行中的安全，亚马逊云科技从零信任与网络控制入手，形成更加稳健的安全屏障：
基于零信任，针对应用的安全访问，企业可构建零信任的应用安全访问策略。零信任不是一个标准的工具或者解决方案，而是一套机制，并且需要经过演练和考验。“我们需要对访问大模型的应用进行权限管理，确保只有在拥有特定权限的应用，才能访问或者调用大模型里的制定API。”代闻如是说。
基于此，亚马逊云科技所推出的安全工具，可帮助客户在自己的亚马逊云科技环境下构建这套机制。
首先，Amazon Verified Access 可帮助客户构建一套无需VPN的网络验证系统，用户可以使用Amazon IAM或者客户自己的用户认证系统，来完成这个认证程序。除了对用户的认证之外，Amazon Verified Access还支持规则设置。这些管控，可以在几乎不对应用进行任何代码改变的情况下部署实现。
亚马逊云科技日前还推出了Amazon Verified Permissions，为用户构建的应用程序提供细粒度授权和权限管理，用户可以使用该服务管理其应用程序的角色和属性的访问控制。
“为了用户书写所有的授权规则，我们发布了一个新的开源语言，叫做CEDAR，CEDAR用于编写和执行授权策略的开源的语言，它可以能够让大家更加轻松、更加快速地来创建所有的访问控制权限。”代闻补充道。
在网络控制层面，亚马逊云科技始终认为零信任和网络控制并不是一个二选一的关系，尤其是在大模型时代，两者相加才能实现端到端的应用安全。
例如，针对网络防护，Amazon Shield用于防DDos攻击，Amazon WAF提供防火墙支撑，Amazon Firewall Manager可以轻松管制防火墙策略：去年缓解了70万次DDos攻击，Amazon WAF上每天托管规则请求超过3500亿条。
针对威胁识别，Amazon GuardDuty使用了基于人工智能和机器学习的技术，使安全事件的误报率减少50%。它能够实现初期的检测，还可以做持续的分析，它会使用机器学习的技术来检测所有的威胁，以智能化的手段给予采取行动的建议。
利用AI提升安全合规效率
安全合规作为全球各国安全意识升级的重点，目前已经有超过130多个国家和地区制定和颁布了数据保护和隐私安全相关的法律法规。同时由于云计算的大规模普及，越来越多的重要数据正在加速上云，而且数量和种类在增加。由此，随着业务持续变化，给安全合规带来的挑战颇具扩展效应，这其中就包含了诸如像大模型运用带来的业务的变化给安全带来的挑战。
目前，亚马逊云科技在全球已经获得了超过140个安全标准和合规认证。值得一提的是，这些合规认证不仅覆盖了基础设施，还有非常多的平台应用，例如容器平台、无服务器平台等。
“基于此，当客户在到达一个地区要推出端到端的应用时，无需再投入更多精力于平台和基础设施合规的工作中，其只需要关注应用合规即可。”代闻如是说。
伴随AI技术在行业中的深入落地，亚马逊云科技也在积极利用AI来提升自身的合规服务——其采用人工智能大规模审查安全机制，从而大幅减少手动操作，降低人为错误。
另外，亚马逊云科技的AI能力在提供一致性判断的同时，也能将预测和自动审查演绎的极为出色。目前，亚马逊云科技已经支撑了543个控制项，积极地运用人工智能技术来提升自身的合规能力。作为安全服务版图的重要一极，亚马逊云科技云生态的助力同样值得关注。
亚马逊云科技APN合作伙伴网络提供数百种行业领先的安全解决方案，多层保护客户的应用和数据安全。通过全球安全伙伴提供的解决方案，携手构建1+1>2的安全合作。
技术方面提供网络安全、主机安全、应用安全、身份认证、威胁检测和事件分析、数据治理以及安全自动化运维等。
在咨询方面，APN还提供了方案建议、合规建议以及全面的安全咨询服务和合规服务。在IDC近期发布的《2023中国公有云托管安全服务能力报告》中，亚马逊云科技是获得满分最多的厂商之一，其中“生态建设”评估维度是唯一获得满分的厂商。
