2025年国家网络安全意识周将在全国范围内举行。在Yunnan的Kunming的主要区域，在昨天（15日）下午举行的网络安全技术峰会论坛上，发布了“人工智能安全治理框架”的2.0版本。与去年9月发布的1.0版本相比，该版本的情节有哪些更改？ 国家互联网急诊中心副主任刘博（Liu Bo）：框架2.0是水平的，并在1.0的基础上进行了水平和垂直加深，其中包括 - 包括发展人工智能技术的趋势和技术实践，继续监控风险的风险，迭代地改善了课堂系统的系统，以优化了预防和控制提案。 据了解，近年来，购买了人工智能技术和应用，开发了数千个行业。同时，显示人造的安全风险情报正在同时出现和改变。 2.0版的“人工安全框架”遵循并组织了相关风险，并更新了预防和控制步骤。 就管理原则而言，该图的2.0版本添加了“受信任的应用程序并防止控制之外”的原则。促进可信赖的基本人工智能标准的发展，这些标准涵盖了许多层次，例如技术保护，价值匹配和协作，确保技术的发展是安全，可靠和控制的，严格避免了始终在人为的人造人工人工人工人工人工人工人工人工人工的控制下，始终在人工控制的情况下失控的风险。 同时，Framework 2.0的版本还添加了人工智能的安全风险原则和可信赖的人工智能的基本原理。 Natio副主任Liu BoNAL Internet紧急中心：这部分是一个新的主题内容，添加到Framework 2.0中，划分了五个级别的风险，并阐明了对风险和其他风险的评分的基本想法。已经提出了八项值得信赖的人工智能的基本原则，包括对人的最终控制，尊重国家主权，价值一致，提高系统透明度，促进验证的目的，加强安全保护，预防和预防前进和全球合作管理。 AI的模拟和示范模型受到网络攻击 人工智能模型已应用于当今许多情况，许多公司都将其分配给了各种活动。但是，这种大型车型安全吗？当您受到攻击时会发生什么？云南（Yunnan）在昆明（Kunming）的主要地区举行的网络安全博览会上，技术人员还向记者展示了它。 参展商技术员王·明格亚（Wang Mingyao）：我们在这里量化企业部署的大型模型。现在，我们看到这个巨大的模型可以正常运行，然后攻击通过扫描发现了大型模型的API接口。这次攻击通过利用这种未经授权的弱点来吸引大型模型。 技术人员告诉记者，一旦攻击采用了大型模型，他就可以在后台实时为大型模型的操作命名，并在大型模型通信过程中查看所有信息。 参展技术员王·明格亚（Wang Mingyao）：如果员工在AI通信期间发送了一些敏感信息，则可以直接通过遥控器获得。这很容易导致公司敏感信息的泄漏。 根据技术人员的说法，一旦攻击采用了大型模型，它很可能会对网络和释放勒索软件进行进一步的攻击。在严重的情况下，有可能毒化大型模型数据。 mingyao参展商技术：控制大型模型后，攻击可以交谈大型模型。确实有可能污染大型模型，或者在其他一些更敏感的操作中。 在这方面，Technics还提醒，在删除大型模型时，企业应严格控制自己的权利，并且不能在没有保护的情况下将其连接到互联网，以避免由于弱点等问题而攻击罪犯。 AI安全风险的细分市场 提供响应步骤 此时发布的2.0版本的“人工智能安全治理框架”已在安全风险中进行了完善和分类，并转发了技术响应和全面的管理措施。 Framework 2.0的版本将安全风险分为三类：对技术，技术安全风险和安全风险的内源性安全风险，即从应用程序造成的危险。 技术的内源性安全风险主要增加了模型的开放资源，这是主要mod的开源ELS可以促进犯罪分子训练“坏模型”。技术应用安全风险增加了特定类型，例如网络内容生态污染。建议通过网络分散和回收模型输出的低质量和不良信息，并且模型的发音将导致网络内容质量的总体下降，甚至会导致特定领域和主题中的内容污染。 从应用程序中造成的危险的内容增加了很多，主要是为了影响劳动力和就业结构，挑战资源的供求平衡，并加剧了科学研究的道德风险。它指出，“人工智能 +科学研究”降低了阈值para的进入科学研究领域，例如生物学和世代，并扩大了普通科学机构和员工的界限，以探索敏感的科学问题。一些机构和人员w这是一种薄弱的科学研究伦理感可能会进行高风险的研究活动，违反社会中的社会伦理和社会，以打开科学技术的“魔术盒”。 在这方面，该图的2.0版本由30个技术响应步骤和14个综合管理步骤概述。 例如，在信息安全性方面，强调必须建立安全护栏以弃用 - 更改以过滤输入和输出，避免恶意注入和非法生成内容，并防止非法输出ng敏感的个人信息和人工智能系统中的重要内容。还必须确定人工智能产生的内容，以实现认可，监视和值得信赖。 国家互联网急诊中心副主任刘宝（Liu Bo）：在管理方面，框架2.0增加了全面的管理步骤，例如改善安全限额整个生命周期的能力，安全有效地发出了重要行业的应用需求，发展科学和技术伦理，并改善了协调的协调能力控制。 柜台“黑色飞行” AI算法快速定位 除了人工智能应用程序带来的安全问题外，无人机和其他行为也发生了SA前几年。在网络安全博览会的地点，参展商向记者展示了一系列反对“黑色飞行”和“随机飞行”的对策。 在模拟无人机“黑色飞行”的现场。这辆“黑色飞行”无人机尽快瞄准和射击降落在地面上。技术人员掌握了他们制造的便携式无人机反击枪。 展览技术员He Yingbiao：我们的自发无人机反枪配备了6个频段频率，这可以是商业无人机和市场上自制跨界车的方便对策。 以及柜台枪，还有一个高级无人机检测和系统系统。通过阻止无人机和控制器之间的信号，并与系统的内置AI算法结合使用，该系统将快速确定无人机识别代码，纬度和其他信息，并将其推向控制平台。 参展技术人员He Yingbiao：标识代码等同于该无人机的ID卡。我们可以通过标识代码与该无人机的所有者一起监视资源。该平台最关键的操作是找到飞行员的纬度和经度信息。纬度和经度试点信息可用于查找飞行员位置。通过监视飞行员的功能，我们帮助公共安全机器人寻找“黑色飞行”无人机飞行员，并为镇压“黑色飞行”和“随机飞行”提供了大力支持。 据了解，该系统也可以实现有效的发现和反击ASURE的自制无人机，目前在Anhuiand其他地方上海的某些公共安全安全中使用。