御话资讯 | 聚焦“AI+安全”动态，网安热点精选

热点追踪

【联合国全球AI治理对话揭示全球权力转移】

近期，联合国启动了“全球人工智能治理对话”。作为聚焦AI治理的多边协商平台，其核心功能是为各国及相关利益方构建长期沟通机制。

来源：赛博研究院

【AI陪伴应用的困局：情感数据防线VS通信安全挑战】

应用情报公司Appfigures向TechCrunch提供的最新数据显示，在全球337个活跃且产生收入的AI陪伴应用中，128个是2025年新发布的，且行业呈现强头部效应。然而，高速增长背后，数据安全与隐私保护问题凸显。

来源：信息安全与通信保密杂志社

【AI 医疗记录员普及加速，患者安全风险浮现】

最新研究与评论指出，人工智能（AI）medical scribes 即时记录医生-病人对话、自动生成临床摘要的趋势在医疗系统中快速扩张，但其采用速度已明显超越验证与监管进程，或对患者安全构成隐患。

来源：安全牛

【OpenAI安全护栏破绽百出，简单提示注入即可绕过】

OpenAI最新推出的Guardrails安全护栏旨在通过检测有害行为来增强AI安全性，但研究人员已利用基本提示注入方法迅速攻破该系统。该框架于2025年10月6日发布，采用大语言模型（LLM）来评估输入输出是否存在越狱和提示注入等风险，但AI研究公司HiddenLayer的专家证明这种自我监管方法会产生可利用漏洞。

来源：FreeBuf

【工信部就《工业和信息化部关于组织开展卫星物联网业务商用试验（征求意见稿）》公开征求意见】

为贯彻落实党中央、国务院决策部署，支持商业航天等新兴产业安全健康发展，规范卫星物联网业务管理，根据国家有关法律法规，工信部编制了《工业和信息化部关于组织开展卫星物联网业务商用试验的通知（征求意见稿）》，现公开征求意见。

来源：中国信息安全