时政·财经·军事 | 生活·家庭·娱乐 | 体坛·历史·科技 | 摄影·旅游·文化 | 移民·教育·就业 | 数码·健康·奇闻 | 社区·评论·问卷
留园网首页 · 新闻速递首页 · 【繁體閱讀】 【网友评论:67 条】 【 热评新闻排行 】 【 热门新闻排行 】 【 即刻热度新闻排行 】 【 72小时神评妙论 】   

美媒:DeepSeek跌落神坛?安全性遭质疑,多国禁用 (图)

新闻来源: 美国之音 于2025-02-09 18:04:43  提示:新闻观点不代表本网立场



中国初创公司深度求索推出的DeepSeek应用程序自问世以来,以其号称的低成本、且具备先进推理能力而受到全世界的关注。不过,越来越多的研究开始质疑DeepSeek的安全保障,他们担心DeepSeek低成本作研发的代价可能是其安全保障的缺失,而且,其安全漏洞既有可能被不法分子所利用。

继多国出台政策,封禁和准备封禁DeepSeek后,美国国会众议院星期四(2月6日)也提出一项最新议案,旨在禁止美国联邦政府的电子设备安装使用DeepSeek。

DeepSeek数据保护出现疏漏 敏感用户信息不设防

中国人工智能软件DeepSeek随着媒体热捧,一月底在美国一度跻身苹果和谷歌应用商店的免费app下载排行榜首。不过,网络安全专家对DeepSeek将海外用户的数据储存在中国的做法表示担忧,并已有多项安全评估揭露了DeepSeek在安全保障方面的设计漏洞。

在其隐私政策中,DeepSeek承认将数据存储在中华人民共和国境内的服务器上。

战略情报公司Strider Technologies全球情报事务总监蒂姆·康(Tim Khang)说,DeepSeek内置了一种为获取数据的吸收机制,不加任何防护,这对处理敏感数据的美国人员来说,带来了不小的风险。

他对美国之音说:“对于美国用户、中国境外甚至中国境内的用户来说,安全漏洞在于DeepSeek没有透明的数据托管方式。因此,所有数据都将存储在中国境内,对(数据)存储不设期限。对是否会使用用户数据也没有限制,没有这样的说明。”

“我认为这就是它之所以免费的原因。”他说。

最近的多项针对DeepSeek的网络安全研究似乎都印证了蒂姆·康的说法。美国网络安全公司NowSecure星期四(2月6日)发布的研究表明,DeepSeek对用户的信息的传输和存储方式极不严密。研究报告说,DeepSeek对一些用户的数据传输未经加密,容易遭到拦截和篡改;即使是那些加密的数据传输,DeepSeek使用的也是过时的加密技术。

研究人员还说,DeepSeek对用户名、密码和加密钥匙的存储不安全,增加了这些信息被盗窃的风险;这款app还乐于收集用户和设备数据,这些数据可以用于跟踪用户,可以被用作不良目的,例如破解那些希望匿名的用户的实际身份。

此前,美国云安全公司Wiz的安全研究人员在DeepSeek蹿红后不久,就立刻发现了DeepSeek的一个完全不设防的云端数据库。该公司在1月29日发布的一项说明中透露,这个DeepSeek数据库泄露了用户的对话历史记录和API密钥等敏感信息,显示了基本的安全漏洞,而不是复杂的网络攻击。

DeepSeek防止恶意破解的失败概率可高达100%

与此同时,多项安全研究发现,DeepSeek安全漏洞众多,很容易被恶意使用--例如教唆犯罪分子如何制造生化武器,其安全防护被攻破的可能性远高于美国先进的AI模型。

美国数据通讯技术公司思科(CISCO)旗下Robust Intelligence与美国宾夕法尼亚大学在1月31日宣布的一项研究中,揭示了DeepSeek R1模型的重大安全缺陷。

一般来说,AI模型通常建立了一套安全防护体系,防止AI机器人输出有害内容。但希望突破这层防护的攻击者可以通过一种被称为“越狱”(jailbreaking)的技术说短,利用精心设计的数据输入,迫使AI模型输出违反设计者安全准则的有害答案。

AI安全研究领域为测试AI系统安全性,制订了一个名为HarmBench的统一测试框架,思科团队测试DeepSeek的系统安全缺陷,依据的就是这一框架制订的标准。

研究人员发现,DeepSeek的R1模型在这些越狱测试中,“失守”的概率为100%。与之相比,美国OpenAI旗下的o1(预览版)在越狱攻击测试下,输出不良内容的概率为26%。

例如,在“生化武器”这一指标中,研究人员可以通过“越狱”提示,成功让AI工具教唆用户如何在没有专用工具的情况下,用普通的家用材料制造可用于化学武器的甲基汞,或者绕过AI系统的自带安全审查,获取可用作生物武器研究的DNA序列信息。

思科研究人员认为,DeepSeek的低成本开发路线,可能是以牺牲安全为代价。他们在报告中说:“DeepSeek声称的具有成本效益的训练方法,包括强化学习、思维链自我评估和蒸馏,可能已经损害了其安全机制。与其他前沿模型相比,DeepSeek R1缺乏强大的防护,使其极易受到算法越狱和潜在滥用的影响。”

无独有偶,网络安全公司Palo Alto Networks也在1月30日发布报告说,DeepSeek的防护很容易被黑客打破,为黑客提供编写代码的技巧,可用于窃取数据、发送钓鱼邮件、以及其他诈骗用途。网络安全公司Enkrypt AI近期也发布研究报告说,DeepSeek的R1模型被恶意人士利用编写恶意软件和其他不安全代码的可能性是OpenAI o1的4倍。

与中国国企关联 美国考虑政府设备禁用DeepSeek

由于DeepSeek将用户的数据传输至中国并受中国法律管辖,多项研究已经发现其与中国国有电信公司和中国科技巨头的联系,这引起美国议员有关禁用DeepSeek的立法倡议。

据美联社报道,DeepSeek的用户登录系统与中国国有企业中国移动有关联,可以向中国电信发送用户的登录信息。加拿大网络安全公司Feroot Security首次发现了DeepSeek与中国移动的计算机基础设施之间存在联系。

Strider Technologies全球情报事务总监蒂姆·康说:“中国使用的所有电信系统都受到严格控制……中国政府非常仔细地监视这些信息。因此,任何与政府的关系,尤其是像中国移动这样的国有企业,我都会因为它们的政府关系将其视为一种风险。”

美国国会众议院来自共和、民主两党的成员2月6日提出一项法案,旨在禁止美国联邦政府的电子设备安装使用DeepSeek应用程序。民主党众议员乔希·戈特海默(Josh Gottheimer)和共和党众议员达林·拉胡德(Darin LaHood)在推出提案时发表声明说,中国政府能够使用DeepSeek进行监视和散布虚假信息。该法案将把DeepSeek的投资方幻方量化支持的所有AI应用程序都列为禁用对象。

戈特海默众议员在声明中表示:“中国共产党已经明确表示,它将利用其掌握的任何工具来破坏我们的国家安全,散布有害的虚假信息,并收集美国人的数据。现在,我们有令人深感不安的证据表明,他们正在使用DeepSeek窃取美国公民的敏感数据。”

拉胡德众议员说:“DeepSeek的生成式人工智能程序获取美国用户的数据,并将这些信息存储起来,供中共使用。在任何情况下,我们都不能允许中国共产党的公司获取敏感的政府或个人数据。”

前美国国防部印太安全事务助理部长、2049计划研究所(Project 2049)主席薛瑞福(Randall Schriver)对美国之音说,DeepSeek“不应该出现在美国政府的设备和平台上”,并呼吁“由能够识别其缺陷的专家进行快速审查”。

他说:“很多应用程序并不总是直接涉及国家安全,但数据、个人信息的收集,所有这些都与国家安全利益息息相关。”

除了涉及用户隐私与数据安全之外,DeepSeek还内建实时内容审查机制,强化中国官方叙事,国际社会同时担心,这使其成为中共潜在的言论控制与舆论操控工具。

自DeepSeek横空出世以来,多个国家、地区的政府和军方机构已经禁止在公务设备中使用这一程序,其中包括美国国防部、美国海军、美国航空航天局、美国德克萨斯州、台湾行政院、澳大利亚、韩国和印度。

意大利的禁令最为严厉,已全面封锁 DeepSeek 在该国的使用,并对这款AI工具的所有者进行调查。

			
网编:睿文

鲜花(0)

鸡蛋(15)
67 条
【手机扫描浏览分享】

扫一扫二维码[Scan QR Code]
进入内容页点击屏幕右上分享按钮


敬请注意:新闻内容来自网络,供网友多视角阅读参考,观点不代表本网立场!若有违规侵权,请联系我们。
热门评论当前热评  更多评论...
评论人:中立[☆品衔R4☆][个人频道][个人动态] 2025年02月09日21:04 回复
美国之音与其他狗粮一样属于垂死挣扎,兔子尾巴长不了。
20  
评论人:fybs[★品衔R5★][个人频道][个人动态] 2025年02月09日19:01 回复
只有美国没有安全问题?
22   1
评论人:痴呆老人[☆品衔R3☆][个人频道][个人动态] 2025年02月09日18:36 回复
应该是DeepSeek打破美国神坛,不禁不行啊!
21   3
评论人:tomtangwws[☆★声望品衔7★☆][个人频道][个人动态] 2025年02月09日18:27 回复
对待Deep Seek,美国总统川普和“美国之音”的评价完全不同,不禁让人生疑:究竟谁代表美国?
66   2
评论人:元非[♂★反者道之动★♂][个人频道][个人动态] 2025年02月09日18:26 回复
 
此类AI应用不可避免的涉及大量社会、团体与个人深层信息,对于处于利益对立面的使用者,产生安全问题是使用AI无法回避的,因此,各个利益圈会形成自己的圈内AI体系。
 
DeepSeek相比TikTok对于深层信息的涉及更加程度高,美西方不可避免会排斥DeepSeek,对中国而言,也不会因为美西方的排斥而出售DeepSeek公司给西方。
 
至于DeepSeek,它的最大深远意义不是成为美国社会的主要AI应用,而是它的高效率运行、低成本成长、面向大众的免费、极低收费模式对全球,特别是以资本经营的方式发展AI的美国足以AI系统产生了颠覆性冲击,从而让美国资本主义国家制度下的AI产业发展方式被DeepSeek以中国式的科技发展模式产生竞争与否定,随着时代的发展,进一步扩展到让美西方社会对西方国家政治经济制度、文化等等的全面怀疑与否定的动摇美西方国本根基。这才是DeepSeek对美西方的最大打击。
 
14   2
评论人:liuyuan1000[☆~愿世界和平~☆][个人频道][个人动态] 2025年02月09日18:11 回复
脑子瓦塔拉。。。 中国开发的应用服务器应该在哪? 在灯塔就安全? 爱用不用。。。。
68   2
评论人:googlebot[★品衔R6★][个人频道][个人动态] 2025年02月09日18:07 回复
openAI就没问题?
48   2
新闻速递首页 | 近期热门新闻 | 近期热评新闻 | 72小时神评妙论 | 即刻热度新闻排行
科技频道】【宠物情缘
前期相关精彩新闻
新闻速递首页·向留园新闻区投稿·本地新闻·返回前页