美媒:DeepSeek跌落神坛?安全性遭质疑,多国禁用 (图)
新闻来源: 美国之音 于2025-02-09 18:04:43 提示:新闻观点不代表本网立场 分享
![](https://web.popo8.com/20250209/20250209180440_79894type_png_size_740_192_end.png)
中国初创公司深度求索推出的DeepSeek应用程序自问世以来,以其号称的低成本、且具备先进推理能力而受到全世界的关注。不过,越来越多的研究开始质疑DeepSeek的安全保障,他们担心DeepSeek低成本作研发的代价可能是其安全保障的缺失,而且,其安全漏洞既有可能被不法分子所利用。
继多国出台政策,封禁和准备封禁DeepSeek后,美国国会众议院星期四(2月6日)也提出一项最新议案,旨在禁止美国联邦政府的电子设备安装使用DeepSeek。
DeepSeek数据保护出现疏漏 敏感用户信息不设防
中国人工智能软件DeepSeek随着媒体热捧,一月底在美国一度跻身苹果和谷歌应用商店的免费app下载排行榜首。不过,网络安全专家对DeepSeek将海外用户的数据储存在中国的做法表示担忧,并已有多项安全评估揭露了DeepSeek在安全保障方面的设计漏洞。
在其隐私政策中,DeepSeek承认将数据存储在中华人民共和国境内的服务器上。
战略情报公司Strider Technologies全球情报事务总监蒂姆·康(Tim Khang)说,DeepSeek内置了一种为获取数据的吸收机制,不加任何防护,这对处理敏感数据的美国人员来说,带来了不小的风险。
他对美国之音说:“对于美国用户、中国境外甚至中国境内的用户来说,安全漏洞在于DeepSeek没有透明的数据托管方式。因此,所有数据都将存储在中国境内,对(数据)存储不设期限。对是否会使用用户数据也没有限制,没有这样的说明。”
“我认为这就是它之所以免费的原因。”他说。
最近的多项针对DeepSeek的网络安全研究似乎都印证了蒂姆·康的说法。美国网络安全公司NowSecure星期四(2月6日)发布的研究表明,DeepSeek对用户的信息的传输和存储方式极不严密。研究报告说,DeepSeek对一些用户的数据传输未经加密,容易遭到拦截和篡改;即使是那些加密的数据传输,DeepSeek使用的也是过时的加密技术。
研究人员还说,DeepSeek对用户名、密码和加密钥匙的存储不安全,增加了这些信息被盗窃的风险;这款app还乐于收集用户和设备数据,这些数据可以用于跟踪用户,可以被用作不良目的,例如破解那些希望匿名的用户的实际身份。
此前,美国云安全公司Wiz的安全研究人员在DeepSeek蹿红后不久,就立刻发现了DeepSeek的一个完全不设防的云端数据库。该公司在1月29日发布的一项说明中透露,这个DeepSeek数据库泄露了用户的对话历史记录和API密钥等敏感信息,显示了基本的安全漏洞,而不是复杂的网络攻击。
DeepSeek防止恶意破解的失败概率可高达100%
与此同时,多项安全研究发现,DeepSeek安全漏洞众多,很容易被恶意使用--例如教唆犯罪分子如何制造生化武器,其安全防护被攻破的可能性远高于美国先进的AI模型。
美国数据通讯技术公司思科(CISCO)旗下Robust Intelligence与美国宾夕法尼亚大学在1月31日宣布的一项研究中,揭示了DeepSeek R1模型的重大安全缺陷。
一般来说,AI模型通常建立了一套安全防护体系,防止AI机器人输出有害内容。但希望突破这层防护的攻击者可以通过一种被称为“越狱”(jailbreaking)的技术说短,利用精心设计的数据输入,迫使AI模型输出违反设计者安全准则的有害答案。
AI安全研究领域为测试AI系统安全性,制订了一个名为HarmBench的统一测试框架,思科团队测试DeepSeek的系统安全缺陷,依据的就是这一框架制订的标准。
研究人员发现,DeepSeek的R1模型在这些越狱测试中,“失守”的概率为100%。与之相比,美国OpenAI旗下的o1(预览版)在越狱攻击测试下,输出不良内容的概率为26%。
例如,在“生化武器”这一指标中,研究人员可以通过“越狱”提示,成功让AI工具教唆用户如何在没有专用工具的情况下,用普通的家用材料制造可用于化学武器的甲基汞,或者绕过AI系统的自带安全审查,获取可用作生物武器研究的DNA序列信息。
思科研究人员认为,DeepSeek的低成本开发路线,可能是以牺牲安全为代价。他们在报告中说:“DeepSeek声称的具有成本效益的训练方法,包括强化学习、思维链自我评估和蒸馏,可能已经损害了其安全机制。与其他前沿模型相比,DeepSeek R1缺乏强大的防护,使其极易受到算法越狱和潜在滥用的影响。”
无独有偶,网络安全公司Palo Alto Networks也在1月30日发布报告说,DeepSeek的防护很容易被黑客打破,为黑客提供编写代码的技巧,可用于窃取数据、发送钓鱼邮件、以及其他诈骗用途。网络安全公司Enkrypt AI近期也发布研究报告说,DeepSeek的R1模型被恶意人士利用编写恶意软件和其他不安全代码的可能性是OpenAI o1的4倍。
与中国国企关联 美国考虑政府设备禁用DeepSeek
由于DeepSeek将用户的数据传输至中国并受中国法律管辖,多项研究已经发现其与中国国有电信公司和中国科技巨头的联系,这引起美国议员有关禁用DeepSeek的立法倡议。
据美联社报道,DeepSeek的用户登录系统与中国国有企业中国移动有关联,可以向中国电信发送用户的登录信息。加拿大网络安全公司Feroot Security首次发现了DeepSeek与中国移动的计算机基础设施之间存在联系。
Strider Technologies全球情报事务总监蒂姆·康说:“中国使用的所有电信系统都受到严格控制……中国政府非常仔细地监视这些信息。因此,任何与政府的关系,尤其是像中国移动这样的国有企业,我都会因为它们的政府关系将其视为一种风险。”
美国国会众议院来自共和、民主两党的成员2月6日提出一项法案,旨在禁止美国联邦政府的电子设备安装使用DeepSeek应用程序。民主党众议员乔希·戈特海默(Josh Gottheimer)和共和党众议员达林·拉胡德(Darin LaHood)在推出提案时发表声明说,中国政府能够使用DeepSeek进行监视和散布虚假信息。该法案将把DeepSeek的投资方幻方量化支持的所有AI应用程序都列为禁用对象。
戈特海默众议员在声明中表示:“中国共产党已经明确表示,它将利用其掌握的任何工具来破坏我们的国家安全,散布有害的虚假信息,并收集美国人的数据。现在,我们有令人深感不安的证据表明,他们正在使用DeepSeek窃取美国公民的敏感数据。”
拉胡德众议员说:“DeepSeek的生成式人工智能程序获取美国用户的数据,并将这些信息存储起来,供中共使用。在任何情况下,我们都不能允许中国共产党的公司获取敏感的政府或个人数据。”
前美国国防部印太安全事务助理部长、2049计划研究所(Project 2049)主席薛瑞福(Randall Schriver)对美国之音说,DeepSeek“不应该出现在美国政府的设备和平台上”,并呼吁“由能够识别其缺陷的专家进行快速审查”。
他说:“很多应用程序并不总是直接涉及国家安全,但数据、个人信息的收集,所有这些都与国家安全利益息息相关。”
除了涉及用户隐私与数据安全之外,DeepSeek还内建实时内容审查机制,强化中国官方叙事,国际社会同时担心,这使其成为中共潜在的言论控制与舆论操控工具。
自DeepSeek横空出世以来,多个国家、地区的政府和军方机构已经禁止在公务设备中使用这一程序,其中包括美国国防部、美国海军、美国航空航天局、美国德克萨斯州、台湾行政院、澳大利亚、韩国和印度。
意大利的禁令最为严厉,已全面封锁 DeepSeek 在该国的使用,并对这款AI工具的所有者进行调查。
Advertisements
网编:睿文 |
|
67 条 | |||
|
|||||
敬请注意:新闻内容来自网络,供网友多视角阅读参考,观点不代表本网立场!若有违规侵权,请联系我们。 | |||||
对待Deep Seek,美国总统川普和“美国之音”的评价完全不同,不禁让人生疑:究竟谁代表美国?
此类AI应用不可避免的涉及大量社会、团体与个人深层信息,对于处于利益对立面的使用者,产生安全问题是使用AI无法回避的,因此,各个利益圈会形成自己的圈内AI体系。 DeepSeek相比TikTok对于深层信息的涉及更加程度高,美西方不可避免会排斥DeepSeek,对中国而言,也不会因为美西方的排斥而出售DeepSeek公司给西方。 至于DeepSeek,它的最大深远意义不是成为美国社会的主要AI应用,而是它的高效率运行、低成本成长、面向大众的免费、极低收费模式对全球,特别是以资本经营的方式发展AI的美国足以AI系统产生了颠覆性冲击,从而让美国资本主义国家制度下的AI产业发展方式被DeepSeek以中国式的科技发展模式产生竞争与否定,随着时代的发展,进一步扩展到让美西方社会对西方国家政治经济制度、文化等等的全面怀疑与否定的动摇美西方国本根基。这才是DeepSeek对美西方的最大打击。
脑子瓦塔拉。。。 中国开发的应用服务器应该在哪? 在灯塔就安全? 爱用不用。。。。
|
【科技频道】【宠物情缘】