legendBro's recent timeline updates
legendBro

legendBro

V2EX member #608505, joined on 2022-12-30 08:44:59 +08:00
Today's activity rank 1271
legendBro's recent replies
4h 18m ago
Replied to a topic by ned1991 程序员 用中转站的兄弟们有福了
没关系,国产 AI 大模型厂家,也是大号中转站,哈哈。

美国人工智能( AI )模型 Claude 开发商 Anthropic 发布长篇报告,详细披露月之暗面和深度求索( DeepSeek )等中国 AI 公司如何蒸馏美国模型,包括将疑似解放军、警察、国企用户的内部信息发给美国 AI 。

Anthropic 星期五( 9 月 11 日)发布迄今为止最详尽的威胁情报报告。这份报告涵盖了 Claude 如何被滥用于网络攻击、影响力行动、监控和制造武器等,以及 Anthropic 如何发现并阻止这些行为。

报告提到,开发 Kimi 系列模型的中国明星 AI 公司月之暗面,并没有使用 Kimi 模型处理客户请求,而是悄悄地将用户请求转发给 Claude 模型。月之暗面使用了一个由 5380 个欺诈账户组成的代理服务网络,今年 5 月至 7 月期间的蒸馏交互次数超过 2300 万次。用户以为自己使用的是 Kimi 模型,但实际上收到的是 Claude 模型的回复。

Anthropic 称,月之暗面转接到 Claude 的用户查询中包含敏感信息。“我们尚不清楚月之暗面是否告知其客户,他们的请求将被转接到 Anthropic 并暴露给第三方。”

调查发现,这其中包括“与解放军有关联的监控活动”。 一名用户使用 Kimi 模型,从监控录像库中调取了针对特定目标人物的监控数据。这名用户要求 Kimi 分析这些监控数据,以判断被追踪者是否存在异常行为。这些监控数据包含来自成都市数百个摄像头的视频监控画面,其中包括驻军设施外、中国电子科技集团下属机构以及一家大型国有企业外的摄像头。

一名就职于中国大型国有企业的工程师,也使用 Kimi 为公司构建内部系统。在完全不知道自己使用 Kimi 的行为会被转发给 Claude 的情况下,这名工程师泄露了多家中国大型企业的内部代码和有效凭证。

调查显示,DeepSeek 也采用与月之暗面类似的策略,今年 7 月的 14 天内,来自 DeepSeek 的蒸馏攻击规模超过 1210 万次。

在 DeepSeek 的案例中,Anthropic 披露,中国一地的公安局工程师在开发案件管理系统时使用 DeepSeek ,DeepSeek 将这些请求转发给 Claude 。工程师随后开发出一个工具,利用公民的身份证号码,将个人的行踪与警方记录进行比对。

报告也披露了阿里巴巴、小米、智谱、商汤科技等中国科技公司的非法蒸馏行为。阿里巴巴被指发起是 Anthropic 迄今为止监测到的最大规模“蒸馏”。今年 5 月至 7 月期间,可归因于阿里巴巴的“蒸馏”规模超过 1.51 亿次。

Anthropic 称,这些发现引发人们对中国 AI 实验室滥用用户数据的担忧。这些实验室将 Claude 的回复作为训练数据,其中一些对话包含敏感信息,包括来自个人用户、大型跨国公司以及与政府有关联实体的信息。这些会话包含数百名终端用户的姓名、电子邮件地址、公司数据和其他敏感数据,涉及至少十几种语言。此类做法很可能违反了隐私法律和这些实验室自身的服务条款。
4h 25m ago
Replied to a topic by en26sky 生活 躺平是不是版本答案?
低成本健康生活,比年纪轻轻猝死好
1 day ago
Replied to a topic by nb85144 生活 咸鱼的小法庭机制真是妙啊
公民裁决团
发送前没有 review ,说明没有 review 习惯
水电工
9 days ago
Replied to a topic by xiyy02 生活 可能得抑郁症了,要不要离职去就医
好了,你是抑郁症转双向情感障碍了
只要不结婚,你朋友就是在玩别人的老婆,不亏
全干工程师
很多家长就是不愿意承认自己孩子成绩差,要么是因为笨,要么是因为孩子不愿意学习,花钱买心安。
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3063 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 12ms · UTC 10:52 · PVG 18:52 · LAX 03:52 · JFK 06:52
♥ Do have faith in what you're doing.