八国与多家 AI 公司签署巴黎宣言,承诺为受控模型设置关停机制
八个国家、科技公司与民间组织代表在 11 月 9 日签署《巴黎 AI 安全与安保宣言》,OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei、Microsoft 的 Brad Smith、Mistral AI 的 Arthur Mensch、Yoshua Bengio 与美国财长 Scott Bessent 参与,德国未签署。
八个国家、科技公司与民间组织代表在 11 月 9 日签署《巴黎 AI 安全与安保宣言》,OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei、Microsoft 的 Brad Smith、Mistral AI 的 Arthur Mensch、Yoshua Bengio 与美国财长 Scott Bessent 参与,德国未签署。
Hugging Face 首席政策官兼战略高级副总裁 Irene Solaiman 在 Equity 播客中表示,开放平台的门槛低和数据丰富既是其价值所在,也使其更易遭攻击。
The Verge 报道称,英伟达 CEO 黄仁勋与新加坡云服务商 Megaspeed 高管 Alice Huang 的婚外情曝光,美方官员认为后者是中国情报人员。
《纽约时报》报道称,Nvidia CEO 黄仁勋与 Megaspeed 高管 Alice Huang 有往来,后者被指为中国国家安全部招募的人员,Megaspeed 则采购了价值 48 亿美元的 Nvidia 芯片。
Apiiro 的 AI 安全研究人员发现,Claude Code 的设置文件在公开 GitHub 仓库中泄露了数千条密钥,包括数据库密码、API token 和 root 登录信息。
特朗普在《60分钟》采访中表示,AI 模型的安全风险“没有他们说的那么真实”,并称风险可以且正在被管理。他称司法部曾就某 AI 公司负责人“用 AI 做坏事”发出逮捕警告,对方随后“彻底改变了一切”,但拒绝透露具体人名或公司,只说是“大型 AI 公司之一”。被问及是否愿与民主党合作推进 AI 安全时,特朗普称“绝对愿意”,表示不反对监管护栏,但不愿让美国落到第二位,并称中国“没有护栏”。
Nvidia 正在调查中国情报机构是否通过黄仁勋的婚外情对其进行针对。Ars Technica 援引 Financial Times 报道称,黄仁勋已承认这段婚外情,事件由此演变为国家安全问题。
英伟达董事会宣布就 CEO 黄仁勋向员工承认对妻子不忠一事启动独立调查,涉事对象 Megaspeed 高管 Alice Huang 被美方怀疑为中国间谍。耶鲁管理学院教授 Jeffrey Sonnenfeld 认为黄仁勋的职业生涯尚可挽回,但留任概率约为五五开,并指出英伟达处于 AI 融资网络中心、又缺少明确接班梯队,使这次领导层危机的影响超出公司本身。
推荐理由:耶鲁学者评估黄仁勋去留概率,并梳理英伟达在AI融资网络中的位置如何放大这次领导层危机。
Nvidia 董事会宣布启动独立调查,审查创始人兼 CEO 黄仁勋与 Megaspeed 高管 Alice Huang 的关系。董事会称由独立董事组成委员会、聘请外部独立律师监督调查,并表示目前没有理由认为国家安全或 Nvidia 机密遭到泄露。
美国北卡罗来纳州女子 Cheryl Gates 被指控用 ChatGPT 策划毒杀丈夫 James,大陪审团已于 10 月以一级谋杀未遂和食品污染罪名起诉她。
Latent Space 的 AINews 汇总了 11 月 2 日至 3 日的 AI 动态,重点回应了此前“权重空间编程”报道的争议,承认部分说法呈现得过于乐观,但指出该结果已被多个独立复现。
Google DeepMind 与新加坡政府科技局(GovTech Singapore)合作,基于轻量级 Gemma 模型微调出一个端侧诈骗检测模型,可在用户设备上分析对话并实时预警。