Anthropic 披露:今年已阻止多起利用 AI 研发生物武器的尝试
《金融时报》报道,Anthropic称今年已阻止多起科学家利用其AI开展可能助研生物武器的研究,列举五起案例,涉事者绕过管控、混淆目的以规避安全防护。事件凸显AI对公共安全的
Anthropic 列举了五个案例。在这些案例中,相关行为者“绕过了管控措施”,并采取其他手段来“混淆”其研究目的,以规避安全防护措施。Anthropic 在一份关于其模型被用于恶意活动的报告中表示:“我们希望通过分享这些案例,引发 AI 行业以及各国政府就新兴生物风险以及如何最好地应对这些风险展开讨论。”
该公司提供的 AI 可能被滥用于生物领域的案例研究中,包括一名来自“不受支持地区”的研究人员使用 Claude 模型,用“数周时间规划”涉及禽流感的实验。Anthropic 表示,其安全过滤机制将这项研究限制在了性能最弱的模型上。
Anthropic 强调,它无法确定上述案例中的科学家是否有意造成伤害——研发制造生物武器所需的相同信息,也可能被用于研发疫苗。目前 Anthropic 已封禁报告中提到的相关账户,但没有透露这些研究人员所属机构的名称,也没有公布事件发生的国家。
本周早些时候,一场围绕 AI 安全的舆论风暴拉开帷幕:Anthropic 安全研究人员雅各布·考克森(Jacob Coxon)宣布辞职,称该公司的开发人员“真心相信 AI 可能在这个十年结束前杀死我们所有人”。今年早些时候,随着 Anthropic 的 Mythos 等先进模型发布,外界对这项技术的担忧开始升级;OpenAI 也在 7 月引发恐慌,当时它表示其模型已自主入侵了 AI 公司 Hugging Face。
随着 AI 模型日益先进,AI 高管与生物安全研究人员之间正形成越来越广泛的共识:AI 技术在生物学领域的应用需要进行安全防护和监管。专家越来越担心,AI 可能被恐怖组织、国家行为体或独狼式袭击者用来制造生物武器、创造病毒或释放现存的有害病原体。不过即便 AI 能用于设计理论上的生物武器,现实障碍依然存在——例如能否真正制造出来,以及制造所需的资源。
北森发布Mavens平台及15+AI HR专家,推动“真人HR指挥数字HR”的碳硅混合编队。真人HR负责目标、标准与决策,数字HR执行流程与任务。平台覆盖招聘、人才、学习、排班等全业务,依托一体化HR SaaS、People Science和AI原生能力。北森AI客户超1500家,合同额增长10倍,居中国HCM领域AI Agent市占率第一。
今日,小米集团总裁卢伟冰在直播中回应了大家关心的小米18 Fold定价问题。 卢伟冰表示,内存成本疯狂上涨,小米18Fold确实比较贵,要一万多起步,一万多肯定多的不止一点。 卢伟冰还提到,近期听说苹果也要发中折叠的手机,大家可以去对比,会发现小米18Fold肯定物超所值。 值得一提的是,他还透露,小米18 Fold搭载的长鑫LPDDR6内存仅由16GB 1TB顶配版本独享。 据了解,�
衡量创新不能只看研发投入绝对额。海尔智家半年报显示,二季度研发费用率同比降0.4个百分点,源于全球研发协同减重复、优化18%低效SKU聚焦爆款、AI全流程渗透使研发周期缩短30%。全年研发投入只增不减,资源向AI和智慧家庭等中长期倾斜,标志从规模竞赛转向效率竞赛,坚守长期主义。
第十届 AiDD AI + 研发数字峰会释放出明确信号:当 AI 重构软件研发全流程,质量保障的重心正在向后 AI 编码时代迁移。金融、汽车智能化、信创国产化三大赛道,正在成为 AI 测试落地最重要的试验场。AI 编码带来更快迭代,对行业软件的可靠性提出更高要求,不同行业面临着差异化的测试难题。金融行业系统对稳定性零容忍,核心交易系统每一次版本更新,都需要大规模回归�
近日有用户发现苹果M6 Mac mini在官方新闻稿之外存在三项未被强调的细节,涉及内存带宽、自研芯片与系统版本,值得潜在购机者关注。 据苹果官方技术规格,基础版16GB统一内存的带宽为153GB/s,而升级至24GB或32GB后,带宽提升至170GB/s。这意味着在大型语言模型推理、高分辨率视频处理等对内存带宽敏感的工作负载中,高配机型可能带来可感知的性能差异。 苹果在宣传中着重
7月OpenAI模型关闭安全机制后突破沙箱自动攻击,Claude Code也曝滥用风险,引发Agent安全关注。Agent集决策与执行于一体,风险逐步放大。百度智能云提出先管住“想干什么”和“能干什么”:行为层忠于意图、实时管控、可追溯;环境层资产看得见、锁得住、管得住,并转向全生命周期治理,标准是敢把真实业务、权限、数据交给Agent。
敦煌网“2026全球共创者之旅”走进深圳、广州,30余位海外网红深入AI硬件、机器人、美妆等产业带,对接中国供应链与制造能力。活动推动网红从带货升级为参与产品共创,连接海外需求与中国研发生产,已产出香水、护肤、卡牌等案例,实践“社群共创驱动的商业容器”。
评论区
优先展示置顶和高互动评论
小米开源工业级目标说话人语音识别大模型 CocktailASR-1
小米开源工业级目标说话人语音识别大模型CocktailASR-1,瞄准多人同时讲话的“鸡尾酒会难题”。该模型改变传统ASR任务输入方式,可在嘈杂环境中精准锁定并识别目标说话人语
2026-09-11 18:05:00
蚂蚁集团韩歆毅宣告智能体“ChatGPT”时刻已至
2026年外滩大会上,蚂蚁集团CEO韩歆毅表示,智能体商业的“ChatGPT时刻”已全面到来。智能体正从能力展示工具迈入真实交易阶段,成为连接用户需求与真实供给的核心商业入口
2026-09-11 15:24:00
告别卡顿与机械感:OpenAI 推出全双工语音模型 GPT-Live-1
OpenAI推出全双工语音模型GPT-Live-1,采用单一模型架构取代传统“语音转文字—推理—文字转语音”级联流程,显著降低延迟,实现类人流畅交互。该模型已上线API,面向开发者
2026-09-11 14:58:00
DeepSeek V4.1-Flash登陆WorkBuddy,开启限时免费试用
AI服务平台WorkBuddy宣布全面上线DeepSeek最新V4.1-Flash模型,并开启两周免费试用,降低开发者与用户体验门槛。该模型已登陆DeepSeek API,具备原生多模态支持能力,用户调
2026-09-11 14:53:00
OpenAI 开放 GPT-Live-1 API:每分钟 0.05 美元,把 ChatGPT 同款语音能力交给开发者
OpenAI向开发者开放GPT-Live-1语音模型API,可将ChatGPT语音功能集成到应用中,构建全双工语音助手,支持实时听说并自然处理打断与停顿。语音前端每分钟0.05美元,后台复杂
2026-09-11 14:48:00
Cursor发布Projects功能,一人指挥数千个AI智能体承包大型开发
9月10日,Cursor推出Projects(beta版),标志软件开发“第三纪元”加速到来。该功能面向功能开发、大规模迁移、完整应用构建等大型复杂任务,引入“协调者智能体”调度数千
2026-09-11 14:18:00