一项由 Anthropic 联合英国人工智能安全研究所及艾伦图灵研究所开展的重要研究揭示,仅仅 250 个被恶意“投毒”的文档,就足以在大型语言模型(LLM)中成功植入后门,且攻击效果不受模型参数规模影响。
打破固有观念:极少量污染数据即可操控模型行为
研究团队对从 6亿 到 130亿 参数的多种模型进行了测试,结果表明,即便使用更高质量、更纯净数据训练的更大模型,其抵御此类攻击的能力并未提升——所需中毒样本数量始终维持在同一水平。这一发现推翻了过去普遍认为攻击者必...
腾讯 ai lab 联合香港中文大学(深圳)、南京大学共同推出了一款全新的开源歌曲生成模型 songbloom,其研究成果已成功入选全球顶尖人工智能会议 neurips 2025。
据介绍,SongBloom 是一款专注于高质量歌曲创作的创新性生成模型。仅需提供一段 10 秒的音频参考样本和对应歌词文本,即可自动生成时长为 2 分 30 秒、双通道/48kHz 的完整音乐作品。在主客观综合评估中,该模型不仅显著优于现有开源方案,还在音质还原度与歌词对齐精度两大关键指标上...
麻省理工学院计算机科学与人工智能实验室(CSAIL)联合丰田研究院近日发布了一项创新的生成式 AI 技术——“可引导场景生成”(steerable scene generation),旨在增强机器人在复杂环境中的学习能力。该工具能够构建高度逼真的虚拟空间,如厨房、客厅和餐厅等室内场景,供研究人员测试机器人执行现实世界任务的表现。
这一平台基于超过4400万个3D房间数据进行训练,具备独特的“可引导性”,其核心技术是一种名为“蒙特卡洛树搜索”(Monte Carlo...
科技媒体 the register 报道称,英特尔数据中心部门负责人 kevork kechichian 近日在亚利桑那州的一场活动中透露,公司正在重新评估其在开源生态系统中的参与方式与战略投入。
Kechichian 指出,尽管英特尔目前在开源基础设施方面已实现“极为广泛的覆盖”,但接下来的重点是确保这些贡献能够“更有效地为英特尔自身创造价值”,而非单纯地让其他竞争企业搭便车。他进一步说明,英特尔希望避免出现竞争对手从其开源成果中获益超过英特尔自身的情况。
他表...
AI PC 市场的竞争正在升温,格局也在重塑。
无论是对于终端 AI 的讨论,还是智能硬件的热潮,其本质都是关于下一代计算入口的争夺,其底层逻辑是,将智能无缝融入个人设备,让 AI 从需要主动调用的工具,演变为随时待命、主动服务的环境能力。交互模式的改变,意味着我们需要重新定义终端的形态,而 PC 作为个人办公和娱乐的第一设备,就成为了必争之地。
这一趋势在9月25日2025抖音商城秋上新·琥珀流光上新大秀中,也可见一斑。
传统时装周的物理边界被彻底打破,取...
随着人工智能在银行及金融领域的应用日益广泛,全球金融监管组织正着手推进更严格的监督措施,以应对潜在风险。
一个主要关注点在于,越来越多的金融机构可能依赖相同的人工智能模型和专用计算硬件,从而形成高度集中的技术路径。这种趋势可能引发“羊群效应”,即机构在缺乏多样化选择的情况下采取趋同决策,增加系统性风险。
隶属于二十国集团(G20)的金融稳定委员会(Financial Stability Board)在其最新报告中警告称:“当可替代的技术方案稀缺时,对少数AI系统的...
谷歌最新推出企业级AI解决方案:Gemini Enterprise,打造工作场景中的人工智能新入口。它不再局限于零散的AI工具,而是升级为覆盖完整工作流程的全栈式平台,成为推动企业全面AI化的核心基础设施。
该平台依托领先的Gemini大模型,支持用户通过自然对话形式,与企业内部文档、数据系统及各类应用实现无缝交互。同时,结合企业的实际业务语境和信息资产,员工无需编写代码即可快速构建并部署专属的AI智能体。
Gemini Enterprise由六大核心模块构成,全...
在最近举办的 Sifted 峰会上,前谷歌首席执行官埃里克・施密特就人工智能的安全隐患发出了警告。他指出,AI 技术存在被恶意利用的风险,一旦落入不法分子之手,可能带来严重后果。无论是开源还是闭源的人工智能系统,都有可能遭受黑客入侵,导致其安全机制被破坏。施密特强调,这些模型在训练过程中可能吸收了大量有害信息,甚至有可能“学会”极具危害性的能力。
他提到,尽管大型科技企业已采取多种手段防止 AI 回答涉及暴力、犯罪或其他高风险内容的问题,但这些防护措施并非牢不可破。...
我国“十四五”规划纲要明确指出,要坚持创新驱动发展战略,强化原创性、引领性科技攻关,鼓励企业持续加大研发投入。据央视财经最新报道,过去五年间,科技创新与产业创新实现深度融合,企业研发投入占比已超过77%,高新技术企业数量突破50万家,较之前增长83%。
同时,“十四五”规划还强调推进关键数字技术的创新与应用,加速数字产业化进程,重点发展人工智能、大数据等新兴数字产业。数据显示,我国人工智能企业数量从五年前的1400多家迅速增长至目前的5000家以上,相当于平均每约1...
面对新一轮科技革命与产业变革的交汇,5g、人工智能、大数据等前沿技术的深度融合正以前所未有的速度重塑世界格局。10月10日至12日,在中国广州保利世贸博览馆举行的中国移动全球合作伙伴大会,成为这场深刻变革的“风向标”与“创新试验场”。大会通过集中呈现领先数字技术和应用场景,深化与各行各业的战略协同,加速推动先进科技成果落地转化,助力我国在全球数字经济竞争中赢得主动、构建优势。
作为中国移动的重要战略伙伴,华为擎云携多款面向特定场景的解决方案及鸿蒙办公商用产品亮相本次...