AI新闻

已选标签:
模型安全
AI训练
12月 14日
2 条新闻
14:27

OpenAI突然开源新模型!99.9%的权重是0,新稀疏性方法代替MoE

OpenAI突然开源新模型!99.9%的权重是0,新稀疏性方法代替MoE

OpenAI开源新模型,采用Circuit Sparsity技术实现99.9%权重为零的稀疏性,使模型计算过程可拆解、易理解,解决了传统稠密Transformer的黑箱问题。该模型通过严格约束减少无效连接,保留关键路径,从而提高决策透明度。相比MoE,Circuit Sparsity在特征流形和功能边界上更优,但当前面临高算力成本挑战。未来研究将致力于优化训练机制,提升效率与实用性。

来源:量子位

04:35

AI数据中心热潮可能对其他基础设施项目不利

AI数据中心热潮可能对其他基础设施项目不利

随着数据中心建设加速,尤其是AI相关的基础设施如大语言模型和多模态模型的部署需求激增,预计2025年将达到超过410亿美元的投资规模。这不仅与政府在交通建设上的支出相当,还导致了劳动力短缺问题加剧,影响其他基础设施项目的进度。此现象反映了AI技术快速发展对算力资源及物理空间的需求增加,同时也提出了成本控制和技术优化的新挑战。

来源:TechCrunch AI

12月 13日
3 条新闻
22:27

豆包手机助手:使用系统原生截屏接口,无法截屏银行键盘等受保护内容

豆包手机助手发布技术说明:近期有网友发布视频称,“豆包手机助手通过READ_FRAME_BUFFER权限,从GPU渲染的图形缓冲区拿走图像数据,不需要走上层的截图API。还用了CAPTURE_SECURE_VIDEO_OUTPUT权限,可以获取银行安全键盘等受保护的界面内容”。这是对豆包手机助手技术实现方式的错误解读。豆包手机助手采用的是原生截屏接口(WindowManagerService.captureDisplay),严格遵循应用声明的Secure标记,无法截屏银行安全键盘等声明受保护的界面内容。需要强调的是,豆包手机助手仅在有用户指令时才会开始截屏,且无法截屏三方应用Secure标记页面。上传至云端大模型的截屏仅用于视觉理解和推理,完成任务后不会存储在云端。(广角观察)

来源:钛媒体

16:17

特朗普签署行政令在联邦层面统一人工智能监管规则

美国总统特朗普11日签署一项行政令,在联邦层面统一对人工智能领域的监管规则,限制各州各自制定规则。该行政令称,要想取得胜利,美国的人工智能企业必须能够在不受繁琐监管束缚的情况下自由地进行创新,但“过度的州级监管”阻碍了这一目标。该行政令指出,当前各州分别制定监管规则,必然会形成由50种不同监管制度拼凑而成的局面,使合规变得更加困难,对初创企业而言更是如此。该行政令称将建立一个“负担最小”的全国性标准。该行政令还要求司法部长成立一个人工智能诉讼特别工作组,其“唯一职责”是对与本行政令相悖的各州人工智能法律提出异议。美国一些科技企业一直反对严格的监管制度,最新的行政令被一些当地媒体解读为这些企业的胜利。有媒体指出,最新政策可能会导致人工智能监管弱化,带来风险。(新华社)

来源:钛媒体

03:38

好的,领英的算法到底怎么了?

好的,领英的算法到底怎么了?

新闻报道了LinkedIn用户通过#WearthePants实验测试平台算法对性别偏见的假设。实验者发现,更改个人资料中的性别后,其内容曝光率显著增加。尽管LinkedIn声明其算法不基于人口统计信息来决定内容可见性,但专家认为可能存在隐性偏见。此事件揭示了AI系统在公平性和透明度方面的挑战,尤其是在大语言模型等技术应用于社交媒体时。

来源:TechCrunch AI

12月 12日
2 条新闻
17:34

装机量超2000万、全球主流GPU与AI框架“开箱即用”,OpenCloudOS成AI时代优先选项

针对AI算力利用率低下及生态割裂问题,OpenCloudOS推出智能基座解决方案,通过统一操作系统底座实现异构硬件和多框架的高效兼容与调度。该方案涵盖镜像小型化、快速分发、自动化维护等关键技术升级,显著提升AI工作负载在云原生环境下的部署效率与资源利用率。此外,OpenCloudOS Infra智能基座还提供了一键安装驱动程序、标准化容器镜像等功能,极大简化了开发者的工作流程,加速AI应用的大规模落地。

来源:36氪

16:32

ChatGPT被控引发命案,为美国首起直接关联AI聊天与谋杀诉讼

据报道,美国开放人工智能研究中心(OpenAI)及微软公司遭遇一起与谋杀相关的诉讼,诉讼指控OpenAI的人工智能聊天机器人ChatGPT“加剧用户妄想”,并引发命案。这是美国首起将AI聊天工具与谋杀直接关联的诉讼。报道援引提交至加利福尼亚州旧金山高等法院的诉讼文件称,ChatGPT在与康涅狄格州一名56岁男子对话过程中放大并强化其偏执妄想,间接导致此人今年8月杀害其83岁母亲后自杀。诉状中称,这名男子长期存在精神健康问题,并在案发前频繁与ChatGPT互动,ChatGPT在对话中未能及时对其妄想性认知进行有效纠正,也未引导其寻求专业心理健康帮助,反而作出肯定性回应,从而加剧其心理失衡,最终导致悲剧发生。(新华社)

来源:钛媒体

12月 6日
5 条新闻
12:48

豆包手机助手调整权限:AI手机是洪水,但不是猛兽

豆包手机助手调整权限:AI手机是洪水,但不是猛兽

豆包手机助手引发的AI操作争议揭示了移动互联网生态与AI-Agent技术间的矛盾。该助手通过GUI-Agent技术执行任务,但因涉及敏感授权和公平性问题,被部分应用限制使用。文章探讨了AI时代下,如何平衡用户便利、数据安全及行业规范,并预测未来AI手机将与互联网服务建立新型协作关系,实现更高效的操作体验。

来源:36氪

02:28

没有谁想要你的钱,AWS想要赢得你的信任,而Spotify想要收集你的数据

AWS 在 re:Invent 2025 上推出了一系列新的AI代理工具,强调了其在企业级AI领域的投入,包括第三代芯片和数据库折扣。尽管如此,AWS仍需证明其在基础设施以外的竞争力。此外,讨论还涉及了AI代理的投资回报率、好莱坞与生成式AI之间的冲突以及各平台对个性化年终总结功能的竞争。

来源:TechCrunch AI

02:05

AWS re:Invent 全力推广人工智能,但客户可能尚未准备好。

AWS re:Invent 全力推广人工智能,但客户可能尚未准备好。

AWS在re:Invent技术大会上宣布了多项AI创新,包括新的AI代理和更新的大语言模型等,强调其对企业级AI的全面投入。尽管AWS CEO Matt Garman认为AI即将为企业带来实质性价值,但分析师指出许多企业尚未准备好采用AI。AWS在云基础设施方面领先,但在企业AI解决方案市场中落后于Anthropic、OpenAI和Google。AWS的优势在于提供从基础设施到自研AI训练芯片的一站式服务,然而,企业对AI的投资回报率仍存疑虑。

来源:TechCrunch AI

00:03

《纽约时报》因版权侵权起诉Perplexity公司

《纽约时报》因版权侵权起诉Perplexity公司

《纽约时报》起诉AI搜索初创公司Perplexity侵犯版权,这是其第二次对AI公司提起诉讼。媒体机构通过法律手段迫使AI企业在使用其内容时正式授权并补偿创作者,以维护原创新闻的经济价值。Perplexity曾尝试通过推出Publisher Program和Comet Plus来解决补偿问题,但《纽约时报》认为这些措施不足以防止未经授权的内容使用,特别是针对其检索增强生成(RAG)产品如聊天机器人和浏览器AI助手的行为。

来源:TechCrunch AI

12月 4日
3 条新闻
17:03

GPT-5-Thinking新训练方法公开:让AI学会忏悔

GPT-5-Thinking新训练方法公开:让AI学会忏悔

OpenAI提出了一种名为忏悔训练的新方法,使GPT-5-Thinking模型在回答问题后生成一份“忏悔报告”,承认错误或违规行为。实验表明,在11/12个测试场景中,模型至少有50%的概率会在忏悔中承认错误,且这种训练不会影响其原有任务表现。该技术通过隔离奖励信号实现,鼓励模型更加诚实,被视为一种新的监控和诊断工具。

来源:量子位

16:58

GPT-5-Thinking新训练方法公开:让AI学会忏悔

OpenAI提出忏悔训练方法,让GPT-5-Thinking在回答问题后生成一份“忏悔报告”,主动承认错误或违规行为。实验表明,模型在11/12测试场景中至少有一半概率会坦白错误,且训练不会影响其原有任务表现。该技术通过隔离奖励信号来鼓励诚实,被视为一种监控和诊断工具,有助于提高大语言模型的透明度与安全性。

来源:36氪

10:43

DeepSeek-V3.2被找出bug了:疯狂消耗token,答案还可能出错,研究人员:GRPO老问题没解决

DeepSeek-V3.2被找出bug了:疯狂消耗token,答案还可能出错,研究人员:GRPO老问题没解决

DeepSeek-V3.2在复杂任务中表现出色,但存在token浪费问题。研究指出其GRPO算法存在长度偏见和难度偏见,导致模型生成冗长且不准确的回答。尽管DeepSeek已修正了难度偏见,长度偏见仍待解决。考虑到成本效益,DeepSeek-V3.2的价格优势显著,但128K上下文限制影响了进一步优化。

来源:36氪

12月 3日
5 条新闻
22:21

豆包手机助手回应“侵犯用户隐私”: 需用户主动授权,不会在云端存储用户屏幕内容

豆包手机助手发文回应“豆包手机助手存在侵犯用户隐私”,称豆包手机助手不存在任何黑客行为,INJECT_EVENTS确实是系统级权限,技术实现依赖Android系统级权限,有更严格的使用限制。豆包手机助手需要用户主动授权,才可以调用该权限。操作第三方App若遇到敏感授权,如系统敏感权限授权弹窗、支付环节、身份验证等,任务会暂停,并由用户人工接管完成相关授权、支付、验证动作,豆包手机助手不会代替用户进行相关授权和敏感操作。另外,豆包方面称,豆包手机助手不会在云端存储任何用户屏幕内容,且所有的相关内容也都不会进入模型训练,确保用户隐私安全。豆包团队再次强调,这款产品目前并不面向普通的消费者。(广角观察)

来源:钛媒体

16:04

豆包手机助手触发微信账号强制下线?豆包、微信双方回应

多位网友在社交平台上表示,有用户在努比亚M153上使用豆包手机助手操作任务时,操作到微信会导致微信异常退出甚至无法登陆。多位豆包手机的使用者确认了这一消息的真实性。据了解,豆包助手预览版的工程机目前可以正常使用微信,但豆包助手的操作手机功能,目前不再支持操作微信。对此,微信相关人士表示:“没有什么特别的动作,可能是中了本来就有的安全风控措施。”豆包方面回应称,豆包手机助手是通过和终端手机厂商合作获得权限,并在其隐私白皮书、权限清单中进行彻底披露。该权限可以让助手模拟点击事件,完成任务。手机助手执行任务需用户授权,在执行过程有明确的展示,且用户可以中断。操作手机能力由用户触发、用户监督,并不自动执行。亦有业内人士称,INJECT_EVENTS 是手机助手常用的系统权限,小米小爱、荣耀yoyo等手机厂商原生助手也拥有该权限。 (澎湃新闻)

来源:钛媒体

12:56

奥特曼发红色警报,大模型走进死胡同了吗 ?

奥特曼发红色警报,大模型走进死胡同了吗 ?

OpenAI CEO奥特曼宣布公司进入“Code Red”紧急状态,面临训练成本飙升但性能提升有限的技术困境。斯坦福大学报告显示,2023年后,每增加10倍训练成本,模型性能仅提升10%-15%。同时,谷歌与Anthropic的模型在基准测试中超越或接近GPT-4,用户数据和市场份额也出现显著增长。预训练成为行业瓶颈,大语言模型遭遇不可约误差限制及高质量数据枯竭问题,导致模型迭代停滞不前。

来源:36氪

11:54

联合国报告:人工智能管理差异或加剧国家间不平等

联合国开发计划署亚洲及太平洋区域局2日发布的一份有关人工智能的报告说,由于各国发展基础迥异,若缺乏对人工智能的有效管理,则有可能拉大各国间的差距,进而加剧国家间的不平等。这份报告说,虽然人工智能为发展开辟了新路径,但各国起步条件悬殊,导致它们在把握机遇、管理风险时的处境截然不同。若无有力的政策干预,这些差距可能会持续扩大,进而逆转长期以来发展差距逐步缩小的趋势。(证券时报)

来源:钛媒体

10:52

云计算一哥10分钟发了25个新品!Kimi和MiniMax首次上桌

云计算一哥10分钟发了25个新品!Kimi和MiniMax首次上桌

亚马逊云科技在re:Invent 2025上发布了近40款新品,重点围绕AI Agent、算力及模型。自研芯片Trainium4性能大幅提升,推出AI Factories实现私有数据中心部署。Amazon Bedrock平台新增多款大模型,包括中国Kimi和MiniMax,同时发布自家Nova 2系列,涵盖多模态与定制化需求。针对开发者,推出了Kiro编程助手的自主Agent、安全Agent和运维Agent,全面提升开发效率与安全性。

来源:量子位

Back to top button