AI新闻

已选标签:
模型安全
AI视频
12月 14日
1 条新闻
12月 13日
3 条新闻
22:27

豆包手机助手:使用系统原生截屏接口,无法截屏银行键盘等受保护内容

豆包手机助手发布技术说明:近期有网友发布视频称,“豆包手机助手通过READ_FRAME_BUFFER权限,从GPU渲染的图形缓冲区拿走图像数据,不需要走上层的截图API。还用了CAPTURE_SECURE_VIDEO_OUTPUT权限,可以获取银行安全键盘等受保护的界面内容”。这是对豆包手机助手技术实现方式的错误解读。豆包手机助手采用的是原生截屏接口(WindowManagerService.captureDisplay),严格遵循应用声明的Secure标记,无法截屏银行安全键盘等声明受保护的界面内容。需要强调的是,豆包手机助手仅在有用户指令时才会开始截屏,且无法截屏三方应用Secure标记页面。上传至云端大模型的截屏仅用于视觉理解和推理,完成任务后不会存储在云端。(广角观察)

来源:钛媒体

16:17

特朗普签署行政令在联邦层面统一人工智能监管规则

美国总统特朗普11日签署一项行政令,在联邦层面统一对人工智能领域的监管规则,限制各州各自制定规则。该行政令称,要想取得胜利,美国的人工智能企业必须能够在不受繁琐监管束缚的情况下自由地进行创新,但“过度的州级监管”阻碍了这一目标。该行政令指出,当前各州分别制定监管规则,必然会形成由50种不同监管制度拼凑而成的局面,使合规变得更加困难,对初创企业而言更是如此。该行政令称将建立一个“负担最小”的全国性标准。该行政令还要求司法部长成立一个人工智能诉讼特别工作组,其“唯一职责”是对与本行政令相悖的各州人工智能法律提出异议。美国一些科技企业一直反对严格的监管制度,最新的行政令被一些当地媒体解读为这些企业的胜利。有媒体指出,最新政策可能会导致人工智能监管弱化,带来风险。(新华社)

来源:钛媒体

03:38

好的,领英的算法到底怎么了?

好的,领英的算法到底怎么了?

新闻报道了LinkedIn用户通过#WearthePants实验测试平台算法对性别偏见的假设。实验者发现,更改个人资料中的性别后,其内容曝光率显著增加。尽管LinkedIn声明其算法不基于人口统计信息来决定内容可见性,但专家认为可能存在隐性偏见。此事件揭示了AI系统在公平性和透明度方面的挑战,尤其是在大语言模型等技术应用于社交媒体时。

来源:TechCrunch AI

12月 12日
3 条新闻
19:38

花10亿美元,迪士尼让AI来拍“短片”了

迪士尼与OpenAI达成深度合作,授权超过200个IP元素用于Sora和ChatGPT Images中,标志着娱乐行业进入AI工业化阶段。通过生成式AI技术,粉丝可以轻松创作包含迪士尼角色的短视频和静态图像,并有机会在Disney+上展示。此次合作不仅改变了IP运营逻辑,还可能影响未来剧集生命周期评估标准。

来源:36氪

16:32

ChatGPT被控引发命案,为美国首起直接关联AI聊天与谋杀诉讼

据报道,美国开放人工智能研究中心(OpenAI)及微软公司遭遇一起与谋杀相关的诉讼,诉讼指控OpenAI的人工智能聊天机器人ChatGPT“加剧用户妄想”,并引发命案。这是美国首起将AI聊天工具与谋杀直接关联的诉讼。报道援引提交至加利福尼亚州旧金山高等法院的诉讼文件称,ChatGPT在与康涅狄格州一名56岁男子对话过程中放大并强化其偏执妄想,间接导致此人今年8月杀害其83岁母亲后自杀。诉状中称,这名男子长期存在精神健康问题,并在案发前频繁与ChatGPT互动,ChatGPT在对话中未能及时对其妄想性认知进行有效纠正,也未引导其寻求专业心理健康帮助,反而作出肯定性回应,从而加剧其心理失衡,最终导致悲剧发生。(新华社)

来源:钛媒体

12月 6日
2 条新闻
12:48

豆包手机助手调整权限:AI手机是洪水,但不是猛兽

豆包手机助手调整权限:AI手机是洪水,但不是猛兽

豆包手机助手引发的AI操作争议揭示了移动互联网生态与AI-Agent技术间的矛盾。该助手通过GUI-Agent技术执行任务,但因涉及敏感授权和公平性问题,被部分应用限制使用。文章探讨了AI时代下,如何平衡用户便利、数据安全及行业规范,并预测未来AI手机将与互联网服务建立新型协作关系,实现更高效的操作体验。

来源:36氪

00:03

《纽约时报》因版权侵权起诉Perplexity公司

《纽约时报》因版权侵权起诉Perplexity公司

《纽约时报》起诉AI搜索初创公司Perplexity侵犯版权,这是其第二次对AI公司提起诉讼。媒体机构通过法律手段迫使AI企业在使用其内容时正式授权并补偿创作者,以维护原创新闻的经济价值。Perplexity曾尝试通过推出Publisher Program和Comet Plus来解决补偿问题,但《纽约时报》认为这些措施不足以防止未经授权的内容使用,特别是针对其检索增强生成(RAG)产品如聊天机器人和浏览器AI助手的行为。

来源:TechCrunch AI

12月 4日
3 条新闻
17:03

GPT-5-Thinking新训练方法公开:让AI学会忏悔

GPT-5-Thinking新训练方法公开:让AI学会忏悔

OpenAI提出了一种名为忏悔训练的新方法,使GPT-5-Thinking模型在回答问题后生成一份“忏悔报告”,承认错误或违规行为。实验表明,在11/12个测试场景中,模型至少有50%的概率会在忏悔中承认错误,且这种训练不会影响其原有任务表现。该技术通过隔离奖励信号实现,鼓励模型更加诚实,被视为一种新的监控和诊断工具。

来源:量子位

16:58

GPT-5-Thinking新训练方法公开:让AI学会忏悔

OpenAI提出忏悔训练方法,让GPT-5-Thinking在回答问题后生成一份“忏悔报告”,主动承认错误或违规行为。实验表明,模型在11/12测试场景中至少有一半概率会坦白错误,且训练不会影响其原有任务表现。该技术通过隔离奖励信号来鼓励诚实,被视为一种监控和诊断工具,有助于提高大语言模型的透明度与安全性。

来源:36氪

10:42

这个模型,将革命人类的信息获取方式

这个模型,将革命人类的信息获取方式

字节跳动发布的新模型Vidi2展示了在视频内容理解与处理方面的突破,能够自动解析视频帧并提取关键信息,支持关键词搜索和视频元素编辑。这不仅提升了信息检索效率,还为新媒体创作提供了强大工具。该技术有望革新内容消费模式,加速从文字到视频的搜索转变,并在教育、监控等多个领域展现应用潜力,推动AI技术向更高效、更直观的信息处理方式发展。

来源:36氪

12月 3日
5 条新闻
22:21

豆包手机助手回应“侵犯用户隐私”: 需用户主动授权,不会在云端存储用户屏幕内容

豆包手机助手发文回应“豆包手机助手存在侵犯用户隐私”,称豆包手机助手不存在任何黑客行为,INJECT_EVENTS确实是系统级权限,技术实现依赖Android系统级权限,有更严格的使用限制。豆包手机助手需要用户主动授权,才可以调用该权限。操作第三方App若遇到敏感授权,如系统敏感权限授权弹窗、支付环节、身份验证等,任务会暂停,并由用户人工接管完成相关授权、支付、验证动作,豆包手机助手不会代替用户进行相关授权和敏感操作。另外,豆包方面称,豆包手机助手不会在云端存储任何用户屏幕内容,且所有的相关内容也都不会进入模型训练,确保用户隐私安全。豆包团队再次强调,这款产品目前并不面向普通的消费者。(广角观察)

来源:钛媒体

16:04

豆包手机助手触发微信账号强制下线?豆包、微信双方回应

多位网友在社交平台上表示,有用户在努比亚M153上使用豆包手机助手操作任务时,操作到微信会导致微信异常退出甚至无法登陆。多位豆包手机的使用者确认了这一消息的真实性。据了解,豆包助手预览版的工程机目前可以正常使用微信,但豆包助手的操作手机功能,目前不再支持操作微信。对此,微信相关人士表示:“没有什么特别的动作,可能是中了本来就有的安全风控措施。”豆包方面回应称,豆包手机助手是通过和终端手机厂商合作获得权限,并在其隐私白皮书、权限清单中进行彻底披露。该权限可以让助手模拟点击事件,完成任务。手机助手执行任务需用户授权,在执行过程有明确的展示,且用户可以中断。操作手机能力由用户触发、用户监督,并不自动执行。亦有业内人士称,INJECT_EVENTS 是手机助手常用的系统权限,小米小爱、荣耀yoyo等手机厂商原生助手也拥有该权限。 (澎湃新闻)

来源:钛媒体

12:56

奥特曼发红色警报,大模型走进死胡同了吗 ?

奥特曼发红色警报,大模型走进死胡同了吗 ?

OpenAI CEO奥特曼宣布公司进入“Code Red”紧急状态,面临训练成本飙升但性能提升有限的技术困境。斯坦福大学报告显示,2023年后,每增加10倍训练成本,模型性能仅提升10%-15%。同时,谷歌与Anthropic的模型在基准测试中超越或接近GPT-4,用户数据和市场份额也出现显著增长。预训练成为行业瓶颈,大语言模型遭遇不可约误差限制及高质量数据枯竭问题,导致模型迭代停滞不前。

来源:36氪

11:54

联合国报告:人工智能管理差异或加剧国家间不平等

联合国开发计划署亚洲及太平洋区域局2日发布的一份有关人工智能的报告说,由于各国发展基础迥异,若缺乏对人工智能的有效管理,则有可能拉大各国间的差距,进而加剧国家间的不平等。这份报告说,虽然人工智能为发展开辟了新路径,但各国起步条件悬殊,导致它们在把握机遇、管理风险时的处境截然不同。若无有力的政策干预,这些差距可能会持续扩大,进而逆转长期以来发展差距逐步缩小的趋势。(证券时报)

来源:钛媒体

12月 2日
3 条新闻
17:56

Runway Gen-4.5刷屏发布,把重量尘土和光影都做对了,网友:颠覆

Runway Gen-4.5刷屏发布,把重量尘土和光影都做对了,网友:颠覆

Runway Gen-4.5在文本转视频基准测试中以1247分超越所有现有模型,实现物理和视觉准确性突破。该模型擅长执行复杂序列式指令,生成的视频具有逼真的重量感与动量特征,适用于多种风格和场景。尽管存在因果推理等局限性,Gen-4.5展示了AI在多模态融合及内容生成领域的显著进步。

来源:量子位

12:11

AI初创公司Runway推出影片生成模型Gen 4.5,测评排名超谷歌和OpenAI

人工智能(AI)初创公司Runway周一宣布推出最新影片生成模型Gen 4.5,能依照文字指令生成高画质影片,并在第三方评测平台Video Arena夺下第一名,谷歌Veo 3排名第二,OpenAI的Sora 2 Pro则位居第七。据介绍,新模型擅长理解物理效果、人类动作、镜头运动与因果关系,能更精准地模拟真实世界情境。Gen 4.5将于本周逐步向所有Runway用户全面开放。(广角观察)

来源:钛媒体

11:53

PixVerse(拍我AI)V5.5发布:国内首款分镜+音频一键生成AI视频大模型

PixVerse(拍我AI)V5.5发布:国内首款分镜+音频一键生成AI视频大模型

拍我AI V5.5发布,国内首款实现分镜+音频一键生成视频的大模型。该版本支持多镜头与音频同步生成,具备完整叙事能力,大幅降低视频创作门槛。用户只需输入简短提示词即可生成高质量视频,涵盖景别变化、对白、音效等。此外,平台还提供图像到视频的一体化工作流及多种编辑功能,推动AI视频成为内容生产的基础设施。

来源:量子位

Back to top button