AI新闻

Google 近期撤销了其不开发武器相关 AI 系统的承诺，引发广泛讨论。AI 专家 Andrew Ng 支持这一决定，认为 AI 在国家安全领域具有战略意义，尤其是 AI 无人机将彻底改变战场格局。Ng 强调，美国需在 AI 技术上与中国竞争，并反对过度监管阻碍开源 AI 发展。然而，Google 内部对此存在分歧，部分员工和专家反对 AI 军事化应用，呼吁全球监管。随着五角大楼等机构对 AI 需求的增加，科技巨头正通过军事合作寻求投资回报，AI 在国防领域的应用成为焦点。

According to a New York Times report, on Thursday, the U.S. government’s General Services Administration (GSA) removed the spoon emoji as an option that users of its videoconferencing platform can select to express themselves. The move comes a day after workers embraced the digital cutlery to protes

In a move that could make OpenAI’s chatbot a more appealing option over incumbents such as Google, the company is now allowing anyone to use ChatGPT web search without having to log in. While OpenAI had previously allowed users to ask ChatGPT questions without signing in, responses were restricted t

伦敦初创公司 Composo 推出 AI 应用评估平台，专注于解决大语言模型（LLM）应用在准确性和一致性方面的可靠性问题。其核心创新在于结合奖励模型和自定义标准，通过无代码和 API 接口，使非技术用户也能评估 AI 应用的输出质量。Composo 已在医疗、合规等领域获得客户认可，并完成 200 万美元预种子轮融资。其技术优势在于无需依赖高资本投入的基础模型开发，而是专注于 LLM 应用的监控与优化，助力企业降低 AI 部署风险并加速落地。

A group of more than 100 organizations has published an open letter calling on the AI industry and regulators to mitigate the tech’s harmful environmental impacts just days before leading industry CEOs, heads of state, academics, and nonprofits descend on Paris for a major AI conference. The letter,

Google 宣布在 Photos 中为使用生成式 AI 编辑的图像添加数字水印，重点应用于 Pixel 9 设备的 Magic Editor 功能。该功能利用生成式 AI 进行图像修改，模糊了真实照片与 AI 生成图像的界限。Google 采用 DeepMind 开发的 SynthID 技术，在不影响图像质量的前提下嵌入水印，并支持检测 AI 生成内容。此举旨在提升 AI 编辑的透明度，符合 Google 的 AI 原则，同时应对生成式 AI 图像日益逼真带来的真实性挑战。

美国民主党议员 Mark Pocan 提出《ELON MUSK 法案》，旨在禁止特殊政府雇员（如 Elon Musk）持有联邦合同，以防止利益冲突。Musk 的 SpaceX 与 NASA 和国防部有联邦合同，同时他领导的新 AI 公司 xAI 及其他企业可能涉及联邦机构的敏感数据访问。此举引发对 AI 技术应用中数据安全与伦理规范的关注，特别是在联邦学习、多模态模型等 AI 技术快速发展的背景下，如何平衡技术创新与公共利益成为关键议题。

法国即将举办人工智能行动峰会，聚焦AI安全与环境影响。2024年欧洲AI初创公司获得约80亿美元投资，占该地区风投总额的20%。法国AI生态系统蓬勃发展，拥有750多家初创公司，涉及医疗、气候等垂直领域。医疗领域重点包括影像工具、药物发现和治疗改进；气候领域则关注碳和能源管理。尽管多数公司未专注于基础模型开发，但在数据工作流优化、推理性能提升和生产力增强方面取得进展。AI革命仍处于初期，未来增长潜力巨大。

Andreessen Horowitz (a16z) 聘请前海军陆战队员 Daniel Penny 作为投资者，专注于政府与国防科技领域的投资。尽管 Penny 缺乏投资背景，a16z 计划对其进行培训。这一举措凸显了 AI 在国防和政府技术中的重要性，特别是在强化学习、联邦学习和多模态模型等领域的应用。a16z 的投资策略可能推动 AI 技术在国家安全和智能系统中的应用，进一步促进 AI 在复杂场景中的商业落地和技术创新。

Google 近期从其 AI 原则页面删除了“不开发武器或监控 AI”的承诺，引发广泛关注。公司强调将致力于“减轻 AI 的意外或有害后果，避免不公平偏见”，并遵循国际法和人权原则。此举可能与其为美国及以色列军方提供云服务的合同有关。尽管 Google 坚称其 AI 不用于伤害人类，但 Pentagon 的 AI 负责人指出，部分公司的 AI 模型正在加速军事杀伤链。这一变化凸显了 AI 在国家安全和伦理规范中的复杂挑战，以及企业在技术应用与道德责任间的权衡。

欧盟 AI 法案首个合规期限启动，禁止高风险 AI 应用如社会评分和有害操纵。欧盟委员会发布指南，帮助开发者理解并遵守法案要求，强调安全与伦理 AI 发展。指南虽无法律约束力，但提供法律解释和实际案例，助力合规。法案实施将分阶段推进，成员国需在 8 月 2 日前指定监管机构。此举凸显欧盟对 AI 伦理规范和技术治理的重视，推动全球 AI 产业向更安全、透明方向发展。

美国政府部门技术转型服务局（TTS）负责人、前特斯拉工程师 Thomas Shedd 提出“AI优先战略”，旨在将政府机构运营模式转型为“初创软件公司”。该战略计划构建集中化的政府合同数据库，支持AI分析，以应对预算削减50%的挑战。此举反映了硅谷倡导的“精简政府+AI依赖”理念，凸显AI在政府数字化转型中的核心作用，尤其是在数据管理与分析领域的应用潜力。

OpenAI 推出新型 AI 代理 Operator，结合 GPT-4o 的视觉理解和 o1 的推理能力，旨在自动化日常任务。Operator 在基础任务（如点击按钮、填写表单）上表现良好，速度优于 Anthropic 和 Google 的同类产品。然而，其自主性有限，需频繁用户干预，且易出现幻觉问题。OpenAI 出于安全考虑，限制了其决策权限和敏感信息处理能力。Operator 展示了 AI 代理在网站前端操作的潜力，但实现真正自主仍需更可靠的模型。未来，AI 代理的实用性和自主性提升将是技术发展的关键方向。

加拿大程序化广告平台 StackAdapt 完成 2.35 亿美元融资，重点发展 AI 驱动的广告技术。公司利用十年广告流量数据分析经验，构建 AI 系统以应对广告欺诈和机器人流量问题。随着 AI 和自动化技术的普及，程序化广告面临品牌安全和数据保护的挑战，但也为 AI 驱动的精准广告投放提供了机遇。StackAdapt 的 AI 技术已应用于政治、零售、医疗等多个垂直领域，展现了 AI 在广告行业的商业落地潜力。

Wired 调查揭示 DeepSeek 的 AI 模型在应用层和训练层均内置了审查机制，即使在本地运行也无法避免。通过推理功能，模型明确表示应避免提及特定历史事件，如文化大革命，并强调聚焦中国共产党的“积极”方面。TechCrunch 测试进一步证实，DeepSeek 在回答敏感问题时表现出明显的选择性回应，凸显了 AI 模型在内容生成中的伦理与技术挑战。

Meta 发布《前沿 AI 框架》，提出对高风险和关键风险 AI 系统的限制政策，强调在网络安全、生化武器等领域的潜在威胁。Meta 表示，将基于内部和外部专家评估决定是否发布 AI 系统，而非依赖单一量化指标。高风险系统将被限制访问，关键风险系统则可能停止开发。此举旨在平衡 AI 技术开放与社会安全，回应对其开放策略的批评，同时与 DeepSeek 等公司形成对比。Meta 强调，通过风险与收益的权衡，确保 AI 技术的社会效益与风险可控。

DeepSeek, the Chinese AI company, is raising the ire of regulators around the world. DeepSeek’s viral AI models and chatbot apps have been banned by a growing number of countries and government bodies, which have expressed concerns over DeepSeek’s ethics, privacy, and security practices. Corporation

As of Sunday in the European Union, the bloc’s regulators can ban the use of AI systems they deem to pose “unacceptable risk” or harm. February 2 is the first compliance deadline for the EU’s AI Act, the comprehensive AI regulatory framework that the European Parliament finally approved last March a

中国公司 DeepSeek 的聊天机器人近期在美国市场迅速崛起，登上 Apple 和 Play 商店榜首，并被微软等主要云服务提供商集成。然而，数百家与政府相关的企业因数据安全担忧封锁了该服务，主要顾虑在于 AI 模型可能向中国政府泄露数据。DeepSeek 的隐私政策显示，所有用户数据存储在中国，当地法律要求公司在必要时向情报机构提供数据。这一事件凸显了 AI 技术全球化应用中的数据主权和安全挑战，尤其是在跨境数据流动和合规性方面。

MLCommons 与 Hugging Face 合作发布全球最大的公共领域语音数据集 ‘Unsupervised People’s Speech’，包含超过 100 万小时的音频，涵盖 89 种语言。该数据集旨在支持多语言自然语言处理研究，特别是低资源语言的语音模型改进、跨口音和方言的语音识别增强以及语音合成的新应用。然而，数据集可能存在偏见和伦理问题，如数据来源主要为美式英语，且部分录音可能未经授权。开发者需谨慎使用，MLCommons 承诺持续更新和改进数据集质量。