跳到正文

成长与事业

AI 与效率 最新动态

用于研究、写作、编程和个人事业的AI工具、自动化与工作流。

30 条精选近 30 天 30 条共收录 593 条

更新

精选归档 · 第 2 页

10月21日周三第 21–30 条
10月20日周二
  1. AIHOT 论文解读84

    METR 评测 Anthropic 2026年8月风险报告对齐章节,认可低风险结论但质疑评估方法

    METR 对 Anthropic 2026年8月风险报告的“高风险情境下的错位”章节做了外部评审,同意截至2026年7月15日其模型(含 Mythos 5 和内部模型“Model 2”)造成灾难性伤害的风险为“低”,但认为这主要源于模型能力有限而非安全保障措施。

    推荐理由:逐条对照官方风险报告的论证与遮蔽决策,展示外部评审如何检验AI公司自评结论的可信度。

10月17日周六
  1. Nielsen Norman Group62

    NN/g 对比合成受访者与604名人类受访者的开放式问题回答

    NN/g 用 Synthetic Users 平台生成120名合成受访者,回答此前对604名技术与设计从业者提出的同一开放式问题,两者得出相同结论:UX仍是该工作的主导术语,84%的合成受访者使用UX相关术语,人类受访者约70%,差异具统计显著性。

    推荐理由:通过同一问题对比604名人类与120名合成受访者的回答,揭示了合成用户研究在长尾差异上的具体局限。

10月15日周四
10月14日周三
  1. Google DeepMind60

    Google DeepMind 与新加坡 GovTech 合作微调端侧诈骗检测模型

    Google DeepMind 与新加坡政府技术局 GovTech 合作,基于轻量 Gemma 模型微调出可在设备端运行的隐私保护诈骗检测模型,已在 Singapore International Cyber Week 2026(SICW 2026)上展示。

    推荐理由:官方说明了在设备端运行轻量模型做诈骗检测的技术路径与治理安排,可参考其两阶段推理与隐私保护设计。

  2. Google DeepMind88

    Google DeepMind 发布 Gemini 4 Argon 并公布其安全防护体系

    Google DeepMind 宣布 Gemini 4 Argon 开始广泛推出,并将面向可信网络防御者的 Fairwind Program 扩大范围。该模型在网络安全评测中解出全部 12 个端到端模拟攻击场景(上一代为 5 个),在 Gray Swan 间接提示注入基准上将 15 次自适应攻击成功率降至 0.7%,编码基准中走捷径或作弊的尝试降至 2%。

    推荐理由:官方系统说明了前沿模型在滥用、错位与提示注入三类风险上的具体防护设计与实测数据,可作为理解当前大模型安全治理做法的参考。

10月8日周四
  1. GitHub Blog · AI & ML72

    GitHub:密钥保护必须跟上软件生成速度

    GitHub 产品负责人 Erin Havens 称,涉及 AI 智能体的 PR 已达三分之一,一年前不足十分之一,若保持该速度,两年内 GitHub 上多数代码可能由智能体写成。

    推荐理由:作者用九个季度数据反驳AI让开发者更粗心的说法,并说明预防与修复成本的差异,有助于理解平台在密钥保护上的取舍逻辑。

  2. Microsoft Research74

    微软研究院开源 Agent Lightning v1.0:约3500行的轻量级智能体强化学习框架

    微软研究院亚洲院发布并开源 Agent Lightning v1.0,提出 Harnessed Agentic RL 训练范式,让部署所用的 agent harness 直接参与强化学习,无需在训练框架内重新实现 agent。

    推荐理由:文章说明了用真实部署 harness 直接做强化学习的思路及其四个技术难点,可迁移理解训练与部署不一致问题的解法。

10月1日周四