从免费披萨到订错机票：硅谷创业者正在解决 Agent 的哪些麻烦？ | 硅谷线下活动 S10E33 kapak görseli

从免费披萨到订错机票：硅谷创业者正在解决 Agent 的哪些麻烦？ | 硅谷线下活动 S10E33

从免费披萨到订错机票：硅谷创业者正在解决 Agent 的哪些麻烦？ | 硅谷线下活动 S10E33

Şimdi ücretsiz dinle, üyelik gerekmez

Program ayrıntılarını görüntüle

Season's Savings | £0.99/mo for 3 months

£5.99/mo after 3 months - terms apply. Cancel monthly
最近几个月，像 Meta 的 Muse，OpenAI 的 Dots 这样的 Personal agent 产品大火。模型不仅越来越擅长调用工具、规划任务，也开始能够执行数百甚至上千个步骤的复杂工作。但当 AI 真正进入现实世界，问题也随之出现：订错机票怎么办？执行到一半忘记了原本的任务怎么办？如果 Agent 需要使用你的邮箱、银行卡和个人数据，我们又该如何确保它不会越权操作？这些问题背后，指向一个更深层的变化：当互联网的使用者从人类逐渐变成 AI Agent，我们今天熟悉的软件、通信、安全和支付系统，可能都需要重新设计。 上周末，「科技早知道」主播 Diane 在硅谷 Builder Odyssey 活动现场主持了一场圆桌论坛，与来自 AI Agent 基础设施领域的创业者和从业者，一起探讨 Agent 从技术演示走向大规模应用，还缺少哪些关键能力。我们聊到了长期任务的可靠性、人类与 Agent 的沟通、个人隐私与安全，以及在模型不断进步的背景下，下一代 AI 基础设施还有哪些创业机会。 本期人物 硅谷徐老师 Howie，硅谷高管、投资人、Gen 首席 AI 与创新官 Jiaao Chen，Nebius 首席 AI 工程师 Daniel Tian，Photon 联合创始人 丁教 Diane，「声动活泼」联合创始人、「科技早知道」主播｜小红书、视频号、抖音：声动活泼-丁教 时间轴 [00:00] AI Agent 订错机票，谁来承担损失？ 当 AI 从回答问题变成替人执行任务，犯错的代价也开始从数字世界进入现实世界。订错机票产生的退改签费用、执行任务时泄露的个人隐私，都可能带来真实的损失。随着 Muse、Dots 等个人 AI Agent 产品出现，我们不仅需要关注 AI 能做什么，也需要思考它做错事情之后，责任应该由谁承担。 [01:56] 圆桌讨论前瞻：AI Agent 还有哪四道关要过？ 长期任务的可靠性： 模型调用工具和规划任务的能力显著进步，但当执行过程持续数天、涉及上千个步骤时，Agent 仍可能遗忘目标、犯错，需要保存状态、纠正错误和恢复任务的能力。人与 Agent 的沟通： 当 AI 无法确定下一步操作时，应该能够通过短信或电话及时向用户确认，而不是擅自作出可能造成损失的决定。安全与信任： 从个人数据泄露到 AI 助理频繁骚扰商家，Agent 需要新的行为监管、安全授权和透明机制，而人类对 AI 的信任也需要逐步建立。基础设施的创业机会： 简单的工具调用和 Prompt Engineering 可能被更强大的模型取代，但执行效率、高并发处理和垂直行业模型适配，仍然值得长期投入。 [07:45] AI Agent 越来越强，为什么还不能独立工作？ 过去几个月，模型调用工具、规划任务的能力显著提升，模型与执行框架（Harness）的协同训练也推动了 Agent 的进步。但面对需要跨平台操作、处理多模态信息的复杂任务，今天的 AI Agent 仍然存在明显的能力瓶颈。 [09:14] 什么是 Agent 的长期任务能力？ Long-horizon task 指的是需要数百甚至上千个步骤、持续数小时乃至数天才能完成的复杂任务，例如独立开展调研、运行实验并撰写技术报告。随着执行时间拉长，Agent 可能因为上下文压缩而遗忘最初的目标，甚至产生幻觉。让 AI 在无人监督的情况下持续工作，仍是行业的重要挑战。 [11:15] 人人都有 AI 助理，还缺少什么？ 随着 OpenClaw 等产品的普及，AI Agent 开始从开发者工具走向普通用户，但用户是否愿意长期使用，仍需要找到真正有价值的应用场景。Photon 希望让 Agent 直接通过 iMessage、WhatsApp、电话等现有通信渠道与用户互动，让持续运行的 AI 助理不必局限在一个独立的应用程序里。 [12:43] Agent 时代，互联网需要推倒重来吗？ 模型能力只是 Agent 基础设施的一部分。长期记忆、身份授权、安全合规和支付等系统，都需要适应 AI 自主执行任务的新需求。现有互联网主要围绕人类用户设计，而 Agent 可能需要临时权限、跨系统协作和持续运行的能力，这意味着底层基础设施需要发生结构性变化。 [15:31] AI 订错机票，谁来承担损失？ 长期任务的关键不仅是 Agent 能不能完成工作，更是它能否可靠地完成，以及在出错后能否恢复。比如用户要求订一张到上海浦东机场的机票，Agent 却订到了虹桥机场。现实中的退改签可能产生费用，而目前的软件环境并不具备完善的错误恢复机制。在长时间执行任务的过程中，Agent 还可能遗忘安全限制，意外向外部网站泄露地址、邮箱等个人信息。 [18:12] AI 为什么还需要随时联系主人？ 当 Agent 无法确定下一步操作时，与其自行作出可能造成损失的决定，...
adbl_web_anon_alc_button_suppression_t1
Henüz yorum yok