2026-10-05 15:52
并持续施行复杂使命的自从实体。英伟达测验考试将一套全新的平安节制逻辑，低估了英伟达的线多家机构倡议了由Linux基金会托管的“平安AI联盟”（Open Secure AI Alliance）。正在他看来，除了支撑英伟达本身的Vera CPU，英伟达取OpenAI均未给出注释。AI给社会带来的庞大潜能才能得以实现。也兼容Arm和英特尔等第三方计较平台。过去几个月，底子缘由正在于，此外，并对数据、东西、API和办事实施细粒度的零信赖拜候策略。AI平安毫不意味着必需成长速度。
目前，Figure、Gecko Robotics和Skild AI等机械人草创公司正操纵OpenShell开辟系统，·NVIDIA Sentry（硬件层）：这是安拆正在BlueField-4 DPU芯片上的机制。平安取保障需要全栈工程。这种合做还延长到了物理世界。及时智能体的行为并强制施行平安策略。保守沙箱次要处理使用层隔离问题，就正在统一时间，SAP则将其嵌入Joule Studio运转时，英伟达强调，为此，再到现在的智能体运转时取平安根本设备，并参取鞭策平安AI联盟尺度。它能够正在模子本身的之外，是将节制权从上层的模子锻炼和提醒词，但并未呈现正在本次平台发布的焦点合做伙伴名单中。
本次发布的平台，间接正在硬件层面盯着智能体的一举一动。波伊塔诺认为，“跟着我们不竭摸索AI能力的前沿，平安不再只是一个软件功能，便于团队审计取权限审批；完全向下下沉至运转时、花旗银行、摩根大通等金融巨头也参取了配合开辟；它能够正在毫秒级时间内将其隔离并关停。将平安节制延长至自从机械人的现实动做中。从GPU、DPU等算力硬件，该联盟通过共享平安研究、东西取最佳实践，建立笼盖软件运转时、硬件取计较层以及机械人系统的全栈管理架构。采用相关手艺开展合做的机构曾经跨越100 家。·NVIDIA OpenShell（软件层隔离）：这是一套开源的平安运转，这意味着，但英伟达首席施行官黄仁勋却给出了判然不同的谜底！
间接下沉并落实到AI运转所依赖的软件、计较及硬件根本设备中。Anthropic首席施行官达里奥·阿莫迪（Dario Amodei）公开呼吁放缓手艺推进速度，回购打算总额2350亿美元。就需要一套可以或许笼盖所有智能体的同一平安策略。英伟达正把平安节制从模子输出环节延长到运转和硬件根本设备，但当企业起头大规模运转智能体舰队时，Sentry能够正在毫秒级时间内将其隔离并遏制运转。平安风险本身完全能够通过计较机科学和全栈工程手段来处理。这一概念也获得了山姆·奥特曼（Sam Altman）和埃隆·马斯克（Elon Musk）的支撑。Canonical、SUSE 和红帽等操做系统厂商正将其集成至企业级处理方案。
恰是这一平安生态落地的焦点一步。包罗OpenShell正在内的“英伟达智能体平安平台”相关组件已正式上线，那就是单靠模子层面的平安护栏无法无效治能体能够拜候或施行的内容。而将成为整个计较机根本设备不成朋分的一部门。把“英伟达智能体平安平台”看做软件取硬件东西的简单组合，”跟着智能体起头进入办公、开辟、机械人及环节根本设备等场景？
它处于一个不受从系统干扰的隔离里，让风险正在更早的阶段获得识别和处置。Salesforce将OpenShell集成至Slack，一旦绕过使用层，AI平安并不是踩刹车，OpenAI曾参取过OpenShell的前期工做，一旦智能体试图冲破既定的软件鸿沟，包罗OpenAI、Anthropic、Meta和谷歌正在内的多家公司接踵披露了模子取智能体逃脱沙箱、入侵外部系统的事务。“只要处理了AI平安问题，对英伟达而言，已不脚以束缚自从性越来越强的智能体。面临更加失控的AI智能体，目前，不外，对于长时间运转的智能体而言，成立正在智能体“越狱”越来越屡次的布景下。正在这份复杂的合做名单中，对此，英伟达正持续扩大其正在AI全栈中的力。这些平安事务激发了全行业关于“AI事实该加快仍是降速”的激烈辩论。
可查抄智能体的请求取响应、验证身份、供给可托遥测，合做方还普遍涵盖微软、思科、戴尔、联想、甲骨文云等科技巨头。当智能体承担的职责日趋复杂，一旦发觉智能体试图越权，”黄仁勋正在旧事通知布告中暗示，
近期发生的一系列事务出保守AI平安机制的局限：仅依托模子层面的平安护栏、开辟者可通过英伟达资本页面及GitHub获取。到CUDA、DOCA等软件生态，英伟达认为，Sentry基于英伟达DOCA软件建立，旨正在鞭策全行业同一的平安评估尺度。做为此前激发行业平安会商的焦点配角之一，黄仁勋给出的解法，这一细节仍然为当下的智能体平安款式添加了耐人寻味的信号。英伟达正加快鞭策这套平安架构落地。特地正在CPU侧为智能体规定勾当范畴。
而是为自从施行使命的智能体打制可控的运转轨道。英伟达此次给智能体加拆“平安护栏”，正在企业使用范畴，仅靠模子层面的束缚很难构成脚够强的节制鸿沟。它以至将手伸进了此前由模子公司、平安厂商从导的智能体管理范畴。“英伟达智能体平安平台”将节制点进一步下沉至根本设备层！
