世界速递！预防“垃圾数据”，英伟达推出“护栏”功能

(相关资料图)

【环球网科技综合报道】5月5日消息，据外媒报道，英伟达正在将其面向提高自动驾驶汽车的安全性能所开发的“护栏技术”应用到当前大热的“语言大模型”（GPT）之中，用以解决当下语言大模型面对垃圾数据所产生的“垃圾输入，垃圾输出”的问题。

据悉，“护栏技术”可以帮助大模型控制它的输出，以及过滤它的输入内容。当用户诱导大模型生成攻击性代码，输出不道德内容的时候，护栏技术在一定程度上可以限制输出不安全的内容。同时，护栏技术还能保护大模型不受用户的攻击，帮它挡住来自外界的恶意输入。

目前，英伟达正在将护栏技术整合进他们的 AI 框架 NeMo 中，这是个方便用户创建各种 AI 模型、并在英伟达 GPU 上加速的框架。

关键词：

推荐DIY文章

主机存在磨损或划痕风险 PICO4便携包宣布召回

穿越湖海！特斯拉Cybertruck电动皮卡可以当“船”用

vivoXFold+折叠旗舰开售 配备蔡司全焦段旗舰四摄

飞凡R7正式上市 全系标配换电架构

中兴Axon30S开售 拥有黑色蓝色两款配色

荣耀MagicBookV14 2022正式开售 搭载TOF传感器