OpenAI宣布了一项新举措,鼓励安全研究人员帮助寻找他们流行的聊天机器人ChatGPT中的漏洞。
该公司的“漏洞赏金计划”将奖励为保护技术和公司安全做出贡献的研究人员。该计划涵盖了一系列问题,包括支付、数据暴露和身份验证问题。
“我们邀请全球的安全研究人员、道德黑客和技术爱好者帮助我们识别和解决系统中的漏洞,”该博客帖子写道。
发现严重程度较低的漏洞的奖励为200美元起,发现特殊漏洞的奖励最高可达2万美元。
“我们邀请您报告在我们的系统中发现的漏洞、bug或安全漏洞。通过分享你的发现,你将在让我们的技术对每个人都更安全方面发挥关键作用。”
ChatGPT是一个人工智能聊天机器人,它使用生成技术以对话的方式与用户互动。它可以回答查询,并提供书面文本、歌曲、诗歌,甚至计算机代码。尽管这款聊天机器人很受欢迎,但它在过去也存在一些安全问题。
“模型安全问题”,例如“与模型提示和响应内容相关的问题”不符合漏洞赏金计划的条件,因为它们“不是可以直接修复的单个、离散的错误”,该计划描述称。
例如,有一个小故障,允许一些用户看到其他用户的对话标题。由于隐私问题,聊天机器人在意大利也被禁止使用。
OpenAI已向用户保证,他们将致力于保护用户的隐私,并提出了解决这一问题的措施。
