为了进一步提升其人工智能系统的安全性与可靠性,知名的人工智能研究机构OpenAI宣布启动“Bio Bug Bounty”项目。该活动旨在邀请研究者们测试聊天机器人ChatGPT的安全性,尤其是针对其可能存在的漏洞进行深入挖掘。
OpenAI特别提到了一种称为“通用越狱提示”的攻击方法作为挑战内容之一。参与者可以通过发送这种特殊的提示来尝试突破ChatGPT的安全限制,进而发现潜在的风险点。对于成功识别并利用这些安全问题的研究者,OpenAI承诺将提供最高25,000美元的奖金奖励。
此次“Bio Bug Bounty”计划不仅是一次技术挑战,也是对全球研究社区的一次重要邀请。OpenAI希望通过这种方式汇聚更多有识之士的力量,共同致力于提升人工智能系统的安全性,确保技术发展能够惠及全人类。
🔗 来源:Agent bio bug bounty call (AI 严选)
推荐意见