OpenAI 推出 AI 安全Bug Bounty计划

全球领先的人工智能研究机构OpenAI近日宣布了一项重要举措——安全Bug Bounty（简称Bounty）程序。

目标与意义

该计划的主要目的是识别和防止人工智能系统中的滥用行为和安全隐患。这包括但不限于：
- 代理漏洞: AI系统可能被设计成具有自我学习能力的“代理人”，这类漏洞可能导致控制权转移。

- 提示注入: AI模型可能会对输入的文本进行分析，如果恶意用户能将特定内容作为提示输入，就可能操纵AI行为。

- 数据泄露: AI系统处理大量敏感信息时，若防护措施不足，就会面临数据被窃取的风险。