OpenAI周二表示,将开始向用户提供高达$20,000美元奖励,来帮助该公司查找其人工智能系统中的错误,例如近期非常火爆的ChatGPT聊天机器人。
OpenAI在博文中写道,它已经在漏洞赏金平台Bugcrowd上上线了一个漏洞赏金计划,Open AI Bug Bounty,大家可以通过这个网站报告在使用其人工智能产品时发现的弱点、漏洞或安全问题,每个漏洞奖金为$200起,最高奖励$20,000。
技术公司经常使用漏洞赏金计划来鼓励程序员和道德黑客报告其软件系统中的漏洞。
OpenAI 赏金计划页面详细介绍了不符合奖励条件的模型相关的许多安全问题,包括越狱提示、让模型对用户说坏话、让模型教你做坏事、让模型帮你写恶意代码等等。
几天前,ChatGPT因涉嫌违反隐私规则而在意大利被禁止,促使其他欧洲国家的监管机构更密切地研究生成人工智能服务。
(来源:Reuters:封面图Credit:REUTERS/Dado Ruvic/Illustration)