巨幅缩短工作周期！OpenAI公布基于GPT-4的内容审核系统

晚风凉 发布于 2023-12-06 03:42:39

当地时间周二（8月15日），人工智能研究公司OpenAI在官网称，其开发了一种使用GPT-4进行内容审核的解决方案，有望减轻人工审核员的负担。OpenAI在博文中写道，内容审核在维持数字平台健康方面发挥着至关重要的作用，使用基于GPT-4的内容审核系统可以更快地迭代政策变更，将工作周期从数月缩短至数小时。任何拥有OpenAI API访问权限的人都可以采用这种方法创建自己的人工智能辅助审核系统。GPT-4能解释冗长的内容政策文档中的规则和细微差别，并即时适应政策更新，从而使标签更加一致。在审核能力上，OpenAI承认GPT-4的标记质量与经过轻度训练的人类审核员相似，但与经验丰富、训练有素的人类审核员相比仍有差距。对此，OpenAI强调，审核的过程不应该完全自动化。需要指出的是，OpenAI的工具并不是该领域第一个引入人工智能的先行者。早于2017年，谷歌的技术团队就开发了一个基于AI的内容审核API，名为“Perspective”，已经被多家媒体组织所使用。但即使如此，一些企业仍选择将审核工作外包给其他人力公司来节省成本。其中，引领智能科技发展的Facebook也被曝雇佣了数千菲律宾年轻人来过滤与恐怖袭击有关的内容。媒体报道指出，Facebook将部份监督内容的工作外包到菲律宾，由于工作压力大，许多人做不到18个月。曾协助Facebook雇佣监督员的经理人说，员工经常因审阅的内容受精神创伤。OpenAI称，其最新的内容审核系统为数字平台的未来提供了一个更积极的愿景，即AI可以根据平台特定的政策减轻大量人工审核人员的精神负担。公司还透露，已经有一些客户在使用这一流程。