微信推出内容安全鉴别工具:“珊瑚内容安全助手”小程序

2019-06-21 10:00 栏目:行业资讯 查看(590)

就在刚刚,微信官方公众号“微信公开课”推送题为<微信移动端内容安全鉴别工具来了!运营者的“避雷”利器>的文章,该小程序目前主要提供三个方面的能力:①、风险自测:相当于一个简单的测评,根据你所选择的信息;②、风险检测:目前支持对文字和图片的检测,后续会增加视频和音频的检测;③、行业动态:发布互联网行业内容安全动态、相关法律法规等内容。

就如官方介绍中说的一样,我个人最感兴趣的是第二部分关于风险检测的,目前仅支持文字和图片的检测,视频和音频检测暂时还未开放。重点测试了文字和图片检测,文字可以智能识别文字中是否有敏感内容,但是某些敏感内容似乎检测不出来,检测机制应该是腾讯官方的一个敏感词库,然后根据各种算法匹配出来的。而图片检测也主要是针对违法图片检测,但对于图片版权问题是没有检测能力的,这一点要是做到就给力了。

另外,文字检测和图片检测均支持通过https服务端接口调用其检测能力,也可以通过小程序云开发调用其能力,而且调用次数限制对于一般应用足够了。后续微构网络可能会针对这些接口能力跟大家分享相关内容。

以下是官方介绍内容:

风险自测

点击“开始检测”进入“风险自测”页面,开发运营者们可以勾选自己的产品功能、各功能发布内容情况。

640

小程序会自动计算给出产品风险评级,并根据功能情况提供系统的安全解决方案,包括针对性的风险提示、相应的风险防控建议。帮助开发运营者们了解产品风险现状,从中获取防控风险的内容安全解决方案。

产品可能存在哪些风险,怎么防范,它都能一一道来,帮助消灭运营中的“危险分子”。

内容鉴别

小程序目前具有图片和文字鉴别功能,开发运营者可点击主页的“文字鉴别”或“图片鉴别”,输入相应内容,它将针对内容中是否含有违法有害信息进行鉴别。

640不仅能鉴别违法有害信息,它还有能力介绍和接入引导文档,一站式安全能力服务让开发者、运营者们从“体验”到“理解”再到“接入”,全程无缝“滑行”。640 (1)

行业动态

小程序还包含定期更新的互联网行业内容安全动态、相关法律法规等内容,帮助开发运营者及时掌握行业情况。

640 (2)

能力进化:新功能上线进行时

作为公众号小程序运营的“避雷”利器,“珊瑚内容安全助手”小程序将不断升级,定期更新行业安全动态信息,进一步完善内容安全能力。

在不久的将来,它还会推出音频和视频鉴别能力,帮助开发运营者们避开更多“雷区”。

只有当生态系统稳定平衡时,珊瑚礁才能茁壮生长。我们欢迎每位开发运营者接入小程序,合规运营,与我们共同建立绿色、健康的微信生态。

与我们的项目经理联系
扫二维码与项目经理沟通

我们在微信上24小时期待你的声音

解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流

转载请注明出处:微信推出内容安全鉴别工具:“珊瑚内容安全助手”小程序 - 微构网络
分享: