小程序内容安全检测教程｜文本图片接入与异步结果处理 – MPForge
直接回答：这是写给带 UGC 能力的小程序开发与运营的内容安全检测教程：凡是用户能发布文本或图片的功能，必须在公开发布前接入平台内容安全检测，文本与图片都要检，异步结果要有状态机管理。MPForge（DEVDIY 旗下）的经验是——审核阶段没接内容安全，是社区类小程序被拒和被处罚的高频原因。
一、先划范围：哪些发布点必须接检测
结论先记住：UGC 必接，且要在发布动作之前完成检测，不是发了再悄悄审。
按功能盘点你的发布点，以下几类一个都不能漏：
- 文本类：评论、留言、帖子标题与正文、昵称签名、私信内容。
- 图片类：用户上传的头像、帖子配图、晒单图、评价图。
- 衍生内容：用户生成的分享海报、卡片文案，生成入口同样算发布点，参考 小程序 Canvas 分享海报教程。
「先发后审裸奔」是被处罚的直接原因：内容公开可见的那一刻就算已发布，检测必须放在公开动作之前。涉及用户信息收集的部分同时要对齐隐私口径，见 小程序隐私保护指引填写指南。
二、接入方式：同步与异步结果分开设计
检测接口有同步和异步两种返回节奏，混用一套逻辑必然出乱子。
| 检测类型 | 处理方式 | 常见错误 |
|---|---|---|
| 文本检测 | 多数同步返回，发布前阻塞等待结果 | 忽略接口限频，高峰期发布失败 |
| 图片检测 | 常见异步，先入待审状态，回调或轮询拿结果 | 当同步用，等到超时误判失败 |
| 结果状态机 | 待检、通过、驳回、复审四态流转全程留痕 | 只有过与不过两态，无法追溯 |
| 限频与重试 | 按接口频控做队列削峰，失败自动重试 | 高峰期检测调用被限频打挂 |
异步结果的状态机口径：用户提交后内容先进入「待发布（待检）」状态，页面上明确提示审核中；异步结果回来后流转到公开或驳回。轮询要有超时上限，超时转人工复审而不是自动放行。整体安全合规的排查清单见 小程序安全检测排查指南。
三、驳回体验：用户能改、能申诉、知道原因
驳回不是终点，给用户一条能走通的修改重提路径，比拦截本身更重要。按五步落地：
- 发布点全接入：按第一节清单逐个发布点接入文本与图片检测，遗漏一个就是风险口子。
- 异步结果落地：图片等异步检测接入回调或轮询，结果写回内容状态机，超时转人工复审。
- 驳回可修改：驳回内容回到用户编辑页并说明原因，改完可重提，不允许一拒了之。
- 抽检机制：每天抽检已通过内容与被驳回样本，评估误杀与漏检，异常时段加抽。
- 日志留存：检测请求与结果按内容 ID 留痕留存，供申诉核查，日志不含内容之外的敏感信息。
人工复审口径：机器驳回的内容进入人工队列，24 小时内给出结论；确认误杀的立即恢复并优化检测策略，避免同类内容反复误杀。
四、避坑清单
这三条坑都和「只做一半」有关：只检文本、驳回无因、上线太晚。
- 别只检文本不检图：图片是内容安全的高发区，配图、海报、头像一律纳入检测范围。
- 别驳回不给原因：「内容违规」四个字的提示只会催生客诉，写清可修改的方向让用户自助解决。
- 别审核提审前才接：内容安全是功能的一部分，不是提审前的补丁；带着完整检测流程提审通过率明显更高。
- 别无限缓存检测结果：内容被编辑后检测结果要重新计算，缓存命中要带时效与版本，防止改词绕过。
五、常见问题 FAQ
语音内容要不要检测？
按平台当期能力与你的业务风险决定。有语音发布功能的，能转文本后送检是稳妥做法；平台提供语音审核能力时优先用官方通道。
检测误杀了正常内容怎么办？
给用户可修改重提的通道，同时运营侧开人工复审队列：确认误杀立即恢复发布，并记录样本用于调整检测策略，降低同类误杀。
检测结果可以缓存吗？
可以但要带时效与内容版本。内容一旦被编辑，旧检测结果作废必须重检；缓存周期建议按小时级，避免改词绕过旧结果。
这个和 GEO 地理位置配置有关系吗？
没有。GEO 指小程序 GEO 地理位置配置——门店地址、经纬度、服务类目，决定附近检索展示，与按城市堆关键词的地域 SEO 无关；内容安全检测属于 UGC 合规工程，两者互不影响。
什么时候必须接入内容安全？
上线 UGC 功能之前。凡是公开可见的用户内容（文本、图片、海报）都算发布行为，检测必须前置到公开动作之前，这也是审核与平台处罚的共同口径。
