公司运营一个比较热门的小众社区 直观规模是: 静态资源 CDN 每月 35 亿次 HTTPS 请求数
所有用户为强实名, 初期允许微信登陆或者手机号登陆, 纯微信登陆到一定门槛要求验证手机.
该社区允许用户自己发布帖子
该社区允许用户上传图片, 包含: 自己的头像, 随发布内容附图
上传图片直传阿里云 OSS, 调用阿里云的安全引擎扫描用户上传的图片
系统不允许上传文章截长图, 识别到图片内文字超过一定量, 直接触发绕过监管账号永封
上传文字系统接入一个自有的非常小的模型分析大致语义, 进行提炼, 对内容安全进行初步预警, 预警内容推送审核员工作台进行人工审核, 以便内容安全合规
2025 年全年, 共计发生文字性内容预警 29 次, 均为涉政, 其中 24 次为正常讨论涉及国家或者地方政策, 包含抱怨, 不属于恶意, 予以通过. 其中 5 次予以删除.
2025 年全年, 共计发生上传图片直接阿里云风险预警强制删除 379xxx 次, 其中 201XXX 次为涉黄, 1XXX 次为涉血腥暴力, 其余为涉政.
2025 年上半年, 共计发生图片上传时阿里云未预警内容违法违规, 经过至少 14 天后, cdn 侧频繁访问复审报图片违法 7x 次
2025 年下半年, 共计发生图片上传时阿里云未预警内容违法违规, 经过至少 14 天后, cdn 侧频繁访问复审报图片违法 19xx 次
复审图片违法 100%为 政治人物隐喻
出现这类违法, 账号一律永封, 且公司一律报网警.
数据表明, 2025 年下半年以后, 天天有人创造出新的涉政梗图并刻意大肆传播, 即使没人关注(小众社区, 连黄图都没人发没人看, 很多扫描涉黄的只是单纯的一些梗图而不是刻意分享黄图). 严重怀疑 ai 生成技术泛滥导致的可以很容易创造新的梗图, 代表就是各种维尼熊
所有用户为强实名, 初期允许微信登陆或者手机号登陆, 纯微信登陆到一定门槛要求验证手机.
该社区允许用户自己发布帖子
该社区允许用户上传图片, 包含: 自己的头像, 随发布内容附图
上传图片直传阿里云 OSS, 调用阿里云的安全引擎扫描用户上传的图片
系统不允许上传文章截长图, 识别到图片内文字超过一定量, 直接触发绕过监管账号永封
上传文字系统接入一个自有的非常小的模型分析大致语义, 进行提炼, 对内容安全进行初步预警, 预警内容推送审核员工作台进行人工审核, 以便内容安全合规
2025 年全年, 共计发生文字性内容预警 29 次, 均为涉政, 其中 24 次为正常讨论涉及国家或者地方政策, 包含抱怨, 不属于恶意, 予以通过. 其中 5 次予以删除.
2025 年全年, 共计发生上传图片直接阿里云风险预警强制删除 379xxx 次, 其中 201XXX 次为涉黄, 1XXX 次为涉血腥暴力, 其余为涉政.
2025 年上半年, 共计发生图片上传时阿里云未预警内容违法违规, 经过至少 14 天后, cdn 侧频繁访问复审报图片违法 7x 次
2025 年下半年, 共计发生图片上传时阿里云未预警内容违法违规, 经过至少 14 天后, cdn 侧频繁访问复审报图片违法 19xx 次
复审图片违法 100%为 政治人物隐喻
出现这类违法, 账号一律永封, 且公司一律报网警.
数据表明, 2025 年下半年以后, 天天有人创造出新的涉政梗图并刻意大肆传播, 即使没人关注(小众社区, 连黄图都没人发没人看, 很多扫描涉黄的只是单纯的一些梗图而不是刻意分享黄图). 严重怀疑 ai 生成技术泛滥导致的可以很容易创造新的梗图, 代表就是各种维尼熊
 |
1
MindMindMax 9 小时 43 分钟前
有点意思。感谢分享
|
 |
2
kandaakihito 9 小时 24 分钟前
“出现这类违法, 账号一律永封, 且公司一律报网警.”
有点恐怖。。。看来我应该已经上名单了 |
 |
3
jydeng 9 小时 21 分钟前
有意思的数据，社区真的不好做。
|
 |
4
wanmyome 9 小时 10 分钟前
你的头像是我最曾经用过很多年的头像
|
 |
5
realpg OP PRO  1
@jydeng #3
其实挺好做了, 合规做好以后, 就可以逐渐精简人力, 小众社区, 谈论的东西都是专业性的, 你乱发东西圈子内的朋友是真的直接举报的. 最后稳定后在职信息安全员岗就一个人, 同时是全职分区管理. 另有三个社区管理员, 两个为爱发电, 一个是小金额兼职. 此项目是有收入的, 允许稍微有钱的会员充点赞助, 还有一些相关周边专业品牌方在这边卖东西, 在社区卖东西比外面门店便宜, 因为实物比较贵销量小, 门店利润很高才能保证不倒闭, 走网络渠道是有提成的. 相当于除了不能挑品相, 比线下便宜还有返点 会员充值赞助(在线小道具和附件特权)能解决运营成本的 20%, 剩下靠销售提成补还略有盈利. 老板是爱好者, 只要求不亏钱, 不要求一分钱盈利. 因为我有能力搞云规划, 运行起来, 公有云服务器上的成本已经被极端压缩到很离谱的水平了 阿里看着都想哭那种... 也就 cdn 是刚性费用, oss 上的附件到一定周期都会转移到 25T onedrive 里去进行永久保存, 大文件一律 telegram 当网盘存储 |
 |
6
wgbx 8 小时 39 分钟前
最后一句太有乐子了
|
 |
7
gogo_tutu 8 小时 35 分钟前 via iPhone
文件转 25T onedrive 或是 telgram 都不太稳定吧？这些服务很容易被官方封停
|
 |
8
Gilfoyle26 8 小时 11 分钟前
这个社区一定很赚钱吧，不然这么折腾我看着都累
|
|
9
realpg OP PRO @gogo_tutu #7
不会的, onedrive 的主体是真实公司使用的 文件增加到一定门槛后 被后台审计过一次 迟迟不续订 E5, 审核日期也变了 这次审计通过了以后 随便传多大都不管了 一直续期 telegram 就更无敌了, 随便传 @Gilfoyle26 #8 你就没有点自己的爱好吗?什么都得赚钱 |
 |
10
xFrank 6 小时 33 分钟前
纯好奇：维尼熊动画片里面截取的图片，没有配任何文字，没有其他上下文，会违规么
|
 |
12
littiefish 6 小时 15 分钟前 via iPhone
嗯，课堂可以学政治，但不能讨论政治。这很 xx
|
|
13
littiefish 6 小时 14 分钟前 via iPhone
@realpg 阿里懂的真多，知道这多多也算违法吧？
|
 |
14
mytsing520 PRO @littiefish
阿里的清单也来自官方，大厂都有这方面业务 |
 |
15
tomatocici2333 6 小时 7 分钟前
 维尼熊背大锅 |
 |
17
zhengfan2016 4 小时 7 分钟前
@kandaakihito 大厂都是这么操作的吗 hh ，我的网易云音乐帐号永封了快 10 年了，有些音乐评论区上千个评论和点赞，管的过来吗
 |
|
18
mytsing520 PRO @zhengfan2016
干过这行业的表示，可以管得过来 |
 |
20
404www 3 小时 3 分钟前
|
 |
23
rb6221 2 小时 50 分钟前
全年 17w 图片涉政问题，平均到每天就是每天 400 多次？你们这小众论坛的用户构成有点离谱的
只是文字也就算了，关键是图片都这么高强度 我理解如果不是用户本身兴趣很大或者你们监管的问题，要么用户只发纯文字隐喻讨论（比如 NGA 赢区），要么是抱怨、阴阳怪气型居多（如 vv 图） 你这个触发删除应该是特别危险的那一类吧，这都能有每天 400 多次，大开眼界 |
|
24
realpg OP PRO @rb6221 #23
不是特别危险啊 单纯的有些人作死反复上传啊... 而且 我们有即时临时沟通 短存储 图片存储有效期就 4 小时 这类是随机开的 live thread 而且我们的安全级别开的比较高 有误判的 毕竟人力少 |
|
25
realpg OP PRO @404www
能 无限多 但是只有 25 个 office 正版授权 邮箱数量是随便开的 包含共享邮箱 普通邮箱 这些邮箱对应我公司项目 每个项目 1~4 邮箱, 都高强度收发邮件 有 api 处理 也有对应的实体管理人 我 E5 玩的多 这个 E5 触发人工审查的时候我是知道的, 就是我们突然大量传了文件到 one drive, 之后到日子就迟迟不续期, 人工滥用审查了半个月, 然后被判定合规了, 开始继续定期更新了. 再往后怎么突然一次性传 1TB 文件 都不会触发审查了 现在我这边 E5 高强度员工在用 各种业务邮件 还使用 microsoft api 公司开发了不少应用 各种系统也都 based on microsoft 因为我们公司在北方, 办公都是联通网, 北方联通对微软新加坡的速度非常快, 不需要梯子, 随便跑 10MB/s 的速度, 用着非常舒服 公司员工各种文档, 还有给客户上下游分享文件也全基于 onedrive 从操作行为分析角度来说 我们这是一个非常正规的开发公司 |
Select Language