四道关卡,每一道都能拒绝
这个设计是失败即关闭的。当一项检查无法完成时,答案会被扣下,而不是显示出来 —— 未经检查的答案算作未通过。
问题
它在任何模型之前运行,所以一个被屏蔽的问题不产生任何费用,也不产生任何内容。伪装的拼写会先被规范化,因此形近字符和空格花招也会被识破。
写作
答案按照套餐上的年龄范围书写,而不是写给成年人。长度、词汇和例子跟随读者,而不是跟随话题。
来源
每一个被引用的地址都会被抓取。被屏蔽的域名和高风险域名会被拒绝,重定向在每一跳都重新检查,私有地址和回环地址一律直接拒绝。失效页面和停放页面会被剔除。
审查
第二个模型在任何人之前阅读写好的答案。它会通过、修正或拒绝。一次拒绝 —— 或者一次没能运行的审查 —— 都意味着答案不会显示。
在问题和答案之间发生了什么
- 1
问题先被检查
在任何模型运行之前,问题会先被规范化 —— leetspeak 式的替换拼写、形近字符和空格花招都会被还原 —— 然后与被屏蔽的话题比对。大约三十毫秒,并且完全不会调用任何模型。
- 2
不清楚的问题会被反问
如果一个问题可能有好几种意思,ReKid™ 会给出几个更明确的版本,而不是去猜。这不会消耗你的额度 —— 是我们发问的,所以由我们承担。
- 3
答案按年龄书写
一个模型按照孩子的阅读水平写出答案,并附上几条简短的事实。它可以用与界面不同的语言书写 —— 在孩子学习一门语言时很有用。
- 4
每一个来源都会被抓取
模型引用的每一个地址都会被真正请求。无法解析、返回 404,或者落到错误页或停放页的地址会被剔除。失效链接比没有链接更糟:孩子点开它,会以为是自己错了。
- 5
第二个模型审查它
另一个模型对照问题和年龄,阅读写好的答案。它可以通过、修正或拒绝。被拒绝的答案会被记录下来,让成年人可以看到孩子问过这个问题 —— 但正文永远不会显示。
安全层拦截哪些内容
下面的清单是主题词典,并非系统全部:页面还会依据其网址和真实正文来判断。
| 类别 | 被拦截内容举例 |
|---|---|
| 成人内容 | 色情、裸露、性内容、成人网站及成人顶级域名 |
| 毒品、酒精、烟草 | 获取或使用方法、销售网站、电子烟 |
| 赌博 | 博彩网站、赌场、赔率、开箱抽奖推广 |
| 暴力与武器 | 露骨暴力、血腥内容、武器购买、爆炸物 |
| 仇恨与极端主义 | 仇恨言论、恐怖主义或极端主义材料 |
| 自我伤害 | 以关怀方式处理 — 见下文 |
| 交友与陌生人聊天 | 交友软件、与陌生人随机视频聊天 |
| 无审核的用户内容 | 社交网络、论坛、评论站点、聊天平台 |
自我伤害的处理方式不同
一个询问自我伤害的孩子并没有做错事。ReKid™ 不会为这类问题返回搜索结果,也不会加以斥责。它会显示一条简短温暖的话,鼓励孩子去找一位信任的成年人谈谈,并附上求助热线。这一切都不会与任何姓名关联,因为 ReKid™ 根本不知道任何姓名。