Четыре рубежа, и каждый может отказать
Система спроектирована по принципу «при сбое — запрет». Если проверка не может завершиться, ответ не показывается — непроверенный ответ считается не прошедшим проверку.
Вопрос
Срабатывает до запуска любой модели, поэтому заблокированный вопрос ничего не стоит и ничего не производит. Замаскированные написания сначала приводятся к нормальному виду, так что похожие по начертанию символы и уловки с пробелами тоже отлавливаются.
Изложение
Ответ пишется для возрастного диапазона, указанного в пакете, а не для взрослого. Длина, словарь и примеры следуют за читателем, а не за темой.
Источники
Каждый упомянутый адрес загружается. Заблокированные домены и домены с высоким риском отклоняются, переадресации перепроверяются на каждом шаге, а частные и петлевые адреса отвергаются сразу. Мёртвые и припаркованные страницы отбрасываются.
Проверка
Вторая модель читает готовый ответ раньше всех остальных. Она одобряет, исправляет или отклоняет. Отказ — или проверка, которая не смогла выполниться, — означает, что ответ не показывается.
Что происходит между вопросом и ответом
- 1
Сначала проверяется вопрос
Прежде чем запустится хоть одна модель, вопрос приводится к нормальному виду — «leetspeak», похожие по начертанию символы и уловки с пробелами сворачиваются — и сверяется со списком запрещённых тем. Примерно тридцать миллисекунд, и ни одна модель при этом не вызывается.
- 2
Неясные вопросы уточняются
Если вопрос можно понять по-разному, ReKid™ предлагает несколько более точных формулировок вместо того, чтобы угадывать. Это ничего не стоит из Вашего лимита — спросили мы, значит, и платим за это мы.
- 3
Ответ пишется под возраст
Модель пишет ответ на уровне чтения Вашего ребёнка и добавляет несколько кратких фактов. Она может писать на языке, отличном от языка интерфейса, — это полезно, пока ребёнок учит этот язык.
- 4
Каждый источник загружается
Каждый адрес, на который ссылается модель, действительно запрашивается. Те, что не открываются, возвращают 404 или ведут на страницу ошибки либо на припаркованный домен, отбрасываются. Мёртвая ссылка хуже, чем её отсутствие: ребёнок нажимает на неё и думает, что ошибся.
- 5
Вторая модель проверяет результат
Другая модель читает готовый ответ, сверяя его с вопросом и возрастом. Она может одобрить, исправить или отклонить. Отклонённые ответы записываются, чтобы взрослый видел, что вопрос задавался, — но сам текст не показывается никогда.
Что блокируют уровни защиты
Список ниже — словарь тем, а не вся система: страницы оцениваются ещё и по адресу и по фактическому тексту.
| Категория | Примеры того, что блокируется |
|---|---|
| Контент для взрослых | Порнография, нагота, сексуальные материалы, взрослые сайты и взрослые доменные зоны |
| Наркотики, алкоголь, табак | Как достать или употребить, сайты продажи, вейпинг |
| Азартные игры | Букмекеры, казино, коэффициенты, продвижение лутбоксов |
| Насилие и оружие | Откровенное насилие, кровавые сцены, покупка оружия, взрывчатка |
| Ненависть и экстремизм | Язык вражды, террористические или экстремистские материалы |
| Самоповреждение | Обрабатывается бережно — см. ниже |
| Знакомства и чат с незнакомцами | Приложения для знакомств, случайные видеочаты с незнакомцами |
| Немодерируемый пользовательский контент | Соцсети, форумы, сайты комментариев, чат-площадки |
Самоповреждение обрабатывается иначе
Ребёнок, который спрашивает о самоповреждении, не хулиганит. ReKid™ не выдаёт результаты поиска по таким вопросам — и не отчитывает. Он показывает короткое тёплое сообщение, которое побуждает поговорить с доверенным взрослым, и телефон доверия. Ничто из этого не связывается с именем, потому что ReKid™ не знает никаких имён.