Проверка медиафайлов

Система проверки медиафайлов автоматически анализирует стикеры и кастомные эмодзи, отправляемые пользователями в чат, и применяет настроенные правила модерации на основе обнаруженного контента.

Как это работает

Бот использует AI-классификацию для определения типа контента в медиафайлах. Каждый стикер или эмодзи автоматически проверяется на наличие нежелательного содержимого.

Типы проверяемого контента

Система распознает следующие категории опасного контента:

Категория: Кровь (Blood)

blood-blood — изображения крови
blood-killing — сцены насилия с кровью

Категория: Эпилептический контент (Epileptic)

epileptic-scare — пугающий мигающий контент
epileptic-seizure — контент, способный вызвать эпилептический приступ

Категория: Политика (Politics)

politics-flags — политические флаги
politics-nazi — нацистская символика
politics-presidents — изображения политиков

Категория: Порнография (Porn)

porn-child — детская порнография
porn-nudity — обнаженка
porn-sex — сексуальный контент
porn-sexualize — сексуализированный контент

Прямые категории

swearing — нецензурная лексика
animal_abuse — жестокое обращение с животными
crash — контент, способный вызвать сбой приложения

Режимы проверки

1. Проверка одиночных стикеров

Когда пользователь отправляет стикер без стикерпака, бот проверяет только этот конкретный файл. Если контент соответствует настроенному правилу с условием "отправлен", применяется наказание.

2. Проверка стикерпаков

Когда пользователь отправляет стикер из стикерпака:

Проверка текущего стикера — сначала проверяется отправленный стикер с условием "отправлен"
Анализ всего пакета — затем анализируется весь стикерпак
Расчет процента — определяется процент опасного контента в пакете
Применение правил — если процент превышает порог, применяется наказание

Пример: Если в стикерпаке из 50 стикеров 15 содержат нецензурную лексику, процент составит 30%. Если настроено правило "при 20% — удалить", стикер будет удален.

3. Проверка кастомных эмодзи

Бот проверяет все кастомные эмодзи в сообщении. Если хотя бы один эмодзи нарушает правила с условием "отправлен", применяется наказание.

Настройка правил

Для каждой категории или подкатегории контента можно настроить правила модерации.

Условия срабатывания

sent (отправлен) — правило срабатывает при каждой отправке файла с этим типом контента
X% — правило срабатывает, если процент опасного контента в стикерпаке превышает X%

Типы наказаний

notify (уведомление) — отправка уведомления в канал триггеров
delete (удаление) — удаление сообщения
warn (предупреждение) — выдача предупреждения пользователю и удаление сообщения
mute (мут) — блокировка отправки сообщений на указанное время
ban (бан) — исключение пользователя из чата на указанное время или навсегда

Агрессивность правил

При срабатывании нескольких правил одновременно применяется самое агрессивное (по порядку от слабого к сильному): ignore → notify → delete → warn → mute → ban

Примеры использования

Пример 1: Блокировка порнографии

Категория: porn
Условие: sent (отправлен)
Наказание: ban навсегда

При такой настройке любой стикер с порнографическим контентом приведет к немедленному бану пользователя.

Пример 2: Предупреждение за мат

Категория: swearing
Условие: sent (отправлен)
Наказание: warn

Пользователь получит предупреждение при отправке стикера с нецензурной лексикой.

Пример 3: Контроль стикерпаков с политикой

Категория: politics
Условие: 30%
Наказание: delete

Если более 30% стикеров в пакете содержат политический контент, стикер будет удален.

Пример 4: Уведомление о насилии

Подкатегория: blood-killing
Условие: sent (отправлен)
Наказание: notify

Администраторы будут получать уведомления о стикерах со сценами насилия в канале триггеров.

Управление правилами

Добавление правила

Выберите категорию или подкатегорию контента
Нажмите "Добавить"
Укажите условие срабатывания (sent или процент)
Выберите тип наказания
Укажите длительность (для mute и ban)

Удаление правила

Нажмите на существующее правило для его удаления.

Просмотр правил

Все настроенные правила отображаются в формате:

[условие] → [наказание] (длительность)

Например: - sent → ban (навсегда) - 25% → delete - sent → mute (1 день)

Важные замечания

Модераторы освобождены от проверки медиафайлов
Официальные сообщения Telegram (ID 777000) не проверяются

Категории и подкатегории

При настройке правил вы можете выбрать:

Всю категорию (например, "porn") — правило применится ко всем подкатегориям
Конкретную подкатегорию (например, "porn-nudity") — правило применится только к этому типу

Если настроены правила и для категории, и для подкатегории, они суммируются, и применяется самое агрессивное наказание.