Как работает фильтр контента?
Фильтр контента - это функция уровня ULTIMATE, которая автоматически обнаруживает контент для взрослых или неприемлемые материалы в медиафайлах на подконтрольном устройстве. При обнаружении контента, превышающего заданный порог уверенности, на твой телефон мгновенно отправляется push-уведомление через приложение AllTracker Центр Управления .
Как это работает
AllTracker сканирует медиафайлы, находящиеся в открытом доступе на подконтрольном устройстве, например фотографии и видео в галерее устройства, и передаёт каждый файл через модель классификации на основе ИИ, работающую на самом устройстве. Файлы в приватных, скрытых или системных защищённых папках никогда не обрабатываются. Весь процесс классификации выполняется локально на целевом устройстве, поэтому никакие данные изображений не покидают устройство на этом этапе.
Модель ИИ оценивает каждый медиафайл и присваивает ему одну из пяти категорий контента:
Нейтральные - обычный, безопасный для работы контент
Рисунки - иллюстрированный или мультипликационный контент, не содержащий откровенных материалов
Хентай - анимированный или иллюстрированный контент для взрослых
Откровенные - провокационный или соблазнительный контент, который может быть неприемлем для детей
18+ - откровенный сексуальный контент для взрослых
Уведомление отправляется, когда показатель уверенности модели для любой категории взрослого контента превышает порог чувствительности, установленный тобой в настройках в Центре Управления.
О модели ИИ
В основе модели классификации лежит MobileNetV2 - лёгкая архитектура свёрточной нейронной сети, разработанная специально для мобильных и встраиваемых устройств. Она обеспечивает отличный баланс между точностью и вычислительной эффективностью, что делает возможным вывод в реальном времени на устройстве даже на Android-устройствах среднего класса.
Модель обучена на тщательно отобранном наборе данных из сотен тысяч размеченных изображений по всем пяти категориям. Она экспортирована в формат TensorFlow Lite (.tflite) и работает полностью офлайн, без подключения к интернету и без обращения к внешним API.
Конфиденциальность & хранение данных
Конфиденциальность - ключевой принцип проектирования фильтра контента. Вот как обрабатываются твои данные:
Обработка на устройстве: вся классификация ИИ выполняется исключительно на подконтрольном устройстве. Медиафайлы никогда не загружаются на серверы AllTracker автоматически.
Живой предпросмотр: когда сессия мониторинга активно открыта в браузере, миниатюра обнаруженного события передаётся напрямую в твою подключённую сессию через сокет-сервер. Этот предпросмотр никогда не сохраняется на серверах AllTracker.
Загрузка по запросу: только когда ты нажимаешь на миниатюру, чтобы просмотреть полное изображение, оно загружается на серверы AllTracker и отображается в браузере.
Срок хранения: каждое загруженное изображение хранится на наших серверах не более 30 дней, после чего автоматически и безвозвратно удаляется.
Ручное удаление: ты можешь удалить любой ранее загруженный файл в любое время на своей странице профиля во вкладке «Файлы».