ЖЖИТНЯКОВDigital System Обсудить проект
MVPDATA / NEWS

News Radar

Мониторинг, кластеризация и аналитика информационных событий.

Действующий MVP · радар новостей с доступом по входу владельца

АРХИТЕКТУРНАЯ СХЕМА: NEWS RADARGDELT и RSSЭмбеддингиКластерысобытийРанжированиеRead-only API
Архитектурная схема по документации проекта (не скриншот). Настоящий интерфейс будет добавлен после проверки.
  • 1 457тестовых функций в 88 файлах
  • 25маршрутов API
  • 11ревизий миграций
  • 0,942 / 0,644точность / полнота кластеризации

Тесты считаются по числу тестовых функций в репозитории; прохождение тестов здесь не утверждается.

Задача

Поток заголовков не показывает, какое событие набирает скорость, а одно и то же событие повторяется десятки раз.

Личный инженерный вклад

149 коммитов репозитория, все авторские.

Решение

  • Загрузка 15-минутных файлов GDELT GKG и быстрых RSS-лент (38 источников в конфигурации)
  • Кластеризация статей в события через эмбеддинги (onnxruntime, pgvector)
  • Ранжирование по динамике распространения и read-only API
  • Отдельные воркеры: кластеризация, оповещения, перевод, хранение
Статус MVP и ограничения

Работающая версия с ограниченным функционалом, опубликована или сдана. Полнота кластеризации 0,644 ниже целевых 0,8 (docs/eval/B1-results.md): это зафиксированный недостаток. Доступ к интерфейсу ограничен входом владельца.

Технологии

Python 3.12FastAPIPostgreSQL 16pgvectorSQLAlchemyAlembicDocker Compose

Источник фактов: news-radar: README.md, config/fast_feeds.toml, docs/eval/B1-results.md.