Zum Inhalt springen
PropertyFlowdemo

SYNTHETISCHE DEMO-DATEN

Import-Pipeline

Der Katalog wird von einem Kommandozeilen-Importer befüllt, der einen XML-Feed im Kyero-Format liest, prüft und per Upsert in PostgreSQL schreibt. Diese Seite zeigt die letzten Läufe. Sie ist schreibgeschützt: Importe lassen sich nicht über das Web auslösen.

Ein geplanter Job auf einem Linux-VPS führt den Importer täglich mit einem simulierten Feed aus, in dem sich einige Preise ändern, damit neue Läufe echte Änderungen zeigen.

Letzter Lauf · #6

Abgeschlossen

27.10.2026, 08:39 UTC · 4.0 s

Neu
0
Geändert
0
Unverändert
300
Fehler
0

Letzter erfolgreicher Lauf · #6

Abgeschlossen

27.10.2026, 08:39 UTC · 4.0 s

Neu
0
Geändert
0
Unverändert
300
Fehler
0

Letzte Läufe

LaufGestartetDauerStatusDatensätzeNeuGeändertUnverändertFehlerFehlendDeaktiviertHinweise
#627.10.2026, 08:39 UTC4.0 sAbgeschlossen30000300000
#527.10.2026, 08:30 UTC2.9 sAbgeschlossen30000300000
#427.10.2026, 08:30 UTC5.2 sAbgeschlossen30003000000
#327.10.2026, 08:15 UTC0.3 sFehlgeschlagen–000000MALFORMED_XML: XML is not well-formed: 5230:48: unclosed tag: en
#227.10.2026, 08:15 UTC2.8 sAbgeschlossen30000300000
#127.10.2026, 08:15 UTC4.9 sAbgeschlossen30030000000

So läuft ein Import ab

  1. Prüfsumme und Größenlimit werden geprüft, bevor etwas geparst wird.
  2. Der gesamte Feed wird gestreamt und validiert, bevor geschrieben wird; eine abgeschnittene Datei scheitert hier und die bestehenden Daten bleiben unberührt.
  3. Inserate werden per (Quelle, ID) in einer Transaktion geschrieben. Ein Inhalts-Hash entscheidet über neu / geändert / unverändert, daher ändert ein erneuter Lauf desselben Feeds nichts.
  4. Kyero-Feeds sind vollständige Snapshots, fehlende Inserate werden aber nur gemeldet, nicht entfernt. Eine weiche Deaktivierung braucht ein ausdrückliches Flag und wird bei einem starken Rückgang der Datensätze verweigert.
  5. Ein Advisory Lock in der Datenbank verhindert zwei gleichzeitige Läufe für dieselbe Quelle.