Lodur Helper - Einsatzrapporte
Switch branches/tags
Clone or download
Latest commit 42ecd74 Aug 18, 2018
Permalink
Type Name Latest commit message Commit time
Failed to load latest commit information.
library
.gitignore
README.md
dashboard_client.py
dashboard_client.service
main.py
requirements.txt
test_pdf_parsing.py

README.md

From Mail to Lodur - all automated

"Loki - Nordischer Gott des Feuers"

General application description is in German

pylokid ist eine Hilfsapplikation um z.B. Einsatzaufträge, welche die Einsatzleitzentrale (ELZ) per E-Mail versendet, automatisch im Lodur einzutragen. Die Applikation versucht so viele Informationen über den Einsatz in Erfahrung zu bringen, wie nur möglich. Dies geschieht unter anderem durch Auslesen von Daten aus dem der E-Mail angehängten PDF.

Im Moment ist die Applikation vermutlich nur im Kanton Zürich einsetzbar und vermutlich auch nur für die Feuerwehr Urdorf. Bei Interesse an dieser Applikation von anderen Feuerwehren bin ich gerne bereit, diese entsprechend zu generalisieren und weiter zu entwickeln.

Funktionsweise

Bei einem Feuerwehralarm sendet die ELZ automatisch eine E-Mail mit einem PDF im Anhang, welches alle notwendigen Informationen zum Einsatz enthält. Nach Abschluss des Einsatzes sendet die ELZ ein weiteres E-Mail mit dem Einsatzprotokoll.

pylokid funktioniert so:

  • Alle x Sekunden wird das angegebene Postfach nach ELZ E-Mails überprüft. Diese identifizieren sich mit dem Betreff "Einsatzausdruck_FW" oder "Einsatzprotokoll".
  • Wird ein passendes E-Mail gefunden, wird der Anhang (das PDF) heruntergeladen, in die Cloud gespeichert (WebDAV) und im Lodur ein entsprechender Einsatzrapport eröffnet und vorausgefüllt. Das PDF wird sinnvoll umbenannt und als Alarmdepesche ins Lodur geladen.
  • Kommen weitere E-Mails mit dem Betreff "Einsatzausdruck_FW" werden diese im Lodur am entsprechenden Einsatzrapport angehängt.
  • Ist der Einsatz abgeschlossen und das Einsatzprotokoll eingetroffen werden die Informationen im Lodur nachgetragen.

Desweiteren wird über MQTT eine Nachricht mit möglichst vielen Informationen publiziert, inkl. dem PDF. So kann ein Drittsystem auf einen Einsatz reagieren, z.B. den Einsatz auf einem Dashboard darstellen.

Stolpersteine / Herausforderungen

Im abgebildeten Prozess gibt es viele Stolpersteine. Zwei davon:

  • Die ELZ sendet PDFs welche by design keine Datenstruktur haben. Somit ist das herausholen von Informationen mehr Glückssache als Verstand. Würde die ELZ die Informationen vom PDF als strukturierte Daten liefern, würde das System um einiges stabiler.
  • Lodur hat keine API. Alle Datenmanipulationen funktioniert über Reverse Engineering der HTML Formulare. Dabei kamen einige spezielle Techniken von Lodur zum Vorschein:
    • Nach dem Anlegen eines Einsatzrapportes wird in der Antwort des Servers dieselbe Seite mit einem JavaScript Script gesendet, welches die Browserseite noch einmal neu lädt und zum angelegten Datensatz weiterleitet. Nur in diesem JavaScript Tag findet man die zugewiesene Datensatz ID.
    • Zur Bearbeitung eines Datensatzes werden die bekannten Daten nicht etwa im HTML Formular als "value" eingetragen, sondern via JavaScript ausgefüllt. Und es müssen immer alle Daten nochmals gesendet werden, inkl. einiger hidden Fields.

Um die Probleme mit Lodur zu umgehen, werden alle Daten, welche an Lodur gesendet werden, in einem JSON File im WebDAV neben den PDFs abgelegt. So lässt sich im Nachhinein ein Datensatz bearbeiten und eine Zuordnung des Einsatzes im WebDAV und in Lodur herstellen.

Dashboard

Wird ein neuer Einsatz registriert (E-Mail mit dem Betreff "Einsatzausdruck_FW") published pylokid via MQTT Informationen über den Einsatz. Dazu sind folgende Topics vorgesehen:

  • pylokid/Einsatzausdruck_FW/<f_id>/pdf: Binary Blob mit PDF
  • pylokid/Einsatzausdruck_FW/<f_id>/json: Geparste Daten als JSON

Ist der Einsatz beendet (E-Mail mit dem Betreff "Einsatzprotokoll") wird folgendes Topic published:

  • pylokid/Einsatzprotokoll/<f_id>/json: Geparste Daten als JSON

Der Dashboard Client dashboard_client.py subscribed auf diese Topics und zeigt mittels xpdf das PDF im Vollbild an. Ist der Einsatz vorbei, wird das PDF wieder geschlossen. Dies kann z.B. auf einem Raspberry PI installiert werden und im Feuerwehr Depot an ein TV angeschlossen werden. Mit Hilfe von cec-client wird versucht den TV über HDMI einzuschalten.

Installation and Configuration

The application is written in Python and runs perfectly in OpenShift with the Python S2I builder.

Configuration is done via environment variables:

  • IMAP_SERVER: Adress of IMAP server
  • IMAP_USERNAME: Username for IMAP login
  • IMAP_PASSWORD: Password of IMAP user
  • IMAP_MAILBOX: IMAP Mailbox to check for matching messages. Default: INBOX
  • IMAP_CHECK_INTERVAL: Interval in seconds to check mailbox. Default: 30
  • WEBDAV_URL: Complete WebDAV URL
  • WEBDAV_USERNAME: Username for WebDAV
  • WEBDAV_PASSWORD: Password of WebDAV user
  • WEBDAV_BASEDIR: Basedir on WebDAV
  • TMP_DIR: Temporary directory. Default: /tmp
  • MQTT_SERVER: Address of MQTT Broker
  • MQTT_USER: Username for MQTT login
  • MQTT_PASSWORD: Password of MQTT user
  • MQTT_BASE_TOPIC: Base topic to publish information
  • LODUR_USER: Username for Lodur login
  • LODUR_PASSWORD: Password of Lodur user
  • LODUR_BASE_URL: Lodur base URL
  • HEARTBEAT_URL: URL to send Hearbeat to (https://hchk.io/)

Environment variables can also be stored in a .env file.

TODO

Version 1

Before version 1 can be tagged, it must have processed at least 10 real Einsätze!

Future versions

  • Generalize
  • IMAP Idle
  • Send statistics to InfluxDB
  • Webapp to see what's going on
  • Get as many data out of the PDFs as possible
  • Simple webform to fill-in missing data (skipping Lodur completely)
    • Webapp for chosing who was there during the Einsatz (tablet ready)

WCPGW

What could possibly go wrong? A lot!

  • Storing files with "current year" doesn't work well during end of year
  • PDF layout may change without information
  • PDF parsing may fail due to PDF creation instabilities
  • Lodur forms can change without notice
  • Error handling doesn't catch all cases

Lodur Information Gathering

eins_stat_kantone

02. Einsatzart FKS

<option value="1">Brandbekämpfung</option>
<option value="2">Elementarereignisse</option>
<option value="3">Strassenrettung</option>
<option value="4">Technische Hilfeleistungen</option>
<option value="5">Ölwehr</option>
<option value="6">Chemierwehr inkl. B-Einsätze</option>
<option value="7">Strahlenwehr</option>
<option value="8">Einsätze auf Bahnanlagen</option>
<option value="9">BMA Unechte Alarme</option>
<option value="10">Verschiedene Einsätze</option>
<option value="11">Keine alarmmässigen Einsätze</option>

emergency_concept_id / ver_sart

03. Verrechnungsart

  • emergency_concept_id = value
  • ver_sart= rc-id
<option value="2" rc-id="ab">ABC-Einsatz inkl. Oel (Ortsfeuerwehr)</option>
<option value="3" rc-id="ab">ABC-Einsätze inkl. Oel (Stützpunkte)</option>
<option value="4" rc-id="ab">ABC-Messwagen (Stützpunkte)</option>
<option value="5" rc-id="ab">Gaseinsätze (Ortsfeuerwehr)</option>
<option value="6" rc-id="ab">Verkehrsunfälle (ohne Strassenrettung)</option>
<option value="7" rc-id="ab">Strassenrettung (Ortsfeuerwehr)</option>
<option value="8" rc-id="ab">Strassenrettung (Stützpunkt)</option>
<option value="9" rc-id="ab">Fahrzeugbrände (ohne Brandstiftung)</option>

<option value="10" rc-id="th">BMA-Alarm</option>
<option value="18" rc-id="th">Hilfeleistungs-Einsätze, verrechenbar durch OFW</option>
<option value="19" rc-id="th">Unterstützung Rettungsdienst (ADL/Hilfskräfte)</option>

<option value="11" rc-id="uh">Dienstleistungen, Verrechenbar durch OFW</option>
<option value="12" rc-id="uh">Stützpunkteinsatz (Grossereignisse)</option>
<option value="14" rc-id="uh">Nachbarschaftshilfe Ortsfeuerwehr</option>
<option value="20" rc-id="uh">Kernaufgaben (Brand, Explosion, Elementar, Erdbeben)</option>
<option value="21" rc-id="uh">ADL-/HRF-Einsatz BRAND (ADL = Stüpt-Fahrzeug)</option>

<option value="13" rc-id="ak">ADL-/HRF-Einsatz BRAND (ADL = OFW-Fahrzeug)</option>
<option value="15" rc-id="tt">Grosstierrettung Stützpunkt (PIF mit Kran)</option>