Höhere Geschwindigkeit und Qualität durch Data-Warehouse-Automatisierung

Im Zuge der digitalen Transformation werden an eine Analytics-Lösung hohe Erwartungen in Bezug auf die Geschwindigkeit, Flexibilität und Qualität gestellt. Doch eine schnelle Umsetzung und Produktivnahme neuer Anforderungen in hoher Qualität sind nur mit agiler Data-Warehouse-Entwicklung möglich. Innerhalb der Data-Warehouse-Automatisierung (DWA) gibt es zwei Stellschrauben, an denen wir drehen können:

1. Es besteht die Möglichkeit, die Data Warehouse-Entwicklung selbst zu automatisieren. Hierfür haben wir unser eigenes DWA-Framework entwickelt.

2. Auch das Testen kann automatisiert werden. Wir sprechen dann von der Data-Warehouse-Testautomatisierung (DWTA).

Automatisierung der Data-Warehouse-Entwicklung

Anwendungsmöglichkeiten und automatisierbare Prozesse in der Entwicklung

Die Automatisierung der Data-Warehouse-Entwicklung kann in unterschiedlichen Situationen echte Mehrwerte schaffen:

  • Beim Aufbau eines neuen Data Warehouse
  • Bei der Modernisierung eines bestehenden Data Warehouse
  • Bei der effizienten Umsetzung neuer Anforderungen
  • Bei der schnellen Einbindung neuer Quellen zwecks Analyse

Wir verwenden in unseren Projekten im Zuge der Data-Warehouse-Automatisierung ein eigenes DWA-Framework, mit dessen Hilfe Objekte und Prozesse in einem Data Warehouse auf Knopfdruck generiert werden können. Es benutzt Metadaten, um Architekturen, Topologie, Standards, Namenskonventionen, Objekte und Regeln zu beschreiben. Die verschiedenen Verarbeitungslogiken können damit in Form von Templates einmalig abgelegt werden. Anschließend werden komplette Datenbankstrukturen und die verschiedenen ETL-Prozesse automatisch generiert. Im Betrieb können Änderungen ebenfalls (semi-)automatisch eingepflegt und in das Data Warehouse übertragen werden. Das Framework wird permanent weiterentwickelt und kann flexibel an die jeweiligen Wünsche angepasst werden.

Konkret können folgende Aktivitäten automatisiert werden:

Anbindung der Quellen

Erzeugen von Datenbankobjekten

Einhaltung des Standards

Testen der Änderungen

Ihr konkreter Nutzen durch die Automatisierung der Entwicklung

Qualitätsverbesserung

Zeit- und Kostenersparnis

Höhere Akzeptanz:

Finden Sie weiteres Material in unserem Downloadbereich zum Thema Data-Warehouse-Automatisierung

Einsatz der Testautomatisierung im Data Warehouse

Anwendungsgebiete und automatisierbare Prozesse beim Testen

Die Anwendungsgebiete von Testautomatisierung in Bereich BI und DWH sind vielfältig: Bei einem Release- oder Datenbankwechsel muss beispielsweise sichergestellt sein, dass alle Berichte stimmen und Usern der Zugriff auf die richtigen Berichte erhalten bleibt. Durch Testautomatisierung kann der Testaufwand bei einem Release- oder Datenbankwechsel um bis zu 90 Prozent reduziert werden. Durch eine vollautomatisierte CI/CD-Kette inklusive DevOps steigt nicht nur die Agilität innerhalb des Projektes, sondern auch die Akzeptanz auf der Fach- und Entwicklungsseite. Außerdem kann so die Datenherkunft (Data Lineage) besser dokumentiert werden.

Testautomatisierung kann in allen DWH- und BI-Projekten angewendet werden. Durch den Einsatz der Testautomatisierung wird die Geschwindigkeit, Agilität und Qualität sowohl in bestehenden als auch in neuen Projekten deutlich erhöht. Konkret können wir folgende Prozesse automatisieren:

Testfallerstellung

Testdurchführung

Testauswertung

Testdokumentation

Testadministration

Referenzen

Finanzdienstleister Düsseldorf

Report Modernisierung

Die MT AG war bei einem Finanzdienstleister in Düsseldorf für die Ablösung und den Neuaufbau der aktuellen Reporting-Umgebung zuständig. Ein 10 Jahre altes System sollte zur Vereinfachung und Optimierung migriert werden. Mit einer Zeitersparnis von 80 % wurden Quellen automatisiert angebunden und die Datenbankobjekte in Oracle generiert. Die MT AG blieb unter der vorgegebenen Zeit und dem Budget.

Mehr erfahren >>

Handelsunternehmen Düsseldorf

Oracle Warehousebuilder (OWB)

Bei einem Handelsunternehmen in Düsseldorf sollte eine neue DWH-Lösung zur Anbindung der Verkaufsdaten entwickelt werden. Im Laufe des Proof-of-Concept hat die MT AG eine vollständige CI/CD-Strecke mit automatisierten Integrationstest und Deployment umgesetzt. Die MT AG war verantwortlich für die Architektur und die Entwicklung, wobei die Quelldaten erst sehr spät im Projektverlauf definiert wurden. Die MT AG entwickelte deshalb allgemeine Templates für die ETL-Logik und generierte die ETL-Prozesse für OWB. Mit manueller Entwicklung wäre dies nicht möglich gewesen.

Forderungsmanagement Essen

DWH-Lösung mithilfe von ODI

Eine neue DWH-Lösung mithilfe von ODI hat die MT AG für das Forderungsmanagement Essen entwickelt. Die tägliche Datenlieferung war jedoch nur als Fullload möglich, was zu einer schlechten Performance führte. Die MT AG konnte durch eine automatisierte Deltaberechnung im Stage sowie einer Generierung der Modell- und ETL-Prozessänderungen eine Laufzeitreduktion von bis zu 90 % erreichen.

CosmosDirekt

Entwicklungs- und Testautomatisierung

Bei der Direktversicherung Saarbrücken war die MT AG für die technische Projektleitung, Architektur und Entwicklung einer DWH-Modernisierung zuständig. Die Herausforderung war, ein 14 Jahre altes, historisch gewachsenes DWH mit vielen Marts und ETL-Prozessen wertgetrieben zu modernisieren. Hierbei wurden neue Quellen automatisiert angebunden und die Datenbankobjekte (Stage/Core) sowie ETL-Prozesse für ODI generiert, um eine Near-real-time-Bewirtschaftung bis in den Markt zu erreichen. Bei dem prämierten Code-of-Conduct-Projekt konnte die MT AG über 90 % der geplanten manuellen Tests vollständig automatisieren. Die geschätzten 150 PT für manuellen Aufwand im Fachbereich hätten vom Kunden nicht geleistet werden können. „Aufgrund des guten Testkonzeptes bereits vor den fachlichen Abnahmetests haben wir „leider“ keine Fehler mehr gefunden!“- C. Westrich (Kunde).

Unsere Leistungspakete im Überblick

Wir bieten Ihnen sechs Pakete, bei denen Sie in unterschiedlichen Stufen von der Expertise der MT AG profitieren können. Dabei ist es ganz Ihnen überlassen, ob wir in einem ersten Workshop die Potentiale der DWA aufzeigen, einen Proof-of-Concept durchführen oder Sie in einem DWA-Projekt unterstützen.

In einem ersten Workshop möchten wir Ihnen die Potentiale der DWA aufzeigen. Hier identifizieren wir gemeinsam Ihre individuellen Herausforderungen bezüglich der Data-Warehouse-Qualität und zeigen Ihnen, in welchen Bereichen Sie von der DWA profitieren können. Nachdem wir uns einen technischen Überblick über Ihre Systeme und Anforderungen verschafft haben, erhalten Sie eine Roadmap mit konkreten Handlungsempfehlungen. Wir schlagen Ihnen vor, welche Maßnahmen umgesetzt werden können und erstellen eine grobe Aufwandschätzung dafür. Um für die Zukunft das bestmögliche Ergebnis effizient zu erreichen, bekommen Sie darüber hinaus eine Empfehlung für ein Proof-of-Concept.

Ergebnis
  • Ergebnisdokument mit empfohlenen Maßnahmen und Roadmap
  • Machbarkeitsanalyse für DWA
  • Grobe Einschätzung der Aufwände
  • Empfehlung für ein PoC
Nutzen
  • Assessment individueller Potentiale für DWH Qualität
  • Erkennen der Vorteile des DWA
  • Individuelle Handlungsempfehlungen

Im Paket 2 führen wir ein DWA Proof-of-Concept auf Ihrem System durch. Am Beispiel von vereinbarten Testszenarien automatisieren wir die Entwicklung für einen fachlichen Ausschnitt Ihres Data Warehouse. Im Laufe des PoC wird das DWA-Framework in Ihre Landschaft eingebunden und personalisiert. Regeln und Konventionen werden über Metadaten eingepflegt. Je nach verwendeten Technologien und speziellen Anforderungen, werden individuelle Templates erstellt oder bestehende modifiziert. Anschließend erzeugen wir Metadaten für Objekte und Beziehungen, die vom Framework zum Generieren der Datenbankstrukturen und ETL-Prozesse verwendet werden. Im letzten Schritt wird komplexe fachliche Logik implementiert, die sich nicht standardisieren und automatisieren lässt.

Ergebnis
  • Generierte ETL-Strecken von der Quelle zum Mart
  • Flexibles und weiterverwendbares Metadatenmodell
  • Bewertung der Ergebnisse und Handlungsempfehlungen
Nutzen
  • Machbarkeitsstudie DWA im Kundenumfeld
  • Einführung der DWA für einen fachlichen Ausschnitt
  • Begründete Entscheidungsgrundlage fürs Management

In einem DWA Projekt unterstützen wir Sie in allen Phasen, von Analyse über Design und Entwicklung bis hin zu Managed Services. Abhängig von Ihren Wünschen und Anforderungen helfen wir Ihnen bei der Entwicklung oder führen das Projekt auch selbstverantwortlich unter eigener Projektleitung durch. Mit Hilfe unseres DWA-Frameworks kann die Data-Warehouse-Entwicklung nun agil und flexibel erfolgen. Durch die kurzen Lieferzeiten erreichen wir mehr Deployments in hoher Qualität. Schnelle Ergebnisse überzeugen Ihre Fachabteilungen und Geschäftsleitung und helfen Ihnen bei strategischen und geschäftskritischen Aktivitäten.

Ergebnis
  • Flexible und zeitgerechte DWH-Umgebung
  • Hohe Akzeptanz im Unternehmen
Nutzen
  • Steigerung der Qualität
  • Zeit- und Kostenersparnis in allen Projektphasen
  • Einbettung in die agile Entwicklung
  • Steigerung der Wettbewerbsfähigkeit
Ergebnis
  • Ergebnisdokument mit Arbeitspaketen, Verantwortlichkeiten und Roadmap
  • Was setzen wir wann mit wem um
Nutzen
  • Assessment der individuellen Verbesserungspotentiale für DWH / BI-Softwarequalität
  • Handlungsempfehlungen auf Basis der MT-AG-Projekterfahrung
  • Umsetzungsvorschlag
Ergebnis
  • Build- und Deployment-Pilotierung für BI/DWH
  • Lauffähige CI/CD-Umgebung
Nutzen
  • Steigerung der Qualität
  • Automatisierte Build-Prozesse
  • Automatisierte Deployment-Pipelines
  • Integration Testautomatisierung in CI-Prozessnutzen
Ergebnis
  • Produktive Einführung einer CI/CD-Chain
  • Design und Programmierung von automatisierbaren Testfällen
Nutzen
  • Reduktion manueller Testaufwände
  • Permanente Regressionstests
  • Fast Feedback für Entwickler*innen

Ansprechpartner

Ralf Böhme

Ralf Böhme

Bereichsleiter Analytics

Jürgen Günther

Jürgen Günter

Team Manager Analytics