Orchestrer Apache Hop avec Airflow
Hop exécute, Airflow ordonnance. Comment déclencher des pipelines Hop depuis un DAG Airflow, remonter les échecs et garder des logs exploitables.
Pas de slides pendant deux jours. Vous ouvrez Hop GUI dès la première heure, vous versionnez votre projet sous Git, et vous repartez avec un pipeline qui tourne sur Hop Server.
Chaque module est autonome. Le projet fil rouge est le même du premier au dernier : vous reprenez là où vous vous étiez arrêté.
Groupes de six personnes maximum. Tarifs sur devis, financement OPCO possible via le plan de développement des compétences.
Connexions, schémas, configurations d’exécution : tout ce qui vit dans le dossier metadata/ et se versionne.
Ligne de commande, API REST, images Docker officielles, ordonnancement avec cron, Airflow ou votre outil maison.
Fichiers, PostgreSQL, MySQL, SQL Server, Oracle, S3, Kafka, API REST/JSON, Parquet, Avro, Neo4j.
Jeux de données d’entrée et sortie attendue, exécution des tests en CI, détection des régressions.
Le même pipeline sur Spark, Flink ou Dataflow. Streaming Kafka, fenêtrage, points d’attention.
Outil d’import, correspondance des steps, ce qui n’a pas d’équivalent et comment le contourner.
# exécuter le pipeline fil rouge du module hop-01 $ ./hop-run.sh \ --project orders \ --environment prod \ --file load-orders.hpl \ --runconfig local [INFO] Pipeline load-orders started [INFO] CSV file input : I=12480 O=12480 [INFO] Calculator : I=12480 O=12480 [INFO] Filter rows : I=12480 O=11902 R=578 [INFO] Table output : W=11902 [INFO] Pipeline finished in 3.2s (0 errors)
Hop exécute, Airflow ordonnance. Comment déclencher des pipelines Hop depuis un DAG Airflow, remonter les échecs et garder des logs exploitables.
Lancer un pipeline Hop dans un conteneur, monter son projet, passer les variables d’environnement, puis déployer Hop Server. Avec les commandes exactes.
Talend Open Studio n’est plus maintenu en version libre. Comparatif honnête de Hop et Talend sur la licence, le modèle de développement, le déploiement et le passage à l’échelle.
Six places par session. Devis sous 48 h, financement OPCO possible.