Le ManifesteData Journey
Après des années de travail avec de nombreuses équipes d’analyse de données, sur des technologies très différentes, nous sommes convaincus que réduire les erreurs et les défauts dans le processus de production des analyses est la clé du succès. Nos clients nous ont pointés du doigt et accusés pour des problèmes de données que nous n’avions pas causés. Nous sommes restés prisonniers de processus de données existants que nous ne comprenons pas, et nous avons passé chaque matin dans l’angoisse, à attendre que quelque chose casse dans nos données, nos rapports, nos modèles ou nos autres livrables clients. Nous en avons assez du stress et de la productivité gaspillée à chercher des problèmes enfouis au fond du système. Nous voulons une méthode qui nous permette d’observer les chemins compliqués de nos données, pour éviter les problèmes, les erreurs et la frustration de nos clients.
22 principes, plus un. Choisissez-en un pour y accéder.
I-XI
Principes
-
I
Définissez et sachez ce qui devrait être
À tout moment, dans un système d’analyse de données, sachez ce qui devrait être, ce qui est, et l’écart exact entre les deux.
-
II
Rendez l’espoir rare
Espérer que vos systèmes de données fonctionnent en production n’est pas une stratégie. C’est la recette de l’échec.
-
III
Il n’est pas acceptable que les clients trouvent les problèmes
Que vos clients trouvent des problèmes dans vos analyses de données, c’est inacceptable. Trouvez le problème avant votre client.
-
IV
Ne faites pas confiance à vos fournisseurs de données
Certains fournisseurs de données maîtrisent parfaitement leur sujet, d’autres s’acquittent à peine d’une tâche dont ils ne voulaient pas. Dans les deux cas, les fournisseurs font des erreurs. Habituez-vous-y. Protégez-vous-en. Faites-en une occasion de progresser.
-
V
Ne supposez pas que ce qui marchait la semaine dernière marche aujourd’hui
Votre équipe modifie sans cesse le code et la configuration de votre patrimoine de données. Vérifiez que tout fonctionne encore.
-
VI
Trouvez vite le problème
Trouver la source exacte du problème, qu’elle se cache dans les données brutes, les données intégrées, les modèles, les rapports, les serveurs, les logiciels ou le code, c’est déjà la moitié du travail.
-
VII
Une qualité de données parfaite n’est pas une panacée
Même avec des données parfaites au départ, bien d’autres choses peuvent encore mal tourner.
-
VIII
Fuyez les tests de qualité manuels comme la peste
Automatisez entièrement les tests de vos données et de vos outils.
-
IX
Votre production de données est une usine
Retenez les leçons de Toyota, du Lean et de Deming. Chaque outil du système (ingestion, transformation, base de données, modèle prédictif et visualisation) est un poste de travail sur cette chaîne de montage.
-
X
Les architectures de données compliquées ont besoin du centre de contrôle de mission de la NASA
Nos architectures de données modernes reposent sur une complexité de façade. Votre architecture de données compte de nombreuses « petites boîtes », et chacune peut tomber en panne.
-
XI
Suivez les principes DataOps
Laissez les idées de dataopsmanifesto.org guider votre équipe data, en développement comme en production.
XII-XXII
Il nous faut une idée nouvelle : le Data Journey
-
XII
Le Data Journey… est la couche des attentes
Les Data Journeys représentent les attentes portant sur tous les innombrables chemins que prennent les données, de la source jusqu’à la valeur analytique que vous livrez à votre client.
-
XIII
Le Data Journey… observe, mais n’« exécute » rien
Les Data Journeys suivent et surveillent tous les niveaux de la pile de données, de la validation de la qualité des données jusqu’aux serveurs, aux logiciels, au code, aux coûts et à l’utilisation. C’est le « jumeau numérique » des architectures de données compliquées, en batch comme en streaming. Les Data Journeys portent des attentes et n’« exécutent » rien.
-
XIV
Le Data Journey… alerte en temps réel
Un Data Journey fournit des statuts et des alertes en temps réel. Vous savez ainsi si tout a tourné à l’heure et sans erreur, et vous repérez immédiatement ce qui n’a pas marché.
-
XV
Le Data Journey… va en largeur et en profondeur
Les Data Journeys définissent le lignage des processus pour les nombreux éléments complexes qui produisent l’analyse. Ils couvrent les composants « en largeur », sur toute votre chaîne d’outils, et « en profondeur », dans toute votre pile technologique : logs, messages, statuts d’exécution, métriques, tests de validation des données et autres informations de votre patrimoine de données.
-
XVI
Le Data Journey… regroupe les composants
Un Data Journey compte de nombreux composants. Pour paraphraser Anna Karénine : tous les Data Journeys heureux et sans erreur se ressemblent ; chaque Data Journey malheureux est cassé à sa façon. Les Data Journeys trouvent vite le composant « malheureux ».
-
XVII
Le Data Journey… fait confiance, mais vérifie
« Faites confiance, mais vérifiez » est un vieux proverbe russe. La confiance vient de la surveillance de chaque composant de votre Data Journey, puis de la vérification des données qui le traversent. Testez, validez et cherchez les anomalies à chaque étape.
-
XVIII
Le Data Journey… partage les plannings
Votre planning de production est un bien public : diffusez-le largement. Servez-vous-en pour abattre les silos entre les ingénieurs qui ont construit les composants des Data Journeys, les opérateurs qui les font tourner, les clients qui les utilisent, et les managers qui se font crier dessus au moindre problème.
-
XIX
Le Data Journey… apprend de l’historique de production
Chaque instance d’un Data Journey fournit un historique et des preuves pour trouver la cause racine d’un défaut, aider votre équipe à progresser, et montrer les progrès réalisés sur les erreurs de production et les SLA non tenus.
-
XX
Le Data Journey… peut aussi être un workflow métier
Une instance de Data Journey représente généralement les étapes techniques, en batch ou en streaming, qui créent de la valeur à partir des données. Mais certaines instances représentent un workflow métier dans « le monde réel ». Un client donné peut alors se servir de ce Data Journey pour suivre l’état de ce processus.
-
XXI
Le Data Journey… réduit le risque de déploiement
Servez-vous du Data Journey pour mesurer l’impact des régressions pendant le développement. Vous ne pouvez pas livrer du code en production sur la foi d’une analyse manuelle ou statique. Servez-vous du Data Journey pour tester automatiquement la non-régression de votre code en développement et mesurer l’impact des changements.
-
XXII
Le Data Journey… réduit les erreurs et dope la productivité
La productivité de votre équipe d’analyse chute quand elle passe son temps à chercher et corriger des problèmes en production. Les erreurs non détectées dans vos Data Journeys provoquent des erreurs métier coûteuses, minent la confiance de vos clients et peuvent présenter un risque de conformité.
Commencez par la qualité
Un Data Journey ne vaut que par les tests posés à chaque point de contrôle. Il peut vous dire qu’une étape a tourné en retard, mais seul un test peut vous dire que les chiffres qu’elle contient sont faux. Commencez donc par les tests de données automatisés : c’est l’étape la moins chère, et votre client en sent les effets en premier. Le Manifeste DataOps de la qualité explique comment, en 24 principes. Commencez avec DataOps TestGen, en open source.
Rejoignez celles et ceux qui ont déjà signé le Manifeste
Ajoutez votre nom à ceux des ingénieurs data, analystes et responsables data qui préfèrent trouver le problème avant leur client.
Mettez le manifeste en pratique avec l’open source
DataOps Process Observability
Monitor every Data Journey from source to the dashboards that depend on it. Catch errors, late arrivals, and bottlenecks across every tool before your customer does.
Get Process ObservabilityDataOps TestGen
Profile your data and generate the quality tests automatically. Full coverage in minutes, with no hand-written rules to maintain.
Install TestGen