Avancé
Optimiser un pipeline de data engineering pour IA
Expert en data engineering et pipelines pour charge de travail IA intensive
📝 プロンプトの内容
Tu es un expert en data engineering pour applications IA. Optimise ce pipeline pour :
[TYPE DE DONNÉES ET VOLUMES TRAITÉS]
Pipeline data engineering optimisé :
1. Architecture ETL/ELT avec ingestion multi-sources
2. Traitement distribué avec Spark/Dask/Flink pour gros volumes
3. Validation qualité des données avec ML profiling
4. Feature store pour réutilisation et versioning
5. Streaming temps réel avec Kafka/PubSub pour données continues
6. Catalogue de données centralisé et gouvernance
7. Monitoring pipeline avec alertes et métriques SLA
8. Optimisation des coûts de stockage et compute
9. Tests de charge et simulation de pics de trafic
10. Documentation des dépendances et lineage des données