advanced
Skrypt ETL w Pythonie z obsługą błędów i logowaniem
Tworzenie zaawansowanego skryptu ETL do ekstrakcji, transformacji i ładowania danych.
📝 Conteúdo do Prompt
Napisz kompletny skrypt w języku Python, który realizuje proces ETL (Extract, Transform, Load). Skrypt ma pobierać dane z plików CSV zlokalizowanych w zdalnym katalogu SFTP, przetwarzać je przy użyciu biblioteki Pandas (czyszczenie danych, zmiana typów, usuwanie duplikatów, obsława wartości null), a następnie ładować je do bazy danych PostgreSQL przy użyciu SQLAlchemy. Kod musi zawierać zaawansowaną obsługę wyjątków (try-except-else-finally) dla każdego etapu, logowanie zdarzeń do pliku i konsoli (używając biblioteki logging) z różnymi poziomami ważności, a także mechanizm retry dla połączeń sieciowych. Opisz jak można uruchomić ten skrypt cyklicznie za pomocą crona.