airflow-dag-patterns
本番用Airflow DAGの構築実証済みパターン
Airflow DAGは構造とリトライが一貫していないと失敗する可能性があります。このスキルは、設計、センサー、テスト、アラートに関する明確なパターンを提供し、パイプラインの信頼性を向上させます。
スキルZIPをダウンロード
Claudeでアップロード
設定 → 機能 → スキル → スキルをアップロードへ移動
オンにして利用開始
テストする
「airflow-dag-patterns」を使用しています。 リトライ、テスト、障害コールバックを備えた安全な日次ETL DAGのパターンを教えてください。
期待される結果:
- リトライ、retry_delay、指数バックオフを備えたdefault_argsを使用
- 線形の開始 -> 抽出 -> ロード -> 終了構造を定義
- タスク障害コールバックを追加してエラーを報告
- ロードエラー、タスク数、依存関係のためのDagBagテストを作成
「airflow-dag-patterns」を使用しています。 構成から動的にDAGを作成するにはどうすればよいですか?
期待される結果:
- name、schedule、sourceフィールドを持つPIPELINE_CONFIGSリストを定義
- configパラメータを受け取るcreate_dagファクトリ関数を作成
- 各DAGを動的に登録するためにglobals()[f"dag_{name}"]を使用
- 顧客、オーダー、製品パイプラインに同じパターンを適用
「airflow-dag-patterns」を使用しています。 タスク実行前に外部依存関係を待機する方法を教えてください。
期待される結果:
- S3バケット内のファイルを待機するためにS3KeySensorを使用
- アップストリームDAG完了を待機するためにExternalTaskSensorを使用
- 待機中にワーカーを解放するためにmode='reschedule'を設定
- 処理前に複数のセンサーと依存関係を組み合わせる
セキュリティ監査
安全Pure documentation skill containing only Airflow patterns and example code. No executable scripts, network calls, filesystem access, or environment variable reads. All code in SKILL.md is illustrative documentation for building data pipelines.
リスク要因
🌐 ネットワークアクセス (6)
⚡ スクリプトを含む (1)
⚙️ 外部コマンド (20)
品質スコア
作れるもの
ETL DAGの標準化
日次および時間単位パイプラインの一貫したDAG構造、リトライ、スケジュールを作成します。
運用の保護機能を追加
センサー、アラート、障害コールバックを適用してパイプラインの信頼性を向上させます。
DAGの整合性をテスト
DAGが読み込み可能であること、サイクルがなく、依存関係を尊重していることを保証するユニットテストを記述します。
これらのプロンプトを試す
PythonOperatorと基本的なdefault_argsを使用して開始、抽出、終了タスクを含む日次Airflow DAGを作成してください。
抽出、変換、ロードタスク間でデータを安全に渡すTaskFlow API DAGのドラフトを作成してください。
S3データの待機とアップストリームDAG完了前の処理のためのパターンを表示してください。
クリティカルなDAG向けに障害コールバック、リトライ、障害時に実行されるクリーンアップタスクを追加してください。
ベストプラクティス
- タスクを幂等的に保ち、DAGファイル内で重いロジックを避ける
- 効率のためにTaskFlow APIとセンサー再スケジュールモードを使用
- DAGの読み込み、構造、サイクルのためにユニットテストを追加
回避
- ほとんどのタスクでdepends_on_pastを使用
- Airflowマクロの代わりに日付をハードコーディング
- DAGファイルで可変グローバル状態を保存
よくある質問
Airflow 2.xと互換性がありますか?
例の限界は何ですか?
既存のDAGと統合できますか?
データにアクセスしたり保存したりしますか?
DAGのインポートが失敗した場合はどうすればよいですか?
一般的なコーディング支援と比較するとどうですか?
開発者の詳細
作成者
wshobsonライセンス
MIT
リポジトリ
https://github.com/wshobson/agents/tree/main/plugins/data-engineering/skills/airflow-dag-patterns参照
main
ファイル構成
📄 SKILL.md