タグ

devopsとworkflowに関するsh19910711のブックマーク (7)

  • JenkinsのCronはSafeRestart時にJob起動処理を落とさない - decadence

    これは何 運用されているJenkinsにおいて、SafeRestart時にCronによるJobの発火をlostするのでは、といった懸念があった。 コードを読み、実際に動作確認をすると、再起動処理に2分以上かからなければat least onceでCronによるJobの発火がされることが分かった。 github.com JenkinsをSchedulerとして利用する JenkinsではJobの定義時にcron表記にてJobのscheduleを設定出来る。このcronは発火時刻になると、JobをJenkinsの処理Queueに入れる。 残念なことにJenkinsのHAはActive-Standbyのような構成しか取ることが出来ず、ActiveなJenkins masterのprocess内においてこれらのcronは処理される。もし冗長構成を取りたいのなら、Jenkinsが永続化として利用して

    JenkinsのCronはSafeRestart時にJob起動処理を落とさない - decadence
    sh19910711
    sh19910711 2024/05/28
    "Jenkins: SchedulerがHAになっていない + 再起動時等でJobの起動処理がロストするのでは、といった懸念 + 再起動処理に2分以上かからなければat least onceでCronによるJobの発火がされる" 2021
  • ArgoCD の Config Management Plugin (CMP)を理解し、Plugin でマニフェストの変数置換を行う - kencharosの日記

    概要 前職の同僚がずっと、PullRequest ごとにプレビュー環境でアプリケーションをデプロイしたいと言っていた。 確かにそれができれば便利ではあるけど、たとえ k8s の力を借りても実現するまでの手順は多く、遠い夢かと思っていた。 でも ArgoCD で頑張ればその夢は近くなるかもしれない。 これは、ArgoCDの Config Management Plugin (CMP) と呼ばれる機能を使って、動的なマニフェスト生成を行い、さらにPullRequestごとの固有の情報をマニフェストに柔軟に埋め込むための仕組みを考えてみたという話。 想定読者 k8s にある程度詳しい ArgoCD にもある程度詳しい ArgoCD の ApplicationSet や Generator の機能を知っている、あるいは調べればわかる方 参考資料 GitランチやPullRequestごとにプレビュ

    ArgoCD の Config Management Plugin (CMP)を理解し、Plugin でマニフェストの変数置換を行う - kencharosの日記
    sh19910711
    sh19910711 2024/05/08
    "PullRequestごとの固有の情報をマニフェストに柔軟に埋め込む / ArgoCD: kustomize や Helm などのビルドに対応 + Plugin を使うことで任意の処理でマニフェストのビルドを行うことができる" 2022
  • Airflow Breeze を使ったローカル環境構築

    Airflow Breeze を使ったローカル環境構築 フューチャー株式会社 多賀 聡一朗

    Airflow Breeze を使ったローカル環境構築
    sh19910711
    sh19910711 2024/04/29
    "Airflow Breeze: 公式が提供している Airflow の 開発 と テストのための環境 + ローカル開発、CI 向け + Docker Compose ベースで構築 / DAGファイルやcustom pluginsを適用できる" 2021
  • 本当に小さく機械学習プロダクトを始めるには - Qiita

    TL;DR マイクロサービス基盤がない、潤沢にエンジニアリソースがない、そんな現場にも機械学習プロジェクトをいい感じにプロダクトに乗せていく今風のやり方について考えたい。そのために現状世の中にある機械学習ツールを俯瞰したい。 プロダクトに乗せるとすると、デプロイで終わりではなくて、モデル再学習やモニタリングなども含めて考えたい。 はじめに 機械学習のサービスは内部のアルゴリズムが複雑であっても、そのサービス自体に求められることが多くなかったり、学習と推論時で必要なリソースが異なったりというところからマイクロサービスアーキテクチャと相性が良いと言われています。実際に機械学習をプロダクトで使うことについて意欲的に取り組んでいる企業、特にWeb系企業では既にマイクロサービスアーキテクチャを採用した基盤があり、その上で効率的に機械学習モデルをデプロイするための方法を検討しています。一方で、そうでな

    本当に小さく機械学習プロダクトを始めるには - Qiita
    sh19910711
    sh19910711 2024/04/22
    "kubeflow pipelines: 特徴的なのは、TFXのいちコンポーネントであるTensorflow Transform(TFT)を使えるところ + 設定項目に"preprocess-mode"というものがあり、Kubernetes上ではなくDataflow上で動作させることもできます" 2018
  • DaggerでPythonのCIを実装してGitHub Actionsで動かしてみる - け日記

    今回の投稿では、ポータブルなCI/CDワークフローとして注目されている Dagger について紹介します。 例として、簡単なPythonアプリケーションのCI/CDをDaggerで実装してみました。 フォーマットチェック (black) 、静的チェック (flake8) 、テスト (pytest) を実行する イメージをビルドしてコンテナイメージリポジトリ (Docker Hub) にプッシュする GitHub ActionsでDaggerを実行する コードを以下のリポジトリにあります。 github.com Daggerとは 2022年3月にパブリックローンチされた可搬性のあるCI/CDパイプラインのツールキットです。開発にはDockerの開発者が関わっているそうです。 dagger.io Daggerが着目しているのは、CI/CDワークフローのメンテナンスの大変さです。 実行環境が多様

    DaggerでPythonのCIを実装してGitHub Actionsで動かしてみる - け日記
    sh19910711
    sh19910711 2022/08/11
    "Daggerが着目しているのは、CI/CDワークフローのメンテナンスの大変さ > デバッグが大変 + 変更が大変 / YAMLではなく、より豊かな表現力を持つ言語を採用することで、ワークフローコードのメンテナンスも容易にする"
  • プロビジョニングツールはMakeで決まりだろ

    Recruit Technologies Open Lab #03: Infrastructure as Code, 2016-07-07 #rtechlab

    プロビジョニングツールはMakeで決まりだろ
    sh19910711
    sh19910711 2022/07/09
    2016 / "Makeはベターshell scriptである (2012) / 冪等性なんてなかった + サーバは状態を持つがゆえに予測困難 / 複雑なサーバをどう管理するかから、単純なサーバをどう組み合わせるかへ / 状態管理から逃げる"
  • horensoを使ってcronの実行時間を自動でmackerelに記録する - $shibayu36->blog;

    最近cronの実行にはhorenso というツールを使って、実行エラーがあればSlackに通知するなどといったことをしている。今回はcronの実行時間をmackerelのサービスメトリックに自動で記録するということをやったのでメモ。 やりたいこと crontabに以下の形式でスクリプトを登録すれば、自動でサービスメトリックに記録される horenso --tag (tag名) --reporter=elapsed-time-to-mackerel-reporter.pl -- (実行したいコマンド) 記録は秒数で、小数3桁まで記録する horensoの動き horensoではreporterとして適当なスクリプトを指定することが出来て、そのスクリプトには標準入力に実行のログ等が渡ってくるようになってくる。例えば $ horenso --reporter=test-reporter.pl -

    horensoを使ってcronの実行時間を自動でmackerelに記録する - $shibayu36->blog;
  • 1