タグ

MLOpsとプログラミングに関するmisshikiのブックマーク (3)

  • LangSmith で始める LLMOps - Gaudiy Tech Blog

    こんにちは。ファンと共に時代を進める、Web3スタートアップ Gaudiy の seya (@sekikazu01)と申します。 弊社では今 LLM をプロダクトに活用しているのですが、実際にユーザに提供するクオリティのものを作る・運用しようとすると様々な課題が立ちはだかってきました。 そんな数々の課題を解くために LangSmith というツールが活躍してくれた、また今後の活用・発展にもかなり期待ができるため、記事ではそんな LangSmith について解説していきます。 LLM を使ったプロダクト開発において課題を感じている方々の参考になれば幸いです。 出てきた課題 まず LangSmith 自体の解説に入る前に、我々が直面した・ほぼ間違いなく今後するであろう課題たちをサラッとご紹介しようと思います。 大まかには次のような課題がありました。 プロンプトがアプリケーションコード内に書か

    LangSmith で始める LLMOps - Gaudiy Tech Blog
    misshiki
    misshiki 2023/10/18
    “ LangSmith の超基礎的なところをお話しします。LangSmith は、LLM アプリ開発の定番フレームワークとなった LangChain の開発元と同じところが開発している LLM アプリ開発支援サービスです。”
  • AIシステム開発におけるQA/QA in AI System development

    これまで私がAIに対するテストで経験したことから得た知見です。 どういった問題があって、どういった対応をしたかを4つのChapterで説明しています。 This is the knowledge I have gained from my experience with testing AI thus far. I will explain the types of problems I encountered and how I responded to them in four chapters. その他資料 / Appendix 「今までのテストとAIを含んだプロダクトのテストの違い」 https://speakerdeck.com/mineo_matsuya/jin-madenotesutototoaiwohan-ndapurodakutonotesutonowei-i 「Smar

    AIシステム開発におけるQA/QA in AI System development
    misshiki
    misshiki 2023/05/19
    AIシステムを開発&テストするときに注意すべき点などの参考に。13ページ以降が本編。全67ページのスライド資料。
  • 機械学習アプリケーションにおけるテストについて - Re:ゼロから始めるML生活

    機械学習系の話題が多い昨今ですが、実際触ってみると期待した精度・結果が出ないなんてことはよくあることではないでしょうか。 機械学習特有の性質として、データ自体がモデルを変化させ、結果として業務に影響を与えたりします。 仮に、機械学習屋さんが精度が出るモデルを構築したと言っても、それを導入するときに、システム全体での品質の維持に苦労したりします。 ということで、不確実性の大きい機械学習系開発についての、設計・テスト戦略でどうやってリスクを低減していけるかが一つカギになってくると思い、方法論について勉強しましたので、そのメモです。 非常に参考にしたのはこちら。 arxiv.org テストそのもののテクニックなどは、一般的なテスト駆動開発に関する書籍を合わせてをご参考ください。 テスト駆動開発 作者:Kent Beck発売日: 2017/10/14メディア: 単行(ソフトカバー) テスト駆動P

    機械学習アプリケーションにおけるテストについて - Re:ゼロから始めるML生活
    misshiki
    misshiki 2020/04/20
    “不確実性の大きい機械学習系開発についての、設計・テスト戦略でどうやってリスクを低減していけるかが一つカギになって”
  • 1