GPT-4oとPhi-3でLLMとSLMの双方を取り込むMicrosoftのAI戦略
なぜ我々は GitHub Copilot Enterprise の導入を見送ったのか - 一休.com Developers Blog
CTO 室の恩田です。 今回は GitHub Copilot Enterprise を評価してみて、現時点ではまだ採用しないことを決めた、というお話をご紹介したいと思います。 きっかけ とあるエンジニアが Slack で自身の times チャネルに時雨堂さんの GitHub Copilot Enterprise のススメという記事を投稿したことが発端でした。特に感想はなく URL に 👀 だけが添えられていたので、後で見るぐらいのメモだったんだと思います。 それを見かけた別のエンジニアが技術雑談チャネルにその投稿を共有して、これは凄そうと話題を向けたところ、CTO の「評価してみる？」の一言で、有志が集って評価プロジェクトが始まりました。 雑談チャネルできっかけとなる投稿が共有されてから、30分足らずの出来事でした（笑）。 この話題が出たのは金曜日でしたが、週明け早々に稟議を終え、火曜
「ないと生きていけない」、内製のあらゆる場面に生成AI使うグロービスとLM
出典：日経クロステック、2024年1月30日 （記事は執筆時の情報に基づいており、現在では異なる場合があります） 「もはや『GitHub Copilot』がなければ生きていけない」――。組織人事コンサルティングを手掛けるリンクアンドモチベーション（LM）の梅原穂高リードエンジニアはこう話す。GitHub Copilotは、米GitHub（ギットハブ）が提供する生成AI（人工知能）によるコード補完サービス。同様の声は、システム内製に生成AIを活用する先進エンジニアからも多く聞かれる。 システム内製の先進企業は、コーディングにとどまらず開発ドキュメントの翻訳、テスト自動化など、システム内製のあらゆる段階で生成AIを使い始めている。こうした先進企業であるグロービスとリンクアンドモチベーションの取り組みを見ていこう。 開発ドキュメントの翻訳も生成AIで ビジネススクールなどを運営するグロービスは、
専門組織が先陣を切り生成AI試すKDDI系やTBS、機動力高めて内製開発の起点に
出典：日経クロステック、2024年1月31日 （記事は執筆時の情報に基づいており、現在では異なる場合があります） 通信業界やメディア業界でも、生成AI（人工知能）を活用し、システム内製の効率化を図る先進企業が出てきている。KDDIアジャイル開発センター（KAG）やTBSテレビでは、機動力のある組織が先陣を切って生成AIを試し、内製拡大の起点となっている。 アジャイル開発に最適な生成AI KDDIのグループ会社でシステム開発を手掛けるKAGは、米GitHub（ギットハブ）のコード補完サービス「GitHub Copilot」や米Amazon Web Services（アマゾンウェブサービス、AWS）の生成AIアシスタント「Amazon Q」などを試してきた。同社で蓄積したシステム開発における生成AI活用のノウハウをKDDIにも展開することを目指す。 KAGは、システムのアジャイル開発を推進する
ChatGPTで社内ナレッジの回答をするLINEボットを作ってみた - Qiita
概要 先日、Microsoft AzureにPromptFlowという機能が追加されました。 これはAzureOpenAIに対してのプロンプトエンジニアリングをローコードで支援する仕組みなんですが、DBを用意してそこに社内ドキュメントを格納しておき、それに対してPromptFlowの内部でアクセスすることによってChatGPTに社内ドキュメントへの検索、回答機能を持たせることができます。 このChatGPTに対して独自ドキュメントを拡張知識として持たせる仕組みのことをRAG（Retrieval Augmented Generation）といいます。 参考: プロンプトエンジニアリング手法 外部データ接続・RAG編 - Platinum Data Blog by BrainPad PromptFlowの機能によって、独自の拡張知識を持ったChatGPTのREST APIをオンライン上にデプロ
横須賀市、日本初のChatGPT導入の知見を生かし行政のイノベーションを目指す
「DIGITAL X DAY 2023」より、神奈川県横須賀市 デジタル・ガバメント推進室の太田 耕平 氏 生成AI（人工知能）技術を活用した生産性の向上は自治体業務でも期待されている。神奈川県横須賀市は、AIチャットサービス「ChatGPT」をいち早く導入し、利用状況などの情報発信を積極的に続けている。同市のデジタル・ガバメント推進室 課長補佐の太田 耕平 氏が、「DIGITAL X DAY 2023 生成AIで始める業務改革」（主催：DIGITAL X、2023年9月）に登壇し、ChatGPTの導入経緯や活用のポイント、今後の展望について解説した。 「すべての始まりは2023年3月29日、市長からの『ChatGPTを使って何か検討できないか』という相談からだった」−−。神奈川県横須賀市 デジタル・ガバメント推進室 課長補佐の太田 耕平 氏は、同氏がAI（人工知能）チャットサービスの「C
独自生成 AI チャットボット作成、Copilot 拡張の民主化 (Microsoft Ignite 2023/Microsoft Copilot Studio の誕生を踏まえて) - Qiita
独自生成 AI チャットボット作成、Copilot 拡張の民主化 (Microsoft Ignite 2023/Microsoft Copilot Studio の誕生を踏まえて)PowerPlatformPowerVirtualAgentsChatGPTAzureOpenAI はじめに 日本時間 2023 年 11 月 16 日深夜より Microsoft Ignite が開催されております。 その中で、Power Platform 界隈の人からすると衝撃的なニュースが飛び込んできました。 それは、以下の通り、Power Platform のサービス群の一つである、Power Virtual Agetns が Microsoft Copilot Studio に変わった旨です。 今回は、こちらについて、私の考えを整理してみたいと思います。 独自生成 AI チャットボット作成、Copilo
LLMのプロンプト技術まとめ - Qiita
現在，34個掲載(一部執筆途中) よかったらData Science wikiのGPTsも見て下さい！ はじめに 今回はすぐに使えそうなプロンプトの工夫やフレームワークについて有名なものをまとめました．LMの出力の精度向上に役立てられればと思います． 論文があるものについてはarXivに最初に投稿された順番で掲載しています． 論文で精度向上が確認されているのは英語での検証がほとんどであるため，日本語で改善されるかは分かりません． 全てのLLM(GPT-4,Llama2,...)で精度が改善するとは限りません． ※記事に誤り等ありましたらご指摘いただけますと幸いです． 以下の記事では敵対的プロンプト技術をまとめています！ 目次 Zero-shot prompting Few-shot prompting 2021年〜 Generated Knowledge Prompting 2022年〜
Amazon BedrockのClaudeとAmazon Kendra、AWS Lambdaを利用し、RAGを実装してみた | DevelopersIO
はじめに Amazon BedrockとAmazon Kendra、AWS Lambdaで、Retrieval Augmented Generation（RAG）を実装してみました。 最近、社内の業務効率化などの目的で、AIの言語モデル（以降、LLM）を用いて社内情報を活用するための手法として、RAGがよく話題になっています。 RAGとは具体的には、ユーザーからの問い合わせ（プロンプト）に基づいて外部データから関連するドキュメントを検索し、その結果をもとにLLMが質問への回答を生成するという手法です。 以前の記事で、検索（Retrieval）のフェーズのみをKendraを使い、試してみました。 構成 構成としては、下記の通りです。 Kendraのインデックスには、Network Load Balancer（NLB）のAWSドキュメントをウェブクローラーでインポートします。 Kendraのデ
凄すぎると話題の「Open Interpreter」の始め方・使い方まとめ - Qiita
以下の記事を見て、早速「Open interpreter」を試してみたので、使い方や始め方をまとめておきます Open Interpreterとは Open Interpreterは、GPT-3.5、GPT-4、Code Llamaなどの大規模言語モデル（LLMs）を活用して開発されたオープンソースのツールです。 このツールは、OpenAIが提供するChatGPTの「Advanced Data Analysis(旧Code Interpreter)」のオープンソース版とも言える存在で、Python、Javascript、Shellなどのプログラミング言語のコードを自然言語による対話を通じてローカル環境で実行することができます。 このツールの最大の特徴は、ChatGPTの「Advanced Data Analysis」と違いローカル環境で動くため、ファイル容量やネット接続への制約がなく、Ch
ChatGPT新機能が“無双”だった（西田宗千佳） (1/4)
新連載を始める。テーマはAIのニュースチェックだ。基本的には2週に一度、主にASCII.jpで公開されるニュースについて、簡単な解説と流れの分析をしていきたい。紹介されていないものでも重要な話については、別途短い解説を追記していく。 というわけで1回目は、2023年7月前半のAIニュース振り返りだ。 （※記事のタイトルをタップすると記事ページが開きます） DeepL、日本法人「DeepL Japan 合同会社」を設立 日本企業との取引を迅速化（7月3日） 翻訳AIは急速に品質が上がり、日常的に筆者もお世話になっている。DeepLは利用者を増やしているが、実のところ、無料版が強いというよりも「個人事業主でも、企業でも気軽に契約できる有料版」があることがビジネスの強みだ。日本の場合、翻訳AIを使うといってもそれは「無料でGoogle翻訳を使う」ことが多く、有料版利用は企業でも多くはないという。
Azure OpenAI Service を利用したエンタープライズアーキテクチャのメモ - Qiita
はじめに Azure 上で OpenAI をエンタープライズ利用するアーキテクチャがガンガン出てくるので自分用にメモ 1. ChatGPT × Cognitive Search を使ったエンタープライズサーチ 今一番バズってるアーキテクチャ。組織内の大量のドキュメントを ChatGPT で検索できる。多くの企業がまずこのアーキテクチャで実装を始めている。MS 公式 Tech Blog 記事は 153K Views というとんでもない View 数を記録。 ChatGPT(gpt-35-turbo)モデルでトレーニングされたデータに基づいてテキストを生成するのではなく、企業内に閉じたデータのみから生成する方法の例を示しています トークンの制限(4,096)の壁をできるだけ回避するための手法を紹介しています 「引用」をテキストに付加することで信頼できる応答を生成します 日本語解説記事 6/20
ChatGPTで独自データを扱うためのエンべディング｜緒方 壽人 (Takram)
【2023/11/7追記】 OpenAI Dev Dayにて、開発者向けの大型アップデートが発表されました。この記事で紹介している手法は、Retrieval-Augmented Generation(RAG)と呼ばれてきましたが、今回のアップデートでコンテクスト長（やりとりできるテキストの長さの上限）がこれまでの8Kから128K（12万8千トークン）に大幅にアップするため、一般的な本の内容は1冊分丸ごと渡すことができるようになります。独自データベースとの連携という意味では、ここで紹介している手法も引き続き有効な手法ですが、API関連でも様々な機能が追加されているので、リリースやSam Altmanによるキーノートは要チェックです。 ChatGPTは、膨大な量のテキストを学習してはいますが、天気予報のような最新の情報や、ある特定の本の内容や、特定のサービスの詳細についてはじめから知っているわ
OpenAIのEvalsを利用してLLMの性能をテストする方法｜mah_lab / 西見 公宏
OpenAIのGPT-4 APIのウェイティングリストに申し込むと、メールで以下のような内容が送られてきます。 While we ramp up, invites will be prioritized to developers who have previously build with the OpenAI API. You can also gain priority access if you contribute model evaluations to OpenAI Evals that get merged, as this will help us improve the models for everyone. OpenAI APIで開発したことがある開発者に優先的に招待します。また、OpenAI Evalsにモデル評価を投稿し、それがマージされた場合にも、優先的にアク
完全に知識ゼロから ChatGPT MeetUp Tokyo #0 をおっかけ視聴してみた - 電磁波に撃たれて眠りたい！
去る2023年4月28日(金)に虎ノ門の KDDI Digital Gateで開催された「ChatGPT Meetup Tokyo #0」 もともと会場側スタッフとして参加する予定だったんですが、先約があり参加できなかったため、Youtubeのアーカイブを通じて追っかけ視聴してみました。 chatgpt.connpass.com www.youtube.com オンライン/オフラインともに、参加された人たちが口を揃えて 「ヤバすぎる」 「我々はどのくらい周回遅れしているのか」 「エンジニアとして危機感を感じた」 と語られていたので身構えながら挑みましたが、それは本当でした。 自分がどれだけこの分野についての知見が浅かったのか、上辺だけの情報しか見てなかったのか思い知らされることになりました。 このブログ記事は、タイトルにあるとおりLLMに関して本当に何も知らない私が私なりに残したメモと所感
百花繚乱の大規模言語モデル その現状まとめ【2023年4月末版】
昨年末から急激に話題を呼んだChatGPT、その内部的なバージョンアップであるGPT-3.5とGPT-4はいずれもMicrosoftから強力な支援を受けた米OpenAIという企業が独占的に提供する大規模言語モデル（LLM）だ。 それに呼応するかのように、Meta社からはLLaMA（ラマ）がリリースされ、LLaMAをChatGPTとの1万3千回の会話データで微調整したAlpaca（アルパカ）、AlpacaをShareGPT（GPTとの会話を有志がオープンにしたもの）のデータで微調整したVicuna（ビクーニャ）といった派生モデルが次々と登場した。 しかし、LLaMAはMeta社の意向により「アカデミック用途限定」という縛りがある。またGPTの出力にはOpenAIの利用規定で「GPTの出力結果を元にGPTに対抗できる強力なAIを作ってはいけない」という制約があるため、AlpacaもVicuna
Microsoft が LLM をアプリ開発に統合するための OSS「Semantic Kernel」を発表 - Qiita
Semantic Kernel (SK) は Microsoft が OSS として発表した、大規模言語モデル (LLM) をアプリにすばやく簡単に統合できる SDK です。SK は従来のプログラミング言語と最新のLLM AI "プロンプト" を簡単に組み合わせることができ、テンプレート化、チェーン化、埋め込みベースのメモリー、およびプランニング機能を備えています。 機能的には、LangChain や LlamaIndex に似たような機能を持っているライブラリです。現状は C# 向けにリリースされています。4/17 に Python 版 もリリースとなりました。ただし機能は部分的な実装である点にご注意ください。(FEATURE MATRIX) 6/23 Semantic Kernel が Copilot stack との連携を明確化しプラグインエコシステムと統合 Semantic Ker
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
生成AIによるプロダクトと生産性向上の舞台裏@2024.04.16
技術選定の審美眼（2023年版） / Understanding the Spiral of Technologies 2023 edition
ローカルLMMは使えるか？～性能、展望、ホスティングと費用 #ChatGPTjp