Microsoft Copilot の Microsoft Purview データセキュリティおよびコンプライアンス保護
セキュリティ & コンプライアンスに関する Microsoft 365 ライセンス ガイダンス AI を活用した生産性ツールは、貴重な分析情報を引き出し、ユーザーの生産性を向上させますが、新しいユーザー アクティビティを導入し、多くのデータを生成します。 他のエンタープライズ アクティビティやデータと同様に、セキュリティとコンプライアンス管理が必要です。 Microsoft Purview の次の機能により、Microsoft Copilot for Microsoft 365のデータセキュリティとコンプライアンスが強化されます。 Microsoft Purview 情報保護によって暗号化された秘密度ラベルとコンテンツ データの分類 顧客キー 通信コンプライアンス 監査 コンテンツ検索 電子情報開示 保持と削除 カスタマー ロックボックス 次のセクションを使用して、これらの Microso
ChatGPTで社内ナレッジの回答をするLINEボットを作ってみた - Qiita
概要 先日、Microsoft AzureにPromptFlowという機能が追加されました。 これはAzureOpenAIに対してのプロンプトエンジニアリングをローコードで支援する仕組みなんですが、DBを用意してそこに社内ドキュメントを格納しておき、それに対してPromptFlowの内部でアクセスすることによってChatGPTに社内ドキュメントへの検索、回答機能を持たせることができます。 このChatGPTに対して独自ドキュメントを拡張知識として持たせる仕組みのことをRAG（Retrieval Augmented Generation）といいます。 参考: プロンプトエンジニアリング手法 外部データ接続・RAG編 - Platinum Data Blog by BrainPad PromptFlowの機能によって、独自の拡張知識を持ったChatGPTのREST APIをオンライン上にデプロ
Azure OpenAI よくある質問
Azure OpenAI利用について、よく聞かれる質問についてまとめてみました。 この記事はGitHubで管理されています。これも追加したらいいんじゃない？という内容はプルリクエストまたは本記事へのコメントでお気軽にお寄せください！ 実際にOpenAIのモデルを使わなくても基本料金はかかりますか？ いいえ。基本的には使った分（トークン≒入出力をさせた文量）だけの従量課金制です、使わなければ課金されないし、逆に使った分だけ青天井で課金されます。 「基本的には」というのはファインチューニング（微調整）をしたモデルを使う場合にはホスティング費用が基本料金としてかかります。 プロンプトのログを取りたいのですが、標準機能でできますか？ Azure OpenAIだけではプロンプトのログを取る機能はありません。Azure標準機能の「診断設定」で取得できるログにも出力されません。 そのため、Azure O
Microsoft Ignite 2023 キーノート日本語まとめ - 吉田の備忘録
今年も始まりました、Microsoft Ignite 2023！本日発表された、CEOのSatya Nadella氏のキーノートを日本語でまとめました。ChatGPTが発表されてから1年が経過しました。 進化のペースは凄まじいものです。我々は新しい時代に入ろうとしています。ただの新しい技術に留まりません。 このAIの時代によって、製品を作ったり、安全性を考えたりと、実課題を解決しています。 Airbnb、Shopifyや、BTや電通などもMicrosoft Copilotを展開しています。そして、組織は独自のCopilotを作成しています。 そして、Copilotは非常に生産性を向上させています。より少ない時間で情報を集めたり、ミーティングを行ったりすることができます。 Copilot はタスクを素早くこなすことが可能になり、新しいUI（ユーザーインターフェース）として、世界のナレッジだけ
Azure OpenAI Service On your dataで日本語の検索精度を向上させる方法｜クラウドテクノロジーブログ｜ソフトバンク
Azure OpenAI Service On your dataで日本語の検索精度を向上させる方法</h1>\r\n"}}" id="text-7578ec3b7f" class="cmp-text"> Azure OpenAI Service On your dataで日本語の検索精度を向上させる方法 <b><span class=\"biz-smb-fs-p1\">ソリューションエンジニア<br>\r\n 洪 亜龍</span></b></p>\r\n<p>こんにちは、私はAIソリューションの設計・開発・運用をしている洪と申します。機械学習や画像検索などの最新技術に興味があり、日々勉強しています。</p>\r\n<p>趣味はキャンプやスキー、スノーボードです。自然の中でリフレッシュするのが好きです。最近はキャンプ道具を揃えるのに夢中です。</p>\r\n<p> </p>\r
AzureサブスクリプションとかアカウントとかAzure ADのテナントとか (1) - Qiita
はじめに 何かと複雑なAzure ADテナントとアカウント(ユーザー)とAzureサブスクリプション等についてどういう風になっているのかをまとめてみる。まずはそれらの関係性をざっとまとめて、次の記事あたりでエンタープライズ契約のときに登場するその管理構造とどういう関係になっているのかについてひも解いてみたい。 Azure AD配下の位置関係 まず前提としてAzure ADはAzureっていう名前がついているにも関わらずAzureとはちょっと違う場所にある (ロケーションとかじゃなくて関係性において)。マイクロソフト的にも今のところAzureとは別のサービスという位置づけのようである。O365やAzureとかを対象とする認証基盤 統合的なIDプラットフォームサービスと考えておいたほうがよさそうである。 簡単にまとめると下記のようになる。 O365サブスクリプションはAzure ADのディレク
Azure OpenAI Service 「on your data」 で独自データを使ったチャットを実現する - Taste of Tech Topics
こんにちは、igaです。 先日は台風の影響が出る前に出かけられて、リフレッシュできました。 今回は、Azure OpenAIとチャットする際に、独自データを使用してみます。 独自データの使用（原文の表記はon your data）は、2023年8月現在パブリックプレビューとして利用できる機能です。 techcommunity.microsoft.com 独自データの使用（以降、on your dataと表記します）により、例えば企業内ドキュメントやFAQをAzure OpenAIに検索させることで、ユーザーからのチャットでの問い合わせに対して企業内ドキュメントやFAQを検索した結果をAzure OpenAIがチャットの応答として返すことができるようになります。 今回は、on your dataを利用するまでの流れを試したいと思います。 on your dataのポイント on your d
Azure Resource Manager のしくみ - Cloud Adoption Framework
この記事では、基本的な Azure 構成概念であるリソース、サブスクリプション、リソース グループから始めて、Azure にリソースをデプロイする方法について説明します。 次に、Azure Resource Manager (ARM) がリソースをデプロイする方法について説明します。 Azure リソースとは Azure でのリソースとは、Azure が管理するエンティティです。 仮想マシン、仮想ネットワーク、ストレージ アカウントはすべて Azure リソースの例です。 Azure リソース グループとは Azure の各リソースは、リソース グループに属している必要があります。 リソース グループは、複数のリソースを関連付ける論理コンテナーです。これにより、ライフサイクルとセキュリティに基づいてそれらを 1 つのエンティティとして管理できます。 たとえば、似たようなライフサイクルをリソ
Azure OpenAI on your data でノーコードで ChatGPT 対応エンタープライズサーチを構築する - Qiita
はじめに Microsoft Build 2023 で発表のあった Azure OpenAI on your data のパブリックプレビューが開始されました。「on your data」の名前の通り、Azure OpenAI Studio の Chat Playground 上で Azure Cognitive Search のデータを参照し、モデルが知らない内容を答えられるようにしてからノーコードでAzure AD 認証付きチャットアプリのデプロイまでやってしまうという機能です。 内部アーキテクチャ 「on your data」の仕組みは以下のようなアーキテクチャになっていると考えられます。考えられますというのは、Azure Cognitive Search からの Grounding の処理が on your data REST API 内部で行われるため、詳細が隠蔽されているためで
Azure OpenAIを使ったチャットボットWebアプリをAzureに閉じたネットワーク環境に構築する方法 | DevelopersIO
「インターネットを経由した通信をどうしても行わせたくない」という場合は、このような構成を実装すれば可能です。 みなさん、こんにちは！ 福岡オフィスの青柳です。 前回のブログ記事では、「Azure OpenAI Service」を使ったチャットボットWebアプリを「Microsoft Azure」環境上に構築する手順をご紹介しました。 ご紹介した環境は、比較的シンプルな構成で実現できるものの、もしかするとネットワーク的なセキュリティ面で不安に感じる方もいらっしゃるかもしれません。 と言うのも、利用しているAzureの各サービス「Azure Open AI Service」や「Azure App Service」は、デフォルトではインターネットを経由して利用するようになっています。 そのため、悪意のある人間がこれらのサービスに対して不正なアクセスを試みたり、通信内容の盗聴を試みることが考えられ
Azure OpenAI Service の gpt-35-turbo と gpt-4 の 2023 年 6 月 バージョン (0613)
バージョン 0301 の価格 $0.002 per 1K tokens 参考 Introducing new and updated models to Azure OpenAI Service Azure OpenAI Service pricing 2.3. 最大トークン (gpt-35-turbo-16k) gpt-35-turbo-16k シリーズの登場は、これまで gpt-35-turbo の最大トークン 4,096 がボトルネックになっていたユースケースの突破口になりそうです。 ちなみに、gpt-35-turbo-16k も gpt-35-turbo と同じく cl100k_base エンコーディングを使っていますので、日本語に換算すると入出力合計で約 15,000 文字程度を一連の会話の中で扱うことができるようになります。 ただし、最大トークンが大きいモデルの場合、Recen
「社内のアレ分からん、教えてAI」実現 Microsoftの“自社版ChatGPT作成サービス”にデータ取り込み機能
「社内のアレ分からん、教えてAI」実現 Microsoftの“自社版ChatGPT作成サービス”にデータ取り込み機能 米Microsoftは6月19日（現地時間）、大規模言語モデル「GPT-3.5」などのAPIをクラウドサービス「Microsoft Azure」上で使える「Azure OpenAI Service」に、新機能「On Your Data」を追加した。ローカルやAzure上のストレージに保管するテキストファイルやPDF、PowerPointファイルを、GUIの操作でチャットAIに参照させられるという。まずはパブリックプレビュー版を提供する。 これにより、社内で分からないことがあったときに何でも質問できるAIチャットbotなどを作成しやすくなるという。 Microsoftが提案する活用例では、ユーザーの「サポートチケットはどうやって作る？」（How do I create a s
Azure OpenAI Service を利用したエンタープライズアーキテクチャのメモ - Qiita
はじめに Azure 上で OpenAI をエンタープライズ利用するアーキテクチャがガンガン出てくるので自分用にメモ 1. ChatGPT × Cognitive Search を使ったエンタープライズサーチ 今一番バズってるアーキテクチャ。組織内の大量のドキュメントを ChatGPT で検索できる。多くの企業がまずこのアーキテクチャで実装を始めている。MS 公式 Tech Blog 記事は 153K Views というとんでもない View 数を記録。 ChatGPT(gpt-35-turbo)モデルでトレーニングされたデータに基づいてテキストを生成するのではなく、企業内に閉じたデータのみから生成する方法の例を示しています トークンの制限(4,096)の壁をできるだけ回避するための手法を紹介しています 「引用」をテキストに付加することで信頼できる応答を生成します 日本語解説記事 6/20
Azure で ChatGPT × Cognitive Search を使ったエンタープライズサーチに履歴機能を付ける - Qiita
前回の記事では、ChatGPT と Azure Cognitive Search を組み合わせてエンタープライズサーチを構築するためのアーキテクチャ、サンプルコードについて解説しました。 今回は、このエンタープライズ チャットボットを各種データベースを用いてチャット履歴（記憶）を永続化したり、複数組み合わせたりして色々とカスタムしてみた記事です。 1. 一時的チャット履歴 このサンプルコードはシンプルなデモ用であり、フロントエンド側にチャット履歴の配列を持っているため、ブラウザを更新すると履歴はクリアされます。 一時的ではありますが、上記のような質問への回答もできます。 1.1. チャット履歴の実装 Azure OpenAI Serivce では 3/21 に Chat Completion API がプレビューで実装されました。Chat Completion API では、チャットの会話
Azure Cognitive Search 全文検索の新機能セマンティックアンサー・キャプションを表示するデモ - Qiita
はじめに 組織内に貯まっている大量な構造化・非構造化データから、新たな価値を見出すためのフルマネージド全文検索サービスである Azure Cognitive Search を使えば、誰でも簡単に AI 搭載検索エンジンを開発することができます。 今回はセマンティック構成機能を用いてセマンティック検索をしてみたいと思います。セマンティック構成機能は、2021-04-30-Preview API に新しく追加されたものであり、セマンティック検索クエリーを投げる際の必須パラメーターとなりました。この設定はインデックス内のどのフィールドがセマンティック検索に最も重要であるかをモデルに伝える役割を担っています。詳しい設定方法はこちら。 Azure Portal から設定する場合は、インデックスの設定の中の「セマンティック構成」タブから行います。セマンティック検索に用いる以下の特定のフィールドを指定し
CTOの視点から見たAzure OpenAI ServiceとOpenAIのChatGPT APIの深堀り比較 - Qiita
※ この記事の内容は先日のQiita Nightでお話ししたことと一部重複します。 Qiita NightではLTの制限時間(10分)に収めるため、結構端折りました。 はじめに ChatGPTが登場してから数ヶ月が経ちました。 ChatGPTをはじめとしたGenerative AIは完全に現在のIT業界のトレンドとなっています。 今や多くの企業でChatGPT APIをサービスに組み込んで顧客提供を開始したり、自社の社内システムに組み込んだりと積極的に利用するようになりました。 私もGenerative AIが無くなると業務に支障が出るレベルで利用しています。 そして、2023年5月時点ではChatGPTのAPIを利用する方法として、本家OpenAI社が提供しているAPIを利用する方法とMicrosoft社が提供しているAzure OpenAI ServiceのAPIを利用する方法の2つが
Azure OpenAI Service を利用した ChatGPT お試し環境の構築 | ks6088ts
Azure OpenAI Service を利用した ChatGPT の試用環境を作成してみました。 ChatGPT を体験する環境としては、既に OpenAI でも Azure OpenAI Service でも使い勝手のいいウェブアプリがあり、ブラウザとアカウントさえあればすぐに試せます。 OpenAI: ChatGPT のウェブアプリ, PlaygroundAzure: Azure OpenAI Studio個人的なお試しという観点ですとこれらのウェブアプリを利用するだけで十分ですが、 業務への適用を視野に入れて、広く組織内で試用するユースケースを考えると様々な課題が出てきます。 例えば、シンプルに API Token を払い出してそのまま使う方法ですと、万が一 API Token が漏洩した場合に不正利用を防ぐことができません。また、ユーザーを組織内のメンバーに限定したい場合、何ら
完全に知識ゼロから ChatGPT MeetUp Tokyo #0 をおっかけ視聴してみた - 電磁波に撃たれて眠りたい！
去る2023年4月28日(金)に虎ノ門の KDDI Digital Gateで開催された「ChatGPT Meetup Tokyo #0」 もともと会場側スタッフとして参加する予定だったんですが、先約があり参加できなかったため、Youtubeのアーカイブを通じて追っかけ視聴してみました。 chatgpt.connpass.com www.youtube.com オンライン/オフラインともに、参加された人たちが口を揃えて 「ヤバすぎる」 「我々はどのくらい周回遅れしているのか」 「エンジニアとして危機感を感じた」 と語られていたので身構えながら挑みましたが、それは本当でした。 自分がどれだけこの分野についての知見が浅かったのか、上辺だけの情報しか見てなかったのか思い知らされることになりました。 このブログ記事は、タイトルにあるとおりLLMに関して本当に何も知らない私が私なりに残したメモと所感
Azure OpenAI chatGPT-4-32k で COBOL から Java にマイグレーションしてみた - Qiita
Azure OpenAI GPT-4 Public Preview Waitlist の利用申請が通りましたので試してみました。 今回は、下記に説明するように 600 行の COBOL コードを Java のコードに移行しました。（以降にかかった時間は、数時間〜約半日） 実際に利用したコードは コチラ：https://github.com/tanto259/cobol-course/blob/main/Module%2016/HOSPEDIT.cbl この検証に、GPT-4-32k のモデルを使用しました。32k を利用すると、大量のトークンを扱えるようになるので、このような 600 行程度のコード解析であれば余裕でやってくれます。 ※ ちなみに私は COBOL は全く知りませんが、Azure OpenAI GPT-4-32k の力を借りて なんとか Java のコードには変換できました
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
エンプラ企業に社内版ChatGPTをTeamsボットで実装してみた件
