【悲報】ChatGPTが新車を1ドルで勝手に売ってくる事案が発生｜ﾊﾟﾄﾙ | AI x Biz
こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション（AIのハッキングみたいなやつ）にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。（残念ながら12/22時点ではChatGPTは外されています） https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて
20230614_「ChatGPTについて調べてくれ」と社長から特命を受けた人のためのChatGPT概論(40min版)
https://forest.f2ff.jp/introduction/7866?project_id=20230601
ChatGPTに共通テスト（旧センター試験）を解かせてみた｜usutaku@AI情報解説
最近流行りのChatGPT。 「色々な作業を自動化した」 「国家試験に合格した」 ニュースで目にする機会も最近は多いと思います。 では、ChatGPTは現段階でどのくらい賢いのでしょうか？ 「海外の司法試験で人間を超えた」などの情報をよく耳にしますが、実感が湧きませんよね。 今回は日本人に馴染みの深い大学入学共通テスト（旧センター試験）を題材に、その実力を検証してみました。 実験方法今回は、令和４年度の国語・英語（リーディング）・公民（倫理 / 政治・経済）の3科目について実験を行いました。 ※ 数学・理科等の科目については図表を読み取る問題が多く、正確に試験できないため今回は除外しました。 ポイント①： テキストになおす大学入試センターで公表されている試験問題がPDFのため、ChatGPTに読めるテキスト形式にする必要があります。 今回はGoogle Docsの機能を活用して文字起こしし
ChatGPT関連情報の追い方、個人・業務での使い方、サービスへの組み込み方、 ABEJAでの取り組み4例、ここ2週間のトピックなど行けるところまで
ChatGPT関連情報の追い方、個人・業務での使い方、サービスへの組み込み方、 ABEJAでの取り組み4例、ここ2週間のトピックなど行けるところまで
セキュリティ担当者がChatGPTの業務利用方針を検討するうえでの留意点
目次[非表示] 1.はじめに 2.AI関連の指針・原則・ガイドラインの動向 2.1.国内における分野横断の主なAI関連の指針・原則・ガイドライン 3.ChatGPTの業務利用に関する動向 3.1.ChatGPT等の業務利用を推進する企業様のニュース 3.2.ChatGPTの業務利用を制限・禁止する企業様のニュース 3.3.AIサービスの業務利用に関するガイドライン策定のニュース 4.ChatGPTのプライバシーポリシーと利用規約における留意点 4.1.情報漏えい 4.2.情報の正確性 4.3.参照 5.ChatGPT Web版の業務利用における情報セキュリティ上の留意点のまとめ 5.1.情報漏えい 5.2.情報の正確性 6.まとめ はじめに昨今、ChatGPTに関する話題に注目が集まるなか、「業務利用」について検討される企業様が増加しています。実際に、クラウドリスク評価「Assured（ア
世界に衝撃「ChatGPT」開発企業のCEO 独占インタビュー | NHK
人間のように自然な受け答えができる高度な性能を備え、世界で急速に利用が広がる対話式AI「ChatGPT」。開発したアメリカのベンチャー企業のCEO・サム・アルトマン氏（37）が来日し、NHKの単独インタビューに応じました。 この中でアルトマン氏は「想像できない方法で、私たちの生活を向上させるものだ」と述べた上で、「リスクを軽減するための規制が必要で、政府と話し合うことが重要だ」という認識を示しました。 「私たちすべての生活の質を向上させる」 アメリカのベンチャー企業「オープンAI」のCEO、サム・アルトマン氏は、「ChatGPT」を去年11月に公開した後の初めての訪問国として日本を訪れ、10日NHKの単独インタビューに応じました。 アルトマン氏は『ChatGPT』が社会に与える影響について、「新しいテクノロジーが登場すると、今日では想像できない方法で、私たちすべての生活の質を向上させること
「ChatGPT」開発企業のアルトマンCEO 岸田首相と面会 | NHK
「ChatGPT」を開発したアメリカのベンチャー企業「オープンAI」のサム・アルトマンCEOは10日午前、総理大臣官邸を訪れて、岸田総理大臣と面会しました。 面会のあとアルトマン氏は記者団に対し、「とてもいい面会だった。岸田総理大臣とはAI技術の長所とともに、欠点をどう軽減していくかについて話し合った」と述べました。 一方、岸田総理大臣は総理大臣官邸を出る際、記者団に対し「新しい技術が登場し、利用されている一方、プライバシーや著作権といったリスクも指摘されているという状況について意見交換した。合わせて国際的なルールづくりについてもどのように考えるか、意見交換した」と述べました。 アルトマン氏は午後、自民党の「デジタル社会推進本部」の会合に出席し、冒頭で「AIの開発が、技術的な革命をもたらすことを信じている。日本が果たしうる役割は非常に大きいと思う」と述べました。 出席者によりますと、会合の
ロイター | 経済、株価、ビジネス、国際、政治ニュース
値下がり ネガティブ日経平均39,581.81-0.48%ネガティブ値下がり ネガティブダウ平均38,883.67-0.02%ネガティブ値上がり ポジティブ英 FTSE7,979.93+0.57%ポジティブ値上がり ポジティブS&P500種5,209.91+0.14%ポジティブ値下がり ネガティブJPYUSD=X0.01-0.05%ネガティブ
ChatGPT APIとWhisper APIで議事録文字起こしアプリを作り、Hugging Face Spacesで公開する | gihyo.jp
ChatGPT APIの使い方 実際にChatGPT APIを使ってみましょう。 openai-pythonのインストール 今回はOpenAIのPython用ライブラリであるopenai-pythonを使います。pipを用いて、openai-pythonをインストールしましょう。 pip install openai APIリクエスト ChatCompletion.createで対話を生成できます。たとえば、以下のようなコードになります。 import openai openai.api_key = "sk-..." # APIキー completion = openai.ChatCompletion.create( model="gpt-3.5-turbo", messages=[{"role": "user", "content": "こんにちは！"}] ) print(complet
Prompt Engineering Guide – Nextra
Prompt Engineering Guide プロンプトエンジニアリングは、言語モデル（LMs）を効率的に使用するためのプロンプトを開発および最適化する比較的新しい学問分野です。プロンプトエンジニアリングのスキルを身につけることで、大規模言語モデル（LLMs）の能力と限界をより理解することができます。 研究者は、プロンプトエンジニアリングを使用して、質問応答や算術推論などの一般的なおよび複雑なタスクのLLMsの能力を向上させます。開発者は、LLMsやその他のツールとのインタフェースとなる強固で効果的なプロンプテクニックを設計するためにプロンプトエンジニアリングを使用します。 プロンプトエンジニアリングは、プロンプトの設計と開発に限らず、LLMsとのインタラクションおよび開発に役立つ幅広いスキルと技術を含みます。これは、LLMsとインタフェースすること、ビルドすること、能力を理解すること
ChatGPTプロンプトテンプレート例文集｜入江 慎吾 🚀 生成AIでプロダクト開発
ChatGPTで文章を作成して、最後に『文章を書く時は以下のルールを忠実に守ってください。』と入力すると、自分の希望通りの文章を書いてくれます。具体的にはこんな感じです↓↓ pic.twitter.com/A4ABtkGN3u — ミスティー＠専業ブロガー (@misty_blog) March 19, 2023 ChatGPTで『〇〇 〇〇で検索するユーザーが思わずクリックしてしまうブログ記事のリード文を〇〇のプロ目線で書いてください」と指示すると、SEOで上位表示できるレベルの『リード文』が簡単に書けてしまう。詳しいやり方はこんな感じです↓ pic.twitter.com/e2wweMLfkr — ミスティー＠専業ブロガー (@misty_blog) March 22, 2023
ChatGPTプラグイン の概要｜npaka
「OpenAI」の「ChatGPTプラグイン」の記事が面白かったので、かるくまとめました。 ・Chat Plugins - OpenAI API ・ウェイトリスト 1. ChatGPTプラグイン「ChatGPTプラグイン」は、「ChatGPT」をサードパーティのアプリケーションに接続するためのプラグインです。「ChatGPT」は、開発者によって定義されたAPIと対話し、機能を強化し、幅広いアクションを実行できるようになります。 次のような機能を追加できます。 ・リアルタイム情報の取得 (スポーツスコア、株価、最新ニュースなど) ・知識ベース情報の取得 (会社のドキュメント、個人的なメモなど) ・ユーザーに代わってアクションを実行 (フライトの予約、食べ物の注文など) プラグイン開発者は、マニフェストファイルとAPIエンドポイントを公開します。これらはプラグインの機能を定義し、「ChatGP
ChatGPT plugins
We’ve implemented initial support for plugins in ChatGPT. Plugins are tools designed specifically for language models with safety as a core principle, and help ChatGPT access up-to-date information, run computations, or use third-party services. In line with our iterative deployment philosophy, we are gradually rolling out plugins in ChatGPT so we can study their real-world use, impact, and safety
［速報］「GitHub Copilot X」発表、GPT-4ベースで大幅強化。AIにバグの調査依頼と修正案を指示、ドキュメントを学習し回答も
［速報］「GitHub Copilot X」発表、GPT-4ベースで大幅強化。AIにバグの調査依頼と修正案を指示、ドキュメントを学習し回答も GitHubは、GTP-4をベースに「GitHub Copilot」の機能を大幅に強化した「GitHub Copilot X」を発表しました。 GitHub Copilot is already helping developers code faster in their IDEs. But what’s next? Our answer is GitHub Copilot X. It’s our vision for the future of AI-powered software development. Check it out https://t.co/3Xrn7dAPgi — GitHub (@github) March 22, 202
ヒエッ！ GPT-4がスゴすぎて、「AIで仕事がなくなる」不安がいよいよリアルに
AIがヤバい。今回は本気でヤバい。 既存の仕事は今後どうなってしまうのか。ライター業は、AIに取って代わられるのではないか。 危機感の理由は「GPT-4」だ。米OpenAIが3月14日（現地時間）に公開した、次世代の大規模自然言語モデル。その試用が、AIチャットbot「ChatGPT」の有料版で利用できるようになったので、早速試したところ、たまげた。 以前のバージョン「3.5」は、詳細かつ適切に指示しないと狙った結果が得られなかったのだが、「4」は、雑な指示でも適切な結果を返してくれる。例えば、以下のような感じだ 「ゆかたんかわいい」で「縦読み」を作ってもらった。「縦読み」とは、横書きで意味の通じる文章で、冒頭の文字を縦に読むと別の意味になっている、という言葉遊びの一種だ。前モデルの「GPT-3.5」だと要領を得ない返答だったが、「GPT-4」は一発でこんな答えを示した。 「ゆめのような彼
「GPT-4」発表 日本語でもChatGPT英語版より高性能、司法試験で上位10％、「この画像何が面白いの？」にも回答
「GPT-4」発表 日本語でもChatGPT英語版より高性能、司法試験で上位10％、「この画像何が面白いの？」にも回答（1/3 ページ） 米OpenAIは3月14日（現地時間）、大規模言語モデル「GPT-4」を発表した。テキストでのやりとりだけでなく、新たにユーザーから画像を受け取り、適切な情報も返せるようになったという。司法試験の模擬問題を解かせたところ、現在の「ChatGPT」が採用しているGPT-3.5では受験者の下位10％ほどのスコアしか取れないのに対し、GPT-4では上位10％のスコアで合格するとしている。 ChatGPTの有料版「ChatGPT Plus」やAPI経由ですでに利用できるようになっている。 専門的領域なら人間レベル 日本語でもGPT-3.5の英語版より高性能に GPT-4の性能について、同社は「現実世界のシナリオにおいては人間に劣ることも多いが、（司法試験の模擬問
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
OpenAI がまたやった！OpenAI DevDay 総まとめ｜ChatGPT研究所
ChatGPT まるわかり “異次元” AIの衝撃 | NHK | WEB特集
ChatGPT Impact - その社会的/ビジネス価値を考える -
東大、ChatGPTなど生成系AIに見解 「人類はこの数ヶ月でルビコン川を渡ってしまったかもしれない」（J-CASTニュース） - Yahoo!ニュース
