他人がGPT-4とやりとりしたテキストを盗む攻撃 成功率50％以上 イスラエルの研究者らが発表
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 イスラエルのネゲヴ・ベン・グリオン大学に所属する研究者らが発表した論文「What Was Your Prompt？ A Remote Keylogging Attack on AI Assistants」は、大規模言語モデル（LLM）を活用したAIチャットbotが生成するテキスト回答を復元するサイドチャネル攻撃を提案した研究報告である。攻撃者は、AIチャットbotが応答する際の通信データを傍受することで内容を復元して他人のやりとりを盗み出すことができる。 攻撃方法としては、まずユーザーとLLMの間の暗号化されたパケット通信を傍受するところか
広がるプライバシー懸念を受け、ChatGPTへのプロンプトから機密情報・個人情報を削除する「PrivateGPT」がローンチ - BRIDGE（ブリッジ）テクノロジー＆スタートアップ情報
Image credit: PrivateAI データプライバシーを提供する Private AI は1日、OpenAI の「ChatGPT」のような大規模言語モデル（LLM）用のプライバシーレイヤー「PrivateGPT」をローンチしたと発表した。この新しいツールは、ユーザのプロンプトから機密情報や個人を特定できる情報（PII）を自動的に再編集するように設計されている。 PrivateAI は、独自の AI システムを使用して、ChatGPT に送信される前に、ユーザのプロンプトから50種類以上の PII を再編集し、PII にプレースホルダーデータを再投入して、ユーザが機密データを OpenAI に公開せずに LLM に問い合わせることができるようにする。 増加する ChatGPT の精査 今回の発表は、イタリアがプライバシーに関する懸念から ChatGPT を一時的に禁止し、カナダの
ChatGPTに「言っても良いことと悪いこと」を教えるツール NVIDIAがオープンソースコードで公開
NVIDIAは2023年4月25日（米国時間）、ジェネレーティブAI（生成系AI）の正確性や適切性、文脈の整合性、安全性の確保を支援するツール「NeMo Guardrails」をオープンソースで公開した。同社は「ソフトウェア開発者がジェネレーティブAIアプリケーションを指導し、軌道に乗った優れたテキストの応答を作成するのに役立つ」としている。 「全てのLLMで動作するようにした」 多くの産業で、これからのAIアプリケーションを支えるエンジンである大規模言語モデル（LLM）とそれを使ったサービスの採用が進んでいる。NeMo Guardrailsには、そういったテキスト生成型AIアプリケーションを安全に利用するために必要なコードやドキュメントがまとめられている。 NVIDIAは「OpenAIの『ChatGPT』をはじめとする全てのLLMで動作するように設計した」と説明している。数行のコードを追
「カメラ画像利活用ガイドブックver3.0」を策定しました （METI/経済産業省）
経済産業省・総務省は、商用目的でカメラ画像を利活用するにあたり必要な配慮事項を整理し、配慮事項のポイントを写真やイラストを盛り込んだ具体例を通して解説している「カメラ画像利活用ガイドブックver3.0」を策定しました。 背景・経緯 経済産業省と総務省は、分野・産業の壁を超えてデータに関する取引を活性化させることを目的とした「IoT推進コンソーシアム データ流通促進ワーキンググループ」（座長：森川博之 東京大学大学院教授）の下に設置した「IoT推進コンソーシアム データ流通促進ワーキンググループ カメラ画像利活用サブワーキンググループ」（座長：菊池浩明 明治大学総合数理学部先端メディアサイエンス学科専任教授）を開催し、ユースケースを取り上げ、プライバシーにも配慮したカメラ画像の利活用について検討を進めてきました。 今般、プライバシーやデータ利活用に深い見識を有する有識者に参画いただき、令和2
リスクマネジメントに対応するためのAI
2022年も多くのAI技術が開発され，社会実装も進んでいます．社会実装が進んでいることは喜ばしいことですが，2021年終わり頃からAI活用のリスクマネジメントに関するレポートがいくつか出てきました．さらに法律的な規制も整備され始めています．今回そんな中でプライバシーを守りつつ，AI活用を考えた技術についてマクニカ様にインタビューをしてきました． 今回の技術はプライバシーをマスキングする技術といった位置付けに近く，今までにもそういった技術はありました．しかし，ユニークなポイントもありつつ，圧倒的な技術力で正直驚くレベルになっています．このインタビュー中，技術力の高さに終始興奮していました． 企業紹介 マクニカは，1972 年の設立以来，最先端の半導体，電子デバイス，ネットワーク，サイバーセキュリティ商品に技術的付加価値を加えて提供してきました．従来からの強みであるグローバルにおける最先端テク
顔認識アプリのClearview AI、オーストラリアでプライバシー法違反と判断される
オーストラリア情報コミッショナー事務所（OAIC）は現地時間11月3日、Clearview AIが多方面で同国のプライバシー法に違反したと結論づけた。英国との共同調査で、Clearview AIの顔認識ツールが、オーストラリア人の個人情報を本人の同意なく、不公正な手段で収集していたことなどが判明したという。 OAICと英国情報コミッショナー事務局（ICO）が行った今回の調査結果によると、Clearview AIの顔認識ツールは、オンラインで生体情報を無差別に収集しており、少なくとも30億人に関するデータを入手していたという。 また、このツールをテスト利用した一部のオーストラリア在住の警察機関職員が、Clearview AIのデータベースで、自身の画像や、同国で事件に関与する可能性のある人の画像を検索し、マッチする画像を見つけたことも明らかになったという。 これらの要素を総合的に検討した結果
Shuji Sado (佐渡 秀治) on Twitter: "ふむ、やっと見つけた。スウェーデンのとある学校で出席確認のために顔認識の実証実験が行われたがその実験自体がGDPR違反で制裁金をくらった事例。実験は生徒の同意の下で実施されたが、データ主体である生徒と学校間の権力不均衡に鑑みて同意… https://t.co/kdFqRaluS8"
ふむ、やっと見つけた。スウェーデンのとある学校で出席確認のために顔認識の実証実験が行われたがその実験自体がGDPR違反で制裁金をくらった事例。実験は生徒の同意の下で実施されたが、データ主体である生徒と学校間の権力不均衡に鑑みて同意… https://t.co/kdFqRaluS8
架空の顔で「お客様の声」「大満足」…ＡＩで生成、９０サイトで宣伝に悪用［虚実のはざま］第３部 粉飾のカラクリ＜１＞（読売新聞オンライン） - Yahoo!ニュース
ＡＩ（人工知能）で作り出された架空の人間の画像が、あたかも実在するかのような形で多数の業者の宣伝サイトで使われていることが、読売新聞の取材でわかった。商品やサービスを推奨する客などを装って掲載されていた。すでに海外では悪用が問題になっており、歯止めなく使われれば、取り扱いのルールを巡って議論になる可能性がある。 【写真】「スマホ警察手帳」は偽物です…ご注意 画像は、大量のデータから特徴を学ばせるＡＩの深層学習（ディープラーニング）の技術で精巧に自動生成できる。国内では大阪市のＩＴ企業「ＡＣワークス」が、イメージ写真や仮想モデルなどとしての利用を想定し、会員登録すれば無料でダウンロードできるサービスを２年前に開始。実在の客を装っての掲載などは規約で禁止していた。
「顔認識技術」は日本や世界でどのように使われているのか
「顔認識技術」は日本や世界でどのように使われているのか：プライバシー侵害のトップ3は中国、ロシア、UAE 比較サイトComparitech.comは、顔認識技術利用状況を調査した結果を発表した。日本を含む世界99の国と地域を対象とした調査だ。政府機関や学校など用途別に得点を付けた結果、侵害的に広く利用している国のトップ3は中国、ロシア、UAEだった。ただし、これに続いて日本、チリ、インドが同点で並んだ。 比較サイトComparitech.comは2021年6月8日、顔認識技術の利用状況を調査した結果を発表した。日本を含む世界99の国と地域を対象とした調査だ。 ITやカメラを用いた顔認識技術は現在、さまざまな場面で使われており、多くの人にとって日常生活の一部となっている。専門家によると、2020年に38億ドル規模だった世界の顔認識技術市場は、2025年には85億ドル規模に成長する見通しだ。
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
