マルウエア作成に対話型生成AIを悪用した事案についてまとめてみた - piyolog
2024年5月28日、生成AIを使用したマルウエアを作成した容疑で警視庁が男を逮捕したことが報じられました。ここでは関連する情報をまとめます。 対話型生成AIを使用しランサムウエアらしきものを作成 男の容疑は不正指令電磁的記録作成。2023年3月31日に自宅PCやスマートフォンを使用して、対話型生成AIを使用し、不正プログラムの設計情報を組み合わせてマルウエアを作成した疑い。2024年3月に警視庁は男を偽造身分証を使用してSIMカードの不正契約を行ったなどとして詐欺容疑（今回の事案とは別件）で逮捕しており、*1 捜査より自宅から押収されたPCを解析したところマルウエアが発見された。*2 生成AIを使用したマルウエア作成の事案摘発は全国で初めてとされる。*3 男が作成したマルウエアは、実行環境のデータを破壊（暗号化とも報道）し、暗号資産の要求をする機能が含まれており、いわゆるランサムウエアに
テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）｜デジタル庁
デジタル庁では、デジタル社会の実現に向けた重点計画（令和4年6月7日閣議決定）を踏まえ、AIの実態と動向を把握し、リスクと必要な対応策を特定したうえで、官民における適切な活用の検討を進めています。 昨今の生成AIなどの技術革新により、さまざまな利点を得られるようになってきており、政府でも、このような技術の動向を見極めつつ、関係省庁における生成AIの業務利用について第10回デジタル社会推進会議幹事会・書面開催等の議論を重ねてきました。また、2023年12月より生成AIの適切な利活用に向けた技術検証を実施し、その結果※を公開しました。 ※技術検証結果の詳細は、2023年度 デジタル庁・行政における生成AIの適切な利活用に向けた技術検証を実施しましたをご覧ください。 これまでの議論の経緯や検証結果を踏まえ、「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」として公開します。実際
［速報］マイクロソフト、PCに話しかけながら画面を操作するだけで生成AIがRPAフローを自動生成してくれる、Power Automate「AIレコーダー」発表
［速報］マイクロソフト、PCに話しかけながら画面を操作するだけで生成AIがRPAフローを自動生成してくれる、Power Automate「AIレコーダー」発表 マイクロソフトは、日本時間5月22日未明から開催中のイベント「Microsoft Build 2024」で、PCに話しかけながら画面を操作するだけでRPAフローを自動生成してくれる、Power Automateの新機能「AIレコーダー」を発表しました。 人間に操作を教えるように、AIに話しながら操作 これまでRPAフローを作成する方法として、マウスやキーボードなどの操作を記録することで基本的なRPAフローを作成することが可能でした。 今回発表された新機能「AIレコーダー」は、まるで人間に言葉で説明しながら業務アプリケーションの操作を教えるように、マウスとキーボードを操作しつつ音声で説明することで、どのような意図で操作しているのかを詳
AIラジオ『zenncast』の技術構成（プロンプトつき）
先日、個人開発していたzenncastというWebサービスをリリースしました。 Zennでトレンドになっている記事を、毎日AIが10分のラジオにして届けてくれるというサービスです。 ありがたいことに公開後はたくさんの方に試してもらえ、技術的な質問も多数いただきました。 このZennではzenncastの技術構成や仕組みを紹介します（プロンプトつき）。 作ったもの まずはエピソードを一つ選んで1分くらい聴いてみてください！ AIラジオの雰囲気が掴めると思います。 主な機能・特徴 毎朝10分のラジオを生成 Zennでトレンドになっている記事を要約して紹介 お便りを投稿すると、翌日のエピソードでAIパーソナリティが拾ってコメントしてくれる BGMをつけて爽やかな聴き心地 これらのステップは人の手を介さずすべて自動化されています。 Spotifyなどの各種プラットフォームへの配信はSpotify
AppleとOpenAIの契約が最終調整へ、iOS 18にChatGPTを搭載するとみられる
AppleがChatGPTをiPhoneに搭載するためのOpenAIとの提携を協議しており、条件を調整する最終局面に到達しているとBloombergが報道しました。 Apple Closes in on Deal With OpenAI to Put ChatGPT on iPhone - Bloomberg https://www.bloomberg.com/news/articles/2024-05-11/apple-closes-in-on-deal-with-openai-to-put-chatgpt-on-iphone iOS 18: Apple finalizing deal to bring ChatGPT to iPhone - 9to5Mac https://9to5mac.com/2024/05/10/ios-18-chatgpt-features-apple-open
Microsoftが音声認識アシスタント「Cortana」を巡る特許訴訟で377億円の支払い命令を受ける
by Underway In Ireland Microsoftの音声認識アシスタント機能「Cortana」がIPA Technologiesの特許を侵害しているとして2018年から行われてきた裁判で、デラウェア州の連邦陪審は特許侵害を認定し、Microsoftに最大2億4200万ドル(約377億円)の支払いを命じました。 Microsoft hit with $242 million US verdict in Cortana patent lawsuit | Reuters https://www.reuters.com/legal/microsoft-hit-with-242-million-us-verdict-cortana-patent-lawsuit-2024-05-10/ Microsoft to Pay $242 Million in Patent Case Over C
あのキャラの声、AIで勝手に再現「無断AIカバー」氾濫 声優と弁護士に聞く「声の守り方」と未来
自分の声やフリーの声素材、著作権フリーの楽曲などで作るのならば問題はない。関係者を悩ませているのは、声優や歌手などの声を勝手に使った“無断AIカバー”だ。 人気歌手や声優の声を無断でAIに学習させ、無関係な歌を歌わせたり、セリフを言わせたりする無断AIカバーは、アニメファンなどが好きなキャラの声で勝手に制作し、動画SNSなどで人気を集めている。 声そのものが商品である声優にとって、無断AIカバーが作られるのは深刻な問題だ。「早急に何とかしたいと思っているのですが……」。声優の甲斐田裕子さん（アニメ業界の立て直し・発展を目指す有志団体「日本アニメフィルム文化連盟（NAFCA）」理事）は、対策の難しさに頭を抱える。 声を守ることに特化した法律がないことや、作品の関係者が多岐にわたること、関係者の間でも意見が割れていることなどが、問題を複雑にしている。 声優が自らの声でAI音声を作り、新たなビジ
｢新機能Grokでちょっと意地悪したら5億倍くらいの火力で煽り返されて号泣した｣Xの膨大なポストを学習して作られた対話型AI『Grok』の煽り性能が高すぎると話題に
鰐軍壮 @WANIGUNNSOU 話題のXの新機能Grokを使ってみたんだけど、ちょっといじわるしてみたら5億倍くらいの火力で煽り返されて号泣した。 イーロンが直接返信してるんじゃないかと疑うレベル。 pic.twitter.com/7NubyOmiQT 2024-05-08 17:27:03
「マテリアルズ・インフォマティクス」企業で導入広がる | NHK
「マテリアルズ・インフォマティクス」と呼ばれるAIやデータサイエンスの技術を駆使して新素材や材料を開発する手法が企業の間で広がっています。開発スピードを飛躍的に早める技術として注目されます。 新素材や材料の開発は、従来、膨大な量の実験や試作を繰り返す地道な作業がかかせませんでしたが、マテリアルズ・インフォマティクスは、AIやデータサイエンスの技術を駆使して予測をもとに仮想実験を行い、短時間で効率的に開発を行うことができるとして、企業の間で導入の動きが広がっています。 大阪で8日から開かれている素材の技術を集めた展示会でも各社が出展し、トヨタ自動車は過去の研究開発に基づいて、材料分析や実験の提案を行うサービスのデモンストレーションを行っています。 また、東京のスタートアップ企業は、自動車や半導体などさまざまな業界での導入事例を紹介しています。 一方、日立製作所グループは、2017年からシステ
LLM時代のX情報収集術｜べいえりあ
AI for Everyoneについては日本語版もあるのと、どちらのコースも日本語字幕付きで見られる（多分機械翻訳での英語字幕からの翻訳だが、翻訳の質は悪くない）ので、英語分からなくてある程度何とかなるんじゃないかと思います。 あと、余力のある人、最新のNLP研究を理解したい人はこちらの本を読むことをオススメします。アルゴリズムの詳細は必ずしも理解しなくても良いですが、どんなタスクがあるのかは理解しておいた方が良いかと思います。 NLPの知識がLLMを応用する上で実際にどう役に立つかですが、例えばで言うとNLP的には対話の中には「タスク指向型対話（task-oriented dialogue）」と「雑談（chit-chat dialogue）」があります。それぞれ対話の中で重要視されるものから評価の仕方まで全然違うのですが、NLPをやらずにLLMをやっている人と話しているとこれらをごっちゃ
2024年大注目の「RAG」の正体とは？──ハルシネーションを防ぐ有効手段として期待
「RAG」が注目されている理由 生成AIに対する期待は大きいが同時に課題も多いことはこれまで見てきたとおりだ。AIガバナンスとして、回答の透明性や、ハルシネーションへの対応、プロンプトに社内情報をアップロードしてしまう情報漏洩などのセキュリティ課題、またトレーニングにおけるコンテンツの所有権の問題などがあげられる。さらにLLMは確率的生成を要素としているため、同じ内容のプロンプト問い合わせに対しても異なる回答が返ってくるが、同じ質問に対しては同じ回答が求められるケースもあるだろう。たとえば、医療関係や法律関係、教育現場、または顧客や利用者からの問い合わせを受けた企業の回答など、内容の正確度を重視し、回答の自由度に制限を設けたい場合だ。実際に業務で利用する際にハルシネーションをふりまくわけにもいかず、確度の高い回答が求められる。 こうしてみると、生成AIにおけるガバナンスには、利用者からみた
【未経験者大歓迎】RAG超入門：AWSが推奨するRAGを体験するハンズオン - Qiita
2024/5/5更新：生成AIに興味を持った方向け、続編を投稿しました。 「Qiitaに聞いた！！」をAmazon Bedrockで作った！（Claude 3でRAG） タイトルはふざけてますが、プロンプトエンジニアリングにより本投稿と同様の内容を行う解説をしています。 （BedrockのClaude 3モデルと、Google検索を使った構成です） 生成AIはとても注目度が高い技術ですが、すこしとっつきにくいところがあるかもしれません。新しいモデルや活用手法が毎日のように登場し、ウォッチし続けるのはかなり大変です。 タイミングを逃して入門できていない方向けに、 とりあえず作って体感してみよう というコンセプトで、ハンズオン記事を作成しました。🎉🎉🎉 ハンズオンの内容は「RAG」です。RAGは生成AIの活用法としてよく出てくるキーワードです。ハンズオンでは、ただのRAGではなく最先端の
「rabbit r1」を1日使ってみた--ビジュアル検索は秀逸だが気になる点も
rabbit inc.の創設者で最高経営責任者（CEO）のJesse Lyu氏は、同社の最初の製品である「rabbit r1」を「Pokedex」（1990年代に米国で発売された玩具）になぞらえている。筆者は1日使っただけで、その理由が分かってきた。 Pokedexがポケモン（人気の高い同名の漫画やテレビゲーム、カードゲームシリーズに登場する生き物）を識別できるように、rabbit r1は周囲のさまざまなものを識別することが可能だ。カメラを植物の方に向けると、その種類を教えてくれる。昼食の方に向けると、使われている食材を教えてくれる。 Pokedexと同様、rabbit r1も現在のところ、少し目新しさを感じられる。rabbit r1は、コンパクトなサイズとシンプルなデザインにもかかわらず、さまざまなことができるそうだ。配車サービスの「Uber」を呼んだり、フードデリバリーサービスの「Do
Slack AIは“中間管理職”を救うか？ デジ庁、ウーブン・バイ・トヨタ、NESICの期待
Salesforceは、2024年4月24日、Slack AIの日本での提供開始（参考記事：Slack AIが待望の日本上陸 チャンネルの「まとめ」が毎朝届く機能も追加）を記念したイベント「Slack AI Day」を開催。「Slack AIとオートメーションが導く働き方の未来」をテーマに、ゲスト講演やユーザーパネルディスカッションが展開された。 Slack AIは、Slackにネイティブに組み込まれた生成AI機能。“誰でもすぐに使える生成AI”として、プロンプトを使用することなく、Slack上に蓄積されたデータを活用できる。 本記事では、デジタル庁（デジ庁）、NECネッツエスアイ（NESIC）およびウーブン・バイ・トヨタの3者が、Slackや生成AIの活用、そしてSlack AIへの期待を語ったユーザーパネルディスカッションの様子をお届けする。 デジタル庁：多様なメンバーのコミュニケーシ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
テロップ入れなど面倒だったPremiereの編集作業がAI新機能でここまで簡単に！ [Sponsored]![テロップ入れなど面倒だったPremiereの編集作業がAI新機能でここまで簡単に！ [Sponsored]](https://cdn-ak-scissors.b.st-hatena.com/image/square/e12f0a4935a2325e5bc21d850c77fb88316ff63f/height=288;version=1;width=512/https%3A%2F%2Fpc.watch.impress.co.jp%2Fimg%2Fpcw%2Flist%2F1592%2F950%2Fim_02.jpg)
【特集】 知っ得！企業トップのAI活用法。日本マイクロソフト社長のCopilotの使い方がすごく勉強になる
NVIDIA､2〜4月売上高3.6倍 AI半導体「1強」予想上回る - 日本経済新聞
Windowsに40以上のオンデバイスAIモデルを搭載へ／APIセットは「Copilot Library」より利用可能
SCSK、AWS向けクラウド移行支援パッケージの提供範囲をクラウドネイティブ化まで拡大
Windows 11の「フォト」にグラフィックスAI「Microsoft Designer」が統合へ／ただし、日本展開は未定
