話題のLLMローコード構築ツールDifyをAWSのマネージドサービスで構築してみた - エムスリーテックブログ
こんにちは。エムスリーエンジニアリンググループのコンシューマチームに所属している園田です。 普段の業務では AWS やサーバーサイド、フロントエンドで遊んでいるのですが、最近はもっぱら OpenAI や Claude3 で遊んでます。 今回は、最近巷で話題の LLM ローコード構築ツールである Dify の OSS 版を AWS のマネージドサービスのみを使って構築してみました。 DifyとはオープンソースのLLMアプリ開発プラットフォームで、様々なLLMを使用してChatGPTのGPTsのようなものがノーコードで簡単に作れます。 引用元: DifyでSEO記事作成を試してみる｜掛谷知秀 試しにAskDoctorsのガイドラインHTMLをナレッジ登録してみた ローカル環境で Dify を構築する記事はたくさん見かけますが、AWS のマネージドサービスで構築する内容は見かけなかった*1ので公
ウエハースケールエンジンにSimulated Annealingを分散並列実装しCS-2実機で動作確認しました
このブログは、株式会社フィックスターズのエンジニアが、あらゆるテーマについて自由に書いているブログです。 皆さんこんにちは！ 本記事では、Cerebras Wafer Scale Engine (WSE)にSimulated Annealing(SA)を分散並列で実装する方法を紹介します。 本記事の内容は前回の記事 の続きの話となります。 本記事では前回の記事で行ったウエハースケール上での並列化をさらに発展させ、より分散並列な形でSimulated Annealingを実装しました。 さらに、東京エレクトロンデバイス社様からCerebras CS-2実機を貸与していただくことが出来たため、実機での評価を行いました。 まだ前回の記事を読んでいない方は、そちらから読むことをおすすめします。 もし前回の記事をお読みになった方も、再度読んでみるとよりこの記事を理解しやすくなると思います。 簡単なお
ウエハースケール計算エンジンWSE-2においてSimulated-Annealingを実装しました
皆さんは大規模計算のアーキテクチャといえば何を思い浮かべますか？ 現在世界中のAI の学習の中心を担っている GPU、スーパーコンピュータ『富岳』、Preferred Networks 社が発表している『MN-Core』と人により様々だと思います。 世はまさに AI 戦国時代、世界中の半導体企業がより高速で、より省電力で、より扱いやすいアーキテクチャの開発に切磋琢磨しています。 そのような中でもチップ一つを製造するのにウエハを一枚使い切ってしまうというプロセッサが 2021年8月に発表されました。 Cerebras Systems 社 の 第二世代 Wafer-Scale Engine (WSE-2)です。1 おおよそ20cm x 20cmのサイズ一枚で一つのチップです。※写真はTED AI Labの許諾の元掲載 さらに、Cerebras Systems 社の WSE 向けにプログラミング
【蒲田温泉】昭和の人々がカラオケに沸いた「宴会場」は時代を映す鏡だった - イーアイデム「ジモコロ」
東京の大田区にある「蒲田温泉」は、東京では珍しい黒湯の温泉で、宴会場やサウナも人気で若者客も多い銭湯です。蒲田温泉の島 雪江さんに話を聞くと、京浜工業地帯と羽田空港に近い、蒲田という街の歴史が詰まったエピソードがあふれていました。 ライターの大北です。「蒲田温泉」という蒲田の銭湯に来ています。 東京にも温泉があります。「黒湯（くろゆ）」と呼ばれる黒いお湯は蒲田の銭湯でも入ることができます。そして蒲田の銭湯といえば不思議な文化があるんですよ。それが宴会場です。 蒲田温泉の2階にある宴会場 スーパー銭湯だと宴会場もなくはないと思うんですけど、蒲田やその近辺では、いくつかの普通の銭湯にあるんです。生ビールも飲めて料理も食べられて、ちょっとした居酒屋のような使い方ができるんですね。 なんで蒲田だけこんなことになってるんですか？ 蒲田温泉の島 雪江（しま・ゆきえ）さんに聞くと、京浜工業地帯と羽田空港
なぜ分割代入をすると Vue は reactive ではなくなるのか - Stockmark Tech Blog
こんにちは。 Anews の開発に携わっている Engineer の 羽柴 と申します。 Anews はフロントエンドを Vue で開発しています。 自分自身の背景として、Stockmarkに入社するまでは React を使って開発していたので Vue の経験は殆どない状態でした。 そこで理解を深めるために chibivue を使った勉強会を社内で進めています。 その時に気づいたことを share したいなと思い、この記事を書きました。 ja.vuejs.org chibivueとは Vue を書き始めた感想 chibivue の勉強会を進めて Proxyについて でもなんで まとめ 余談 最後に chibivueとは ubugeeei.github.io Vue を最少単位で作ってみようという project です。 浅い理解でよければ公式 docs をさらっと読んで実装するのが早いので
中国製GPUで学習した純中国製LLM「MT-infini-3B」が「Llama3-8B」を超える性能を示し中国単独で高性能AIを開発できることが明らかに
中国に拠点を置くGPUメーカーの「摩爾線程(Moore Threads)」が、自社製GPUを用いて大規模言語モデル「MT-infini-3B」を開発したことを発表しました。MT-infini-3BはNVIDIA製GPUを用いて学習した大規模言語モデルと同等以上の性能を備えているそうです。 摩尔线程携手无问芯穹：基于夸娥千卡智算集群的“MT-infini-3B”大模型实训已完成 | 摩尔线程 https://www.mthreads.com/news/171 アメリカ政府は中国によるAI研究を軍事上の脅威と捉えており、中国に対して高性能半導体の禁輸措置を実施しています。このため中国ではNVIDIAやAMD、Intelなどが開発しているAI研究用チップの開発が困難となっています。 そんな中、Moore Threadsは2023年12月に独自開発のAI研究用GPU「MTT S4000」を発表しま
トランプ氏、大統領選に勝てばマスク氏の助言役起用を検討か 米報道：朝日新聞デジタル
米トランプ前大統領が11月の大統領選で勝利して政権に復帰した場合、起業家イーロン・マスク氏を助言役として起用する検討をしていることが明らかになった。米ウォールストリート・ジャーナル紙が29日報じた。 同紙によると、マスク氏とトランプ氏は最近、電話で複数回話し、移民問題やテクノロジー、宇宙を含めた科学分野について意見交換したという。 マスク氏は前回の中間選挙を控えた2022年、過去は民主党に投票してきたとしながらも、「彼らは分断と憎しみの党になった。だからもう彼らを支持できず、共和党に投票する」と表明していた。マスク氏は最近、バイデン大統領への批判を強めている。 マスク氏はトランプ前政権時代、同氏が立ち上げた経済政策の助言組織に参加したものの、前政権が地球温暖化対策の国際ルール「パリ協定」からの離脱を表明した際に退任。トランプ氏とは距離を置いていた。（サンフランシスコ＝五十嵐大介） ","n
ローカルLLMの長文推論、メモリ使用量を節約する方法:KVキャッシュの量子化｜AIサトシ
大規模言語モデル（LLM）において、メモリ使用量の効率化は非常に重要です。特に長文処理を行う場合です。モデルに入力するコンテクストが長くなるほど、メモリ消費量も増加します。 プロンプトに入力する文字数（Token数）と必要メモリについて計算したメモ📝 精度との兼ね合いですが、長文扱うときは、mistral-v0.1圧倒的にコスパ良い pic.twitter.com/Nqn5SXDZ9u — AI𝕏サトシ⏩ (@AiXsatoshi) May 27, 2024 Mistral-7Bは、v0.1では、約4K tokensのSliding window attention(SWA)にて、コンテクスト長に消費されるメモリを低減しました。しかし、性能への影響からと考えますが、v0.2以降のアップデートで、SWAは排除されています。入力トークンを絞ることでメモリ容量を低減すれば、当然複雑性や表現力
「森林環境税」6月から1人年額1000円徴収 森林整備目的の交付金4割使われず…「無駄増やしてほしくない」厳しい意見も（FNNプライムオンライン） - Yahoo!ニュース
6月から導入される「森林環境税」。1人当たり年間1000円徴収されるものだが、その使い道が議論になっている。 【画像】6月から始まる「森林環境税」の仕組みをチェック 森林整備目的の交付金 使用状況に差6月から始まる新しい税金「森林環境税」とは、国内の森林整備を目的としたもので、納税義務者約6200万人から、1人年間1000円徴収され、年間で約620億円の税収が見込まれている。住民税に上乗せする形で徴収し、国に納められた後、都道府県や市町村に配分される。 森林整備を目的とした交付金は、2019年度から「森林環境譲与税」として始まっていて、国庫から各市町村に配布されている。森林の面積が大きい静岡・浜松市では、2022年度分の交付金を森林整備に加え、整備に関わる人材の育成などで使い切った。 一方で、人工林の面積がゼロの東京・渋谷区は、開始から5年間で9857万円が配布されたが、使用したのは202
JSAI2024/The Impact of Pachinko Parlors on Property Crime in Japan
[2I4-OS-1b-04] The Impact of Pachinko Parlors on Property Crime in Japan 6.5 Years of Geographic Information on Crime 〇Kenji Yokotani1, Nobuhito Abe2, Masahiro Takamura3, Tetsuya Yamamoto1, Hideyuki Takahashi4 (1. tokushima university, 2. kyoto university, 3. shimane university, 4. osaka university) Keywords:pachinko parlor, property offence, geographic information We investigate the relationship
スウェーデン、過去最大のウクライナ軍事支援を発表 早期警戒管制機や兵員輸送車等
スウェーデン政府は２９日、ウクライナに対する総額１３３億クローナ（約２０００億円）の新たな軍事支援パッケージの供与を発表した。 ヨンソン・スウェーデン国防相がソーシャルメディア「Ｘ」アカウントで伝えた。 ヨンソン国防相は、「スウェーデンはウクライナの防空を強化するために新たな軍事能力を供与する。第１６パッケージは、総額１１．６億ユーロのスウェーデン最大の軍事支援パッケージである」と書き込んだ。 そして同氏は、スウェーデンはウクライナに「ＡＳＣ８９０」早期警戒管制機を送ると発表した。 その際同氏は、「『ＡＳＣ８９０』は、ウクライナに空中・海上両方の目標に対する新しい能力を提供する。ウクライナの長距離標的識別能力が強化される。同機は、『Ｆ１６』導入とともに、戦力増強の役割を果たす。ＡＭＲＡＡＭ（編集注：空対空ミサイル）も供与される」と伝えた。 ASC 890 will provide 🇺🇦
【解説】 ウクライナ、開戦以来最悪の状況に直面＝BBC国際編集長 - BBCニュース
第2の都市で、ロシアに近い北東部の高地にあるハルキウは、あらゆる意味で空からの攻撃に対して無防備なのだ。
配偶者年金の廃止に慎重論 対象700万人、公平性は課題 - 日本経済新聞
厚生労働省の審議会は13日、会社員らの配偶者が年金保険料を納めずに基礎年金を受け取れる「第3号被保険者制度」について議論した。同制度には公平性の観点などから批判が根強いものの、対象者はなお700万人超おり、厚労省は廃止には慎重だ。専業主婦（主夫）や配偶者の扶養のなかで働く人は、年収106万円未満などの場合は、保険料を払わなくても老後の基礎年金を受け取れる。給付と負担のバランスの点では批判がある
DifyとローカルLLMを使用して複数のエージェントを設定して議論する方法 - Sun wood AI labs.2
この記事では、DifyとOllamaを使用してローカルLLMを構築し、複数のLLMエージェントを設定してAIが社会に与える影響について議論を行い、その結果を記事として生成する手順について説明します。 前提条件 Ollamaをローカル環境で起動しておく必要があります。起動方法については、こちらを参照してください。 Download Ollama on WindowsDownload Ollama on Windowsollama.com Ollama モデルファイル注意: Modelfile の構文は開発中です。モデルファイルは、Ollamaでモデルを作成・共有するための設計図です。おススメ記事フォーマットModelfile のフォーマット:# コメントINSTRUCTION 引数インストラクション説...hamaruki.com2024.05.28 モデルプロバイダーの追加 モデルタイプを
官房機密費「盆暮れ対策で一定額が届く」 元衆院議長秘書が暴露 | 毎日新聞
平野貞夫元参院議員は27日の衆院政治改革特別委員会に参考人として出席し、領収書不要の「内閣官房報償費」（官房機密費）について、自身が前尾繁三郎衆院議長（在任1973～76年）の秘書を務めていた頃、前尾氏の私邸に「盆暮れの対策」として一定額が届けられていたと明らかにした。 参考人質疑は政治資金規正法改正論議の一環として実施。平野氏は機密費の使途について問われると、政界入り前に衆院事務局職員として前尾衆院議長の秘書を務めたと説明し、「突然、官房長官が議長の私邸に一定の額、盆暮れの対策として機密費を（現金で）持ってきた」と語った。前尾氏は官房長官が帰った後、「こういうことするから民主主義が育たない」と語り「廊下に（現金を）ほっぽり出した」という。 対応に困った平野氏は現金を袋に入れて国会に持ち帰り、当時の上司に相談した。上司は「4～5年前からそんなことがあるらしい。やらないわけにはいかないから、
北欧の医療は質も保障も充実だが「アクセス性」にやや欠ける？（漫画「北欧ふたりぐらし」）～医療のトリレンマとは？ - INVISIBLE Dojo. ーQUIET & COLORFUL PLACE-
まず、この作品について…「ヤングアニマルZERO」に連載されているのだった！そして、実は迂闊なことに、例のサブスク「ブックウォーカー」に入っていたのに、雑誌ごと読んでいなかったんだ！ （あとからサブスクに加わったのか、こちらが見落としていたのかは不明） bookwalker.jp 例の移籍作品「創世のタイガ」や「拳闘士セスタス」って、ここ連載じゃん。読み逃してたのは大損だったと言わざるを得ない。そして、こういう、登場人物はフィクションらしいけど「北欧ルポ」的な漫画があるって話、どこかで聞いてたんで「あー、これか、そしてこので連載してたのか」と、そんな印象。 で、雑誌のほうでも読み始めて、面白かった回を紹介しようとしたら、ちょうどヤングアニマルWEBでの無料公開中だった、と。 話は単純で、スウェーデンで暮らす日本人カップルの、男性のほうが病気になる。医者に掛かろうとして、一連のムーブの中で日
年度初めの那覇市役所を襲った全庁規模の通信まひ、原因はたった1本のLANケーブル
「業務システムにもインターネットにもつながらない」。始業直後に報告されたネットワーク障害は、瞬く間に庁舎全体に広がった。システム部員はすぐに原因究明に乗り出した。 どこにも挿さらず放置されているLAN（Local Area Network）ケーブルと、そのすぐそばにポートが余っているスイッチを、ネットワークに関する知識のない人が見つけたらどうするだろうか。「何かの拍子に抜けてしまったに違いない」と、挿してしまうかもしれない。こうした親切心からループが生じ、その影響でネットワーク全体がまひすることもある。 新年度が始まる2024年4月1日朝、那覇市役所全体が突然ネットワーク障害に襲われた。トラブル解決の陣頭指揮に当たったのは、ネットワーク機器の運用を担う情報政策課の伊覇太課長だ。トラブルをどう脱出したのか。経緯を詳しく見ていこう。 「何もできない」と職員が駆け込む 地上12階・地下2階建ての
Google Cloud、顧客のシステムを間違って全削除した大規模障害の原因を報告。プライベートクラウドの期間を1年と設定ミス
Google Cloudは、同クラウドユーザーであるオーストラリアの年金基金「UniSuper」で発生した大規模障害の原因について報告する記事「Sharing details on a recent incident impacting one of our customers」を公開しました。 今月（2024年5月）初旬、Google Cloud上で稼働していた数百の仮想マシン、データベース、アプリケーションを含むUniSuperのプライベートクラウドが突如として原因不明のまま削除され、復旧されるまでの数日にわたってシステムが利用できなくなるという大規模障害が発生しました。 今回の報告では、実際になぜこのような大規模障害が発生したのか、その原因と復旧の経緯について明らかにされています。その概要を紹介しましょう。 Google Cloud VMware Engineの設定を間違う UniS
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
[第86話] 九龍ジェネリックロマンス - 眉月じゅん | となりのヤングジャンプ![[第86話] 九龍ジェネリックロマンス - 眉月じゅん | となりのヤングジャンプ](https://cdn-ak-scissors.b.st-hatena.com/image/square/37ad09be5abb18d7b40b5df412eeedd461ef4246/height=288;version=1;width=512/https%3A%2F%2Fcdn-img.tonarinoyj.jp%2Fpublic%2Fseries-thumbnail%2F10834108156705513880-498c31a0112ff80212347bd5e27cbde1%3F1653490648)
React 19を概念から理解する
