GPTの仕組みと限界についての考察（１） - conceptualization
GPT4が登場してChatGPTが盛り上がってますね。 本記事は、GPT（を支えるTransformerという仕組み）をChatGPTユーザにとって分かりやすく説明し、その能力と限界についての見通しをよくしよう、という趣旨になります。 少し長くなりそうなので、全部で記事を3回に分けようと思います。 （１）大まかな背景と概要：本記事 （２）GPTの能力と可能性：実際の使用例とTransformerの仕組みを踏まえて説明 （３）GPTの限界と未来展望：Transformerの仕組みが持つ限界と研究の進展を予想 GPT3と4の違い： トークン長とは何か？ まずここから話を始めます。GPT-3は、パラメータ数が750億個（850GBの容量を食う）でトークン長が4097(GPT-3.5)でした。GPT-4は、パラメータ数は非公開でトークン長は32768ですので、ちょうど8倍になります。 さて、トーク
企業技術ブログの便利な使い方のご紹介 - はてなブログ開発ブログ
昨年末にリリースした、はてなブログで開設されている企業の技術ブログを集めたページ「はてなブログ 企業技術ブログ」ご利用いただいておりますでしょうか。 staff.hatenablog.com hatena.blog iOS/iPadOSのSafariやAndroidのChromeをご利用の場合には、ホームに追加することで専用アプリのように快適にご利用いただけるようになります。 ぜひご登録いただければと思います。 追加方法 ホームに追加するメリット 1. ロケーションバーがなくなり画面が広く使える 2. ブラウザとは別のアプリケーションとして起動できる 3. 記事をアプリ内で開く風に利用できる 追加方法 iOS Safariの場合 Android Chromeの場合 シェアメニュー内の「ホーム画面に追加」 ブラウザメニュー内の「ホーム画面に追加」 ホームに追加するメリット 1. ロケーション
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
「はてなブログ 企業技術ブログ」のトピックに「データベース」を追加しました - はてなブログ開発ブログ
