• はてなブックマーク
  • テクノロジー
  • 学習データに最適化されすぎて本来の目的が達成できなくなる「過学習」と同様の現象はAIだけでなく社会全体で起こっているという主張
  • Twitterでシェア
  • Facebookでシェア

学習データに最適化されすぎて本来の目的が達成できなくなる「過学習」と同様の現象はAIだけでなく社会全体で起こっているという主張

テクノロジー カテゴリーの変更を依頼 記事元:gigazine.net
適切な情報に変更
245 usersがブックマーク コメント47

    記事へのコメント47件

    • 注目コメント
    • 新着コメント
    readmemo
    readmemo スターを貰うことに特化して学習した結果、ブコメ内容がどんどん過激になり狂っていく人も過学習の結果なのかな？

    2023/01/02 リンク

    その他
    albertus
    albertus 英語が話せない、読めない、聞けない、書けないけど、TOEICのスコアは900点越えみたいなやつだね。

    2023/01/02 リンク

    その他
    m_yanagisawa
    m_yanagisawa 話はズレるが、個人的には工藤勇一氏が指摘する教育界で「手段が目的化する」という話に類似しているような感覚を受けた＞ https://kids.gakken.co.jp/parents/education/kudou_sdgs_01/

    2023/01/02 リンク

    その他
    ty356trt5
    ty356trt5 日本は早い段階で最適化しすぎて現状過学習になってる感じかな。知らんけど。

    2023/01/02 リンク

    その他
    shirontan
    shirontan プロキシの達成/未達で賞罰あるならそうなりますわよねえ

    2023/01/02 リンク

    その他
    exciteB
    exciteB 自称合理的な日本人は「情熱を持ってプロキシを追い求める」話が大好きだからな。今後は「過学習の馬鹿」と言えばいいのか。

    2023/01/02 リンク

    その他
    Iridium
    Iridium 政治システムへの過剰な適応とか、投資システムへの過剰な適応とかいろいろ言えそう。「もともとのデザインではそこまで考えてなかった」というレベルにまでなっていることが多い。

    2023/01/02 リンク

    その他
    peketamin
    peketamin わからんではないけどいささかハンマー釘的な見方にも思えるが、対策案がこの抽象からこそ類推されるアイディアだったので面白かった

    2023/01/02 リンク

    その他
    versatile
    versatile 広告がこれだよね。PV あげることが目的の異常なクリエイティブ。アプリDLが目的の過剰なリワード

    2023/01/02 リンク

    その他
    filinion
    filinion 「企業や個人がシステムに過剰に適応」という現象は確かにあるが、現実社会にはその逆、有力な企業や個人がシステムの方を自分に有利に改変してしまう現象（レントシーキング）があることを考えないと片手落ちでは。

    2023/01/02 リンク

    その他
    sadah
    sadah “Sohl-Dickstein氏は機械学習における過学習について、グッドハートの法則との類似性を指摘します。グッドハートの法則とは「成果を測るための尺度が目標になってしまうと、成果測定自体が役に立たなくなる」という現象

    2023/01/05 リンク

    その他
    NATROM
    NATROM 医学でも似た現象がある。ゴール：糖尿病の合併症の一つである心血管疾患の発症予防、プロキシ：HbA1cの正常化、結果：全死亡の増加。ACCORD試験。ゴールは「真のアウトカム」、プロキシは「代理指標」。

    2023/01/05 リンク

    その他
    kikai-taro
    kikai-taro 上位概念として「ゴール」を敵対的生成ネットワークに放り込んでやって、なんとかできないのかな。やっぱり現実世界の人間という有機体が必要なんだろうか。

    2023/01/04 リンク

    その他
    tmatsuu
    tmatsuu 「Twitterに時間を費やしたりする」oh はい

    2023/01/03 リンク

    その他
    adsty
    adsty 過学習とはAIが最適化され未知のデータに対する予測能力が低くなってしまう現象。

    2023/01/02 リンク

    その他
    puhu208n
    puhu208n 画像生成AIが「アフガンの少女」を生成できることが分かって「AIの学習方法は人間と同じ！だから無罪！AI有償販売は合法！」厨が必死なんだよな

    2023/01/02 リンク

    その他
    sippo_des
    sippo_des 何々。賃金が上がらないのはなんの重みでペナルティにあたるん、

    2023/01/02 リンク

    その他
    gurutakezawa
    gurutakezawa 「測りすぎ」で挙げられてるような話。この手のを過学習って表現するの違和感ある。

    2023/01/02 リンク

    その他
    osakana110
    osakana110 大学受験や資格試験で過去問やれば取れる系は似たような感じよな。 問題がパターン化されてるから、理解し中でも問題を解き慣れれば試験には受かる。

    2023/01/02 リンク

    その他
    T-norf
    T-norf 1996年ぐらいに過学習の概念を学んだけど、1番一般社会において影響が大きい過学習は、バブルだと思う。んで、そのあと日本がデフレを脱出できなかったのは逆方向の過学習で、これが2番目

    2023/01/02 リンク

    その他
    versatile
    versatile 広告がこれだよね。PV あげることが目的の異常なクリエイティブ。アプリDLが目的の過剰なリワード

    2023/01/02 リンク

    その他
    momomo1234
    momomo1234 政治が腐敗するのとbias-varianceトレードオフは別の問題で後者は統計学の話である気がするのであんまり事例みてもシックリ来ないかも

    2023/01/02 リンク

    その他
    nilab
    nilab 学習データに最適化されすぎて本来の目的が達成できなくなる「過学習」と同様の現象はAIだけでなく社会全体で起こっているという主張 - GIGAZINE

    2023/01/02 リンク

    その他
    filinion
    filinion 「企業や個人がシステムに過剰に適応」という現象は確かにあるが、現実社会にはその逆、有力な企業や個人がシステムの方を自分に有利に改変してしまう現象（レントシーキング）があることを考えないと片手落ちでは。

    2023/01/02 リンク

    その他
    sds-page
    sds-page 現実世界で言う癒着って奴。データを見てモデルを見て適切なバランスは常に追求し続ける必要がある。銀の弾丸はない

    2023/01/02 リンク

    その他
    masamkur
    masamkur 承認されることが目的になるみたいな。

    2023/01/02 リンク

    その他
    strawberryhunter
    strawberryhunter 確かに伝統的日本企業と付き合うと「なんでその結論になるんだよ」と思うことがたまにある。過剰なハイコンテキストに陥っている彼らの中では大正義なので余程のデメリットが無ければスルーする。

    2023/01/02 リンク

    その他
    urandom
    urandom 過学習（と表現しうる設計の失敗）自体は存在するにせよ、機械学習で起きるくらい簡単に極端なことになるのはちょっと想像できないし、機械学習でやるような対策が一般に社会の制度設計でも役に立つとも思わない。

    2023/01/02 リンク

    その他
    exciteB
    exciteB 自称合理的な日本人は「情熱を持ってプロキシを追い求める」話が大好きだからな。今後は「過学習の馬鹿」と言えばいいのか。

    2023/01/02 リンク

    その他
    punkgame
    punkgame 目的と手段を履き違えたりとか不正に走ったりとかそういうのか。そもそも正直者が馬鹿を見るような世の中でこれを是正していくのはほぼ不可能だろうな。

    2023/01/02 リンク

    その他
    Iridium
    Iridium 政治システムへの過剰な適応とか、投資システムへの過剰な適応とかいろいろ言えそう。「もともとのデザインではそこまで考えてなかった」というレベルにまでなっていることが多い。

    2023/01/02 リンク

    その他
    yamada_1221
    yamada_1221 “ゴール：よい生活 プロキシ：脳内の報酬経路の最大化 結果：薬物やギャンブル中毒になったり、Twitterに時間を費やしたりする”

    2023/01/02 リンク

    その他
    shikiarai
    shikiarai だからDXする時は一旦過去に人を全部クビにするわけ

    2023/01/02 リンク

    その他
    mkxmk
    mkxmk “ます。 ”

    2023/01/02 リンク

    その他
    otchy210
    otchy210 ゴール：アプリを活用してもらう、プロキシ：アプリの起動回数、結果：多量のプッシュ通知、みたいなやつか。

    2023/01/02 リンク

    その他
    shirontan
    shirontan プロキシの達成/未達で賞罰あるならそうなりますわよねえ

    2023/01/02 リンク

    その他
    yarumato
    yarumato “AIの訓練には目標に似たProxyを用いる。ある時点でプロキシと目標との類似性が使い果たされ、改善が停滞。理想：国民のために行動するリーダーの選出。プロキシ：投票で支持される..。現実：世論操作のうまい..”

    2023/01/02 リンク

    その他
    m_yanagisawa
    m_yanagisawa 話はズレるが、個人的には工藤勇一氏が指摘する教育界で「手段が目的化する」という話に類似しているような感覚を受けた＞ https://kids.gakken.co.jp/parents/education/kudou_sdgs_01/

    2023/01/02 リンク

    その他
    inatax
    inatax 過学習っていうのは学習データの統計的な偏りから生じるものなので、評価の方法が間違ってるのはまたちょっと違う問題な気がする。変形すれば同じ問題に帰着するのか？

    2023/01/02 リンク

    その他
    nakamura-kenichi
    nakamura-kenichi 思考が中小企業の社長やなｗ。AIの学習は特定目的の為の手段やから過学習っていう状態があるだけで、人間の学びはその広がりの先に新しい未来の可能性があったりするからな。奴隷教育したらあかんで。

    2023/01/02 リンク

    その他

    注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

    アプリのスクリーンショット
    いまの話題をアプリでチェック！
    • バナー広告なし
    • ミュート機能あり
    • ダークモード搭載
    アプリをダウンロード

    関連記事

    学習データに最適化されすぎて本来の目的が達成できなくなる「過学習」と同様の現象はAIだけでなく社会全体で起こっているという主張

    機械学習における過学習(過剰適合／オーバーフィッティング)とは、AIが学習データのみに最適化されてし...

    ブックマークしたユーザー

    • techtech05212024/05/29 techtech0521
    • minamishinji2023/05/09 minamishinji
    • teruyastar2023/02/02 teruyastar
    • Seiji-Amasawa2023/01/10 Seiji-Amasawa
    • stang4992023/01/09 stang499
    • batta2023/01/09 batta
    • knj29182023/01/08 knj2918
    • tlo_oly2023/01/08 tlo_oly
    • misshiki2023/01/05 misshiki
    • minamiminamikita2023/01/05 minamiminamikita
    • sadah2023/01/05 sadah
    • NATROM2023/01/05 NATROM
    • nukui_ESOLA2023/01/04 nukui_ESOLA
    • tg30yen2023/01/04 tg30yen
    • kikai-taro2023/01/04 kikai-taro
    • imyutaro2023/01/04 imyutaro
    • Nnwww2023/01/03 Nnwww
    • ahat19842023/01/03 ahat1984
    すべてのユーザーの
    詳細を表示します

    同じサイトの新着

    同じサイトの新着をもっと読む

    いま人気の記事

    いま人気の記事をもっと読む

    いま人気の記事 - テクノロジー

    いま人気の記事 - テクノロジーをもっと読む

    新着記事 - テクノロジー

    新着記事 - テクノロジーをもっと読む

    同時期にブックマークされた記事

    はてなブックマーク

    公式Twitter

    はてなのサービス

    • App Storeからダウンロード
    • Google Playで手に入れよう
    Copyright © 2005-2024 Hatena. All Rights Reserved.