メインコンテンツへスキップ
見出し画像
Photo bynanadays

AIの学習にAIが生成した物を与えるな!

    AIの学習に関して「なるほど」と納得でき、かつある意味予想通りという結果に行きつく研究成果が発表になりました。

    AIモデルが自己生成したデータで繰り返し学習すると、モデルの性能が低下していく「モデル崩壊」という現象を発見した

    今の学習とは「多数のサンプルの中から共通点を見つけていき、これぞ●●と言えるようにする」というもの。
    なのでそこに「間違い」が混入すると困るわけです。
    AIで生成されたものというのはいわば「AIが学習した結果、中には間違いを含んで出力された物」なので、その間違いばかりを学習してしまって、せっかくの学習が無駄になるわけですね。
    なので、AIの学習するサンプルの中に、AIが作成したものを入れてはいけないというわけです。

    例えば、無垢な子供たちに知識を与える教師が反日思想を持っていたら、子供たちが成長する頃にはすっかり反日という危険思想に染まってしまうというのに似ていますね。
    だからちゃんとした教師を選ばねばなりません。
    これと同じこと。

    AIや子供たちの教育は、やはり正しい導き手が必要……ということですね!

     
     
    たまに無性に書きたくなります。 最近カクヨムで作品を公開するようにしました。 https://kakuyomu.jp/users/haduki_yoshi/works 現在のタイトル 「勇者発送、承ります! 堅洲運輸アナザーワールドトランスポート」 「玖塔くん奇譚」

    あなたへのおすすめ