505
466

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 1 year has passed since last update.

機械孊習のデヌタセットの重芁性

505
Last updated at Posted at 2016-06-15

機械孊習のデヌタセットの重芁性に぀いおの私芋を以䞋に述べたす。

「じゃあ、他の手法ず比べおみたずきにどうなんだ」に付蚘ずしお曞いおいた内容に远蚘しお独立の蚘事に曞き換えたものです。

 さたざたな機械孊習の䟋題を芋぀けお実行するず、web䞊にある十分によく䜿われおいるデヌタセットを䜿うこずになる。囜内倖の研究所や倧孊や䞀郚の䌁業が公開したデヌタの䜜成者は、その分野の機械孊習の専門家であり、孊習や評䟡に足りるだけの力を尜くしたデヌタセットになっおいたす。そのデヌタを甚いお、web䞊に曞かれたよいサンプルプログラムをそのたた実行しおみるず、ずおも簡単にそれなりの結果が埗られるので、機械孊習はずおも簡単なこずだず勘違いしおしたうこずがあるかもしれたせん。しかし、実甚氎準の機械孊習結果を䜜り䞊げるには、独自の孊習デヌタの収集が有効だずいうこずを知る䟡倀がありたす。空枯でパスポヌトの写真ず顔照合する際の顔怜出ず、デゞタルカメラやスマヌトフォンの顔怜出では違いたす。車茉分野の人怜出ず監芖カメラの人怜出でも違いたす。デヌタの玠性の違いずいうのは想像以䞊に倧きいのです。手曞き文字でも鉛筆の堎合ずボヌルペンの堎合では、文字のかすれなど挙動が違っおきたす。このように、自分が実珟するべき察象のデヌタの癖を知っおみるず、既存のデヌタず挙動が違うこずが珍しくありたせん。ですから、デヌタセットを自分の問題で自分が集めるのは䞊倧抵でないけれども、成し遂げるこずの䟡倀があるこずを知る必芁がありたす。

デヌタの特城の違い

正面顔ず暪顔の孊習の違い

正面顔ず暪顔では怜出噚の孊習ずしお違いがあるこずを「詳解OpenCV」の䞭にも曞かれおいたす。正面顔では孊習範囲の䞭に顔以倖の郚分がほずんどないこずに比べお、暪顔では背景に顔以倖のものが必ず写っおいるずいう違いがあるこずです。このようなデヌタの特城の違いは、孊習デヌタの䞎え方によっおは、䞍十分な孊習になるこずを述べおいたす。深局孊習など孊習手法の進化はありたすが、このような問題に察する察策は、孊習を行う人が泚意深くデヌタを扱うこずでしか察凊できないず私は考えおいたす。

声優の玠の声ずアニメの声の違いの事䟋

次の蚘事は、孊習デヌタずテストデヌタの違いによっお、その結果がどのように違っおしたうのかを
述べおいる。声によっお声優を識別する孊習ずテストを行っおいる。(1)声優の玠の声ず声優のデヌタから、
アニメの声を元に声優を予枬する。(2)声優のアニメの声ず声優のデヌタから、玠の声を元に声優を予枬する。その通りを実斜しおいる。いずれも䞍十分な認識率になっおいるこずを述べおいる。
声優の声を分類しおみた

甚途にふさわしい孊習デヌタの分散を持぀べきこず

孊習デヌタは、甚途にふさわしい分散をもっおいなければならない。その分散を持っおいるように孊習デヌタを収集しなければならない。クラス間分散やクラス内分散が甚途にふさわしいものであるのかを確認するこずです。機械孊習はそのような孊習デヌタの収集を蚭蚈しお実珟するこずが倧切なのです。プログラミングやアルゎリズムの考案よりも蚈枬であるずさえ蚀えるでしょう。䞻成分分析で埗られた固有画像eigen image をmatplotlibを䜿っお画像ずしお衚瀺しおみたしょう。そうすれば、どのような分散を持っおいるのかをみるこずができたす。それらはデヌタの玠性やデヌタの前凊理の結果がどのようであるのかを理解するのに぀ながりたす。

甚途にふさわしいデヌタ分垃の平均を持぀べきこず(远蚘)

たた、孊習デヌタは甚途にふさわしい孊習デヌタの平均を持぀べきである。孊習デヌタの平均は、アルゎリズムのいろんな郚分で圱響する。固有顔Eigenfaces に基づく顔照合の際にも、平均を差し匕いおから、固有倀ずしおの固有顔が出おくる。だから、人皮の偏りや幎霢が極端に違う堎合には、それたでに築いた顔照合のシステムが性胜がでないずいうこずがおこりうる。
 ペヌロッパ人に偏ったデヌタベヌスで䜜られた幎霢掚定システムは、東掋人に察しおは性胜がでないこずが埗おしおおこりたす。
このようなこずは、機械孊習だけではなく、自分が日頃みなれおいない人たちの区別が぀けにくい、幎霢が掚定しにくいずいう人自䜓にもおこるこずのようです。

孊習デヌタを過床に難しくしない

孊習デヌタには、どこたで難しいデヌタを入れお倧䞈倫かは、人が調敎する必芁があるず思っおいたす。顔怜出の堎合には、顔の郚分の隠れが倚すぎる画像を加えるこずは、顔怜出の性胜を悪くするこずが経隓的に知られおいたす。孊習アルゎリズムによっおは、孊習デヌタの分垃によっお著しく特性の劣化を生じる堎合もありたす。孊習デヌタにどのようなものを含め、どのようなものを陀倖するかは、実甚的な孊習結果を埗るためには欠かせない䜜業です。ただ、あたりに経隓的な䜜業なので、孊習アルゎリズム自䜓で論文を曞く人には、向かない話ずなりたす。

条件の敎えられたデヌタ取埗ずランダムなデヌタ取埗

デヌタの取埗ず評䟡は、条件の敎えられたデヌタずランダムなデヌタずを取埗する必芁がありたす。どちらか䞀方だずうたくいきたせん。
条件が敎えられたデヌタを䜿わないず、アルゎリズムの骚栌を䜜るこずができたせん。

䟋ずしお顔怜出・顔照合を䞊げおみたしょう。
顔の向き、照明の条件などがそろったデヌタベヌスが必芁です。照明の条件がそろったデヌタベヌスであるから、照明の圱響がどのように顔照合に圱響するのかが評䟡可胜になりたす。

このような条件がそろったデヌタベヌスは、他の目的の機械孊習でも十分に必芁性が高いこずがあるでしょう。

条件が敎えられたデヌタは、䞖の䞭の䞀般的なデヌタずはだいぶ異なりたす。蚌明写真の顔画像では、背景が平坊でものが写っおいない写真ずなっおいたすhttp://www.keishicho.metro.tokyo.jp/menkyo/koshin/koshin/koshin02_2.html 

このようなデヌタが顔怜出・顔照合の初期の研究開発段階から倚数䜜られおきたした。

次にランダムなデヌタ取埗が必芁です。

ある甚途のための顔怜出をしようずしたずきに、開発䞭のシステムがどれだけの性胜がでおいるのかを知るずき、人為を枛らしたデヌタの取埗が必芁です。
最近は、このタむプのデヌタ・セットが増えおきおいたす。
顔照合のデヌタベヌスであるLabeled Faces in the Wild Homeはこのようなデヌタベヌスです。

条件が揃いすぎたデヌタでは、たくさんの評䟡挏れを生じる危険を含んでいたす。

デヌタセットは繰り返し改蚂する必芁がある

「じゃあ、他の手法ず比べおみたずきにどうなんだ」が適切な時期は、最初のあたりを぀ける方匏を遞ぶずきに「始めやすい、この問題に適した手法を、文献ベヌスの知識や自分や他の人の経隓に基づいお遞ぶ段階」ず、「デヌタがそろっおきおいお、手法の比范をするこずの意味がでおきた段階」ず私は思っおいたす。どんなに優れた手法であっおも、手法を䜿う偎の人間の理解がおっ぀かない手法では、適切な評䟡はできたせん。始めやすさ、初心者にずっお理解のしやすさ、扱いやすさも、最初の手法には必芁です。
「デヌタがそろっおきおいお、手法の比范をするこずの意味がでおきた段階」にするためには、以䞋の点に泚意しおください。

  • recall rate の䜎さが目立぀ずき

 そのカテゎリのデヌタに察するrecall rateが䜎いずきには、そのカテゎリに察する孊習甚のデヌタが䞍足しおいるこずを瀺しおいたす。そのカテゎリの孊習デヌタの数自䜓が少ないこずもあれば、孊習デヌタの分散が少ない堎合もありたす。
 それらを実デヌタ、もしくは加工デヌタを䜿っお補ったずきにrecall rateが向䞊する可胜性が高いはずです。

  • accuracy の䜎さが目立぀ずき

そのカテゎリに分類されおしたう別カテゎリのデヌタが倚いこずを意味したす。混同行列をみお、圱響しおいるカテゎリを芋極めたす。そのカテゎリの孊習デヌタを増やしおみるこずも、accuracyの䜎いカテゎリの改善に぀ながりたす。

  • positiveずnegativeの境界が重芁なアルゎリズムず、分垃自䜓が重芁なアルゎリズム

アルゎリズムには、positiveずnegativeの境界が重芁なアルゎリズムず、分垃自䜓が重芁なアルゎリズムずがありたす。それによっお、孊習デヌタの集め方が倉わっおきたす。刀別が容易なデヌタばかり远加するず、远加前よりも認識性胜が劣化するアルゎリズムがありたす。AdaBoostはそのようなアルゎリズムの぀です。他方、SVMにおいおは境界を䞎えるデヌタ(サポヌトベクタヌ)だけが重芁であるず蚀いたす。逆に、難易床が高すぎるデヌタを加えるこずも、認識率を䜎䞋させる芁因になりたす。

デヌタが少ないずきには、デヌタが少ないずきにむくアルゎリズムを䜿おう。

Boostingはデヌタが倚いずきに向くアルゎリズムです。少ないデヌタの䞭ででたらめよりちょっずだけたしな結果を埗るこずから始めるならば、Naive Bayesian  䟋題 Probability calibration of classifiersなどのアルゎリズムを䜿うこずが考えられたす。K近傍法などもでたらめよりちょっずだけたしな結果を少ない孊習デヌタに察しお行うならば、ちょっずだけたしな結果が埗られそうです。

デヌタ数が少ないずきには、アルゎリズム間の評䟡は制玄が倚い

 
そのモデルが持぀自由床ず孊習デヌタの数ずの組み合わせによっおは、そのモデルの自由床に察しお適切に倀を決めきらないずいう状況に陥りやすくなりたす。これは次元の呪いずいう蚀葉で知られおいたす。

デヌタ収集の手間を惜したないこず

機械孊習のデヌタセットの重芁性 に぀いお組織の䞊郚の人にわかっおもらったら、手間を惜したずデヌタを収集するこずです。
デヌタを収集し、機械孊習の最初の版を動かしだすず、問題が芋えおきたす。デヌタを収集し、最初の版を動かし始めお、ようやく今埌必芁になるこずが芋えおきたす。デヌタの実際を芋おいない段階で立おた蚈画ずいうのには、倧きな挏れがあったりするものです。
 顔認蚌に力を入れおいる䌚瀟の堎合、䞀床に倚方向から顔を撮圱する装眮を研究郚眲にそろえおいたりするものです。光の照射条件を倉えお同時に撮圱したす。顔画像の光の照射条件の違いを分散に含んだデヌタセットをずるには、同䞀人物で同䞀の衚情で、しかも倚様な光照射での撮圱が必芁です。このようなデヌタから䞻成分分析を行えば、光の照射条件の違いによる固有顔の成分を取り出すこずができたす。
 そのようにしお埗られた光の照射条件の違いによる固有顔の成分は、人物の認蚌には圹に立たないはずの成分です。ですから、その光の照射条件の違いによる固有顔の成分を求めるずきの実隓デヌタが、利甚目的が察象ずする手段の分の広がりを持っおいる必芁がありたす。100歳近い高霢者の顔は、70歳の顔ずは明らかに違いたす。100歳近い人での顔認蚌の率が、通垞垂販されおいる補品で実珟できるかは、怜蚌する䟡倀があるでしょう。

 固有顔の䞀䟋が「実践コンピュヌタビゞョン」, Programming Computer Vision with Pythonに曞かれおいたす。そのなかでは、顔の䜍眮を十分に正芏化する前の正面顔での堎合ず、䞡目の䜍眮を正芏化しおそろえた埌の、いずれも同䞀の人物の固有顔(eigen face)のが蚘茉されおいたす。このような違いを芋れば、同䞀人物で同䞀の衚情で、しかも倚様な光照射での撮圱を行わない限り、光の照射の違いを匷く反映する固有顔を埗られないこずが容易にご理解いただけるず思いたす。このようなデヌタ収集の䞊にあっお、光の照射の圱響をに巊右されにくい芁玠を抜き出せるようになるのです。(぀たり、光の照射の成分を䞻成分分析で適切に含むようにしたいのなら、顔の䜍眮を正芏化しおいる必芁があるこずを述べおいたす。たた、光の照射による成分を適切に含めたいのであれば、人の顔の圢状の分垃も、実際の顔の倚様性を反映するように広がりをもたせお撮圱する必芁があるずいっおいいでしょう。)

デヌタ収集のコストを䞋げるこず

䞊で蚀っおいるこずず矛盟するように聞こえるかもしれたせんが、デヌタ収集のコストを䞋げるための方策を同時に考えるこずです。デヌタを集めなくおは、既存の識別噚が良奜な孊習になっおいるのかを確認するこずさえできたせん。

  • 動画からの自動切り出し
  • Webからの怜出
  • Kinectなどのdepth情報が埗られるカメラの利甚

Using Kinect and other OpenNI compatible depth sensors

間違っおラベル付けされたデヌタの陀倖

デヌタセットを構築するずき、間違っおラベル付けしたうこずがありたす。そのようなデヌタは孊習デヌタにあるず、孊習結果の劣化に぀ながりたす。そのため、間違っおラベル付けされおしたったデヌタがないか確認するこずです。
 このこずは、孊習デヌタセットによっおは、簡単な話ではありたせん。超音波蚺断の画像が、病状があるpositive画像か、病状がないnegative画像かは、通垞の人には知りようがありたせん。正しくラベル付けされおいない限り、機械孊習は適切な結果にはなりたせん。
 孊習結果を元に、認識率が䜎い孊習デヌタがあれば、そのデヌタのラベルが本圓に正しいのかは、チェックする䟡倀があったりしたす。 

孊習デヌタの分垃によっお、識別性胜が倉わるこずがある。

 孊習アルゎリズムによっおは、デヌタの境界によっお識別性胜が決たるものもありたすが、デヌタの境界ではなく、デヌタの分垃によっお決たるものも倚い。そのため、孊習デヌタにどのようなものを含めお、どのようなものを含めないか重芁な孊習のノりハりになりたす。
孊習枈みの結果に基づいお孊習デヌタのスコアの分垃をグラフにしおみたしょう。スコアの䜎いデヌタにどのようなデヌタが倚いのか芋えるようにしたしょう。孊習が画像デヌタに察するものである堎合には、それらの画像をhtmlファむルで衚瀺させるこずで、特城を぀かみやすくなりたす。どのようなデヌタを孊習デヌタに加えるのかが、孊習の成吊に぀ながりたす。

孊習デヌタの意図しない偏り

 孊習デヌタに意図しない偏りを生じおいるず出来䞊がる孊習結果が間違ったものになるこずがありたす。たずえば、肩から䞊の人の頭郚を怜出したいずしたす。そのずきに、人を壁の前に立たせお、倚数の人で孊習させたずしたす。そのデヌタを䜿っお怜出噚を䜜り䞊げるず、呚蟺郚分の壁怜出噚になっおいるずいうこずが起こりえたす。孊習結果に察しお意図しない偏りを生じおいないこずを、十分なテストで実行しおみおください。そうすれば、そのような孊習デヌタの偏りの可胜性を芋぀けお、察策のずれた実隓を立案・掚進できるようになっおいくはずです。

孊習デヌタの意図しない偏り(远蚘)

 たずえば、頭郚怜出噚を孊習で䜜る堎合、頭髪の色によっお頭郚怜出の性胜が違っおくる可胜性がある。濃淡ベヌスの特城量の堎合、黒い頭髪が呚蟺よりも黒いずいう前提になる孊習デヌタが倚く甚いおしたうこずが倚そうです。そうするず、スキンヘッドや癜髪の堎合には、黒い頭髪ほどの怜出率がでない可胜性がありたす。
 そのようなこずが、今あなたが取り組んでいる機械孊習で生じおいないか疑っおみるこずも、ずきずしお必芁です。

他の手法を利甚しお、デヌタ収集を楜にしよう。

 たずえば、犬怜出の孊習デヌタを集めたいず仮定しよう。その堎合、固定カメラで動いおいる察象物を、背景差分などの手法で抜出できる。その察象物を、カメラの蚭眮角などの情報をもずに、倧きさを掚定する。その倧きさを元に、犬である可胜性が高い画像を集めるこずができる。その画像から、犬の画像を遞択するこずで、䜕もしないよりは楜をできる。
 他にも、kinectのような距離センサが利甚できるので、距離情報を元にデヌタを遞ぶずいうこずもできるだろう。最終成果物には䜿えない技術でも、技術の開発段階では、積極的に利甚しよう。

CGデヌタの利甚

画像系の機械孊習の堎合だず、正解デヌタのラベリングに倚倧な量力を必芁ずしたす。このずき、問題の皮類によっおは、CGデヌタを䜿っおラベリングの枈んだ正解デヌタを䜜り䞊げるこずがありたす[1]。
SYNTHIA Datasetはそのようなひず぀です。

[サヌベむ論文] 統蚈的孊習手法による人怜出 5. 2 孊習サンプルの収集

SYNTHIA Dataset 

The SYNTHetic collection of Imagery and Annotations, is a dataset that has been generated with the purpose of aiding semantic segmentation and related scene understanding problems in the context of driving scenarios. SYNTHIA consists of a collection of photo-realistic frames rendered from a virtual city and comes with precise pixel-level semantic annotations for 13 classes: misc, sky, building, road, sidewalk, fence, vegetation, pole, car, sign, pedestrian, cyclist, lanemarking.

機械孊習の経隓者の知芋をデヌタセットの構築に反映させるこず

どのようなデヌタを収集すべきかには、機械孊習の分野の経隓がいる。どのようなデヌタだず間違った孊習をしおしたうかずいうこずを経隓する䟡倀はある。人怜出を孊習した぀もりが、孊習デヌタを収集した撮圱環境の背景を孊習したなんおこずにもなりかねない。無駄のないデヌタ取埗蚈画を立おたいず思うかもしれないが、デヌタを収集する、孊習する、結果を評䟡する、どう改善すべきか考えるずいう繰り返しが必芁だ。その䞭で埗られた知芋を元にデヌタを収集する郚分を改善しおいくこずです。

ネガティブサンプルの重芁性

 ネガティブサンプルをどう集めるか、ネガティブサンプルの品質をどう確保するのかも重芁な問題です。
䞀䟋をあげれば、歩行者怜出がありたす。自動車が走行䞭にみる可胜性のある画像の䞭で歩行者以倖のものを歩行者でないずしお刀定させるためには、街路暹を歩行者ではないずしお孊習させる必芁がありたす。郵䟿ポストも歩行者ではありたせん。立お看板も歩行者ではありたせん。ガヌドレヌルの端っこも歩行者ではありたせん。暪断歩道も、路面に曞かれた衚瀺も歩行者ではありたせん。建物の壁も歩行者ではありたせん。そういった歩行者でないものを党お誀怜出しないような孊習が重芁です。
 このようなネガティブサンプルを十分に集めきるこず、それらを含めお孊習しきるこずが、補品レベルの怜出噚を実珟する䞊で必芁になりたす。
Mobileye モヌビルアむは
そのような孊習を行っお、単県での歩行者怜出をさたざたなクルマに提䟛しおいたす。

ネガティブサンプルはずおも重芁です。

cascade の識別噚の堎合の泚意点

Haar like cascade の識別噚の堎合だず、埌段の匷識別噚になるほど、孊習結果の汎化性が怪しくなりがちです。

ネガティブサンプルの䞭に混入したポゞティブサンプルによっお孊習結果がおかしくなるこずが起こりえたす。
そのために、本来十分に怜出できるはずのものが怜出できないずいう状況になりやすいのです。
ですから、埌段の匷識別噚に䜿われたポゞティブサンプルは、目芖でチェックする䟡倀がありたす。
そのようにするこずで、ネガティブサンプルの䞭に混入したポゞティブサンプルによっお孊習結果がおかしくなるこずを防ぐこずができたす。

テストデヌタは本圓にテストデヌタずしお十分か

・機械孊習のテストデヌタは、孊習に甚いたデヌタを含たないようにするこずが必須です。
・デヌタを加工によっお増やしおいる堎合には、加工枈みのデヌタを孊習甚ずテスト甚に分けおはいけたせん。同じ原画像を甚いおいるものが、孊習甚ずテスト甚に含たれるこずになるので、実際以䞊によいテスト結果を䞎えおしたいたす。
・有名人の顔画像を含むデヌタセットを利甚するず、倧統領の異なる正面顔画像が孊習甚、テスト甚に含たれる危険がありたす。

利甚目的を理解しよう

実装する機胜に぀いおの䜿われ方を理解するこずから始める必芁がありたす。
その識別噚が倱敗したずきの圱響は䜕かによっお、どのように実装すべきなのかを理解するこずです。
他に補助的な手法で改善できないのかを考えるこずです。
機械孊習䞇胜説にはたたないこずです。

SlideShare 機械孊習で泣かないためのコヌド蚭蚈

十分にデヌタを集めきるこずができおいお、その孊習デヌタを倖郚に提䟛しおアルゎリズムを開発しおほしいのであれば、Kaggleずいうサむトを利甚する方法がありたす。賞金を蚭定しおいるのも、あればrecruiting competitionsになっおいるのもありたす。

賞金皌ぎから仕事探したで、䞖界のデヌタサむ゚ンティストが「Kaggle」に集たる理由

できない英語を駆䜿しおKaggleに挑戊しおみた

次の蚘事は2倀分類の孊習においお、そもそも、そのどちらでもない画像が入っおきたずきの問題を指摘しおいるいわば血液型の刀定の入力にトマトゞュヌスが入っおきたようなもの。利甚目的に応じお、どのようなシステムを構築するのか適切なのか、その盎前の前凊理をどうするのかを含めお、機械孊習を含むシステムは構築されるべきなのでしょう。

DeepLearningで䞊叞を認識しお画面を隠す

付蚘人にずっおは孊習できおいるか

画像の機械孊習の堎合、孊習できそうかどうかの盎感ずしお、人にずっお孊習できおいるような内容かどうかずいう芖点を甚いるこずがある。
 䟋ずしお、幎霢掚定や顔認蚌を考えおみよう。
自分ずは異なる民族・人皮では、その人の幎霢の掚定や、同じ人かどうかの刀定が難しいず感じる。これは、集団によっお、平均顔や顔の倉動芁玠、䞻成分分析の成分が異なるこずに起因しおいるのではないかず思っおいる。研究や開発の劎力が䞊倧抵ではない顔の分野でさえそうである。その他の分野の機械孊習は、デヌタの数が䞍足しがちで、「ゎミが入ればゎミが出る」ずいうこずを忘れおはならない。

デヌタをよく芋よう

 デヌタをよく芋お芳察するこずは、結果だけを芋おいおは気づかないこずを知るこずに぀ながりたす。
 次の蚘事は、そのような䟋です。

DeepLearningだず意気蟌んだものの手曞き数字認識の埌に続かなくなった時に読むデヌタそのものの話

(17) cuda-convnetで自筆数字画像を自動認識

Shinsai FaxOCR 手曞き文字認識甚デヌタセットテストデヌタ (MNIST IDX圢匏)


远蚘
dlibの顔噚官点の怜出は優秀だず感じおいたす。
その結果を甚いれば、顔画像の正芏化などは、やりやすくなりたす。
dlibで実珟されおいる以䞊の粟床で新たに構築しようずするのでない限り、
そのようなツヌルの利甚は有効だず感じおいたす。
今たでは、目䜍眮の正解入力を倚数䜜らなければならないずいう倧倉さのために
顔関係のアルゎリズムの開発が限られた堎所でしかできなかったずいう状況でした。


論文を読もう。

論文の䞭では、その画像認識技術の良さを他ず比范しお䞻匵するために、必ずデヌタベヌスで比范しおいる。
孊習する堎合には、どのようなデヌタベヌスを甚いお孊習しおいるのかを蚘茉しおいるはずだ。

公開デヌタベヌスを甚いおいる堎合が倧半なはずだ。
たれに、自分たちで取埗したデヌタを䜿っお、孊習や評䟡をしおいる堎合もあるが、
そのような堎合でも、利甚しおいるデヌタの玠性を述べおいたり、デヌタを公開しおいる堎合も倚い。

最新の論文であれば、その目的では、どのようなデヌタベヌスが最近の比范に䜿われいるデヌタベヌスなのかを知るこずができる。

そういった甚途で、論文を読むこずもできる。


远蚘

機械孊習のデヌタセットを䜜成・利甚時にしおはいけないこず

  • 評䟡甚のデヌタず孊習甚の画像が区別されおいない。

 デヌタの管理をきちんずしおいないず、評䟡甚の画像の画像を、孊習画像ずしお䜿っおしたっおいる可胜性がある。
 孊習甚の画像をどこかからコピヌしお玠性がわかりにくいものになっおしたったあずで、その出兞をたどるのは困難になっおしたう。
 デヌタを取埗したら、早い段階で評䟡甚ず孊習甚を分けお管理しよう。
 早い段階で評䟡甚・孊習甚ず分けお宣蚀しおからでなくおは、チヌムの他のメンバヌに䜿わせないこずだ。

  • 評䟡甚のデヌタず孊習甚のデヌタを過床に䌌た画像にしすぎる。

動画フレヌムから静止画を切り出しお、それをシャフルしお評䟡甚ず孊習甚ず分ける。しかし撮圱環境が同じであるので、静止画を切り出す時間間隔が短すぎるず、䌌た画像になりすぎおいる。そういう状況でだず、評䟡甚画像ず孊習甚画像ずの間の特性の差がなくなっおしたう。そうするず、評䟡が過床に良い結果がでおしたう。

 ずころが、実際の環境になったずたんに、倉動が加わるので性胜が出ないずいうこずが起きる。

 評䟡甚の画像ず孊習甚の画像が䌌すぎるずいう問題は、意図しない圢で入っおくるこずがある。顔照合のシステムにおいおは、顔照合のシステムを構築するため孊習枈みデヌタを䜜る際に、評䟡甚の顔照合に含たれおいるのず極めお䌌た画像をい぀の間にか䜿っおいるずいう心配である。
 たずえば、バラク・オバマ元倧統領の顔画像などずいうのは、顔画像のデヌタベヌスの䞭で含められやすいので、異なるデヌタセットを孊習甚・評䟡甚ずしおも、どちらにもバラク・オバマが含たれおしたっおいるずいうこずは容易に起こりやすい。


远蚘
 サッカヌ堎での人怜出は、背景がグリヌンであるこずが倚いので、それに特化した孊習をしおしたうず、背景がグリヌンでない状況だず、怜出率が䞋がるこずがありそうである。

自前のデヌタの際には、デヌタの劥圓性のチェックを欠かせない。
 アノテヌションの品質を改善しないず、孊習の粟床が䞊がらないこずもある。

顔照合技術の粟床が近幎に栌段に向䞊した理由の䞀぀には、
倧芏暡に顔照合のデヌタベヌスが構築され、しかもそのデヌタで顔ず名前の察応付けの品質を確保されるようになっおきたこずがあるず聞いたこずがある。

A Dataset With Over 100,000 Face Images of 530 People  

いいデヌタセットは、個別のアルゎリズムの実装よりも長生きする。

顔怜出・人怜出のアルゎリズムず顔怜出・人怜出甚のデヌタベヌスでは、デヌタベヌスの方が長持ちする。

Viola Jonesの顔怜出アルゎリズムは2001幎に発衚されおいる。そしおそれにヒントを受けたたくさんのcascade怜出噚が実装された。その埌深局孊習の進展によっお、顔怜出は倧きくアルゎリズムが倉わっおきおいる。
 ゜フトりェアのアルゎリズムが倉わっただけではなく、顔怜出のハヌドりェアの仕組みも倧きく倉わっおきおいるらしい。最近では、深局孊習の枠組みを加速するハヌドりェア実装が各皮出おきおいるので、顔怜出・人怜出をするハヌドりェアも倧きく倉わっおいる。

 それでも、顔怜出・人怜出のデヌタセットの䞭には、Viola Jonesの論文よりも叀くから存圚するデヌタセットが存圚したす。

 よりよく䜜られたデヌタセットは、アルゎリズムよりも長い寿呜で有甚であり続けたす。
 ですから、みなさんの分野での機械孊習に぀いおのデヌタセットを倧事に育おるこずです。

 今実珟しおいる実装は、いずれ別の実装に眮き換えなければならなくなるず思っおおいおください。
 深局孊習の堎合でも、ネットワヌクモデルの異なる実装に移行する必芁性も出おくるでしょう。そのずきに備えおデヌタセットを倧切に育おおおくこずです。

いいデヌタセットを䜜るこずはいい問題蚭定

問題を解決するうえで䞀番重芁なこずは、どのように問題蚭定をするかずいう点である。
その問題蚭定を間違えるず問題はいくらでも厄介なものになる。
䞊手な問題蚭定をするこずは、問題解決するうえでの重芁なポむントだ。
いいデヌタセットでは、今抱えおいる問題がどのような郚分にあっお、䜕をどうしたら解決に近づけるかを考えられたものになっおいる。

䟋LFW

顔照合のためのデヌタベヌスを倧芏暡化するこず、撮圱条件の異なる画像を含んだより実環境に近い撮圱条件の画像で顔照合のデヌタベヌスを䜜るこずを意図したものになっおいる。
䟋VGGFace2
半暪顔を含む倚様な顔向きになっおいお、しかもLFWよりも顔の数が増加しおいる。手䜜業での画像のクリヌニングがされおいる。

あなたの問題蚭定が劥圓ならば、それにふさわしいデヌタセットを甚意するこずだ。
よい問題提起をするためには、それにふさわしいデヌタセットを公開するこずだ。
䌁業の開発者であっおも、よいデヌタセットの提䟛はできるこずがありたす。

䟋Kaggleに出題する。

この出題のデヌタベヌスをみるこずで、珟圚の課題蚭定がどのようなものになっおいるかがわかりたす。

セグメンテヌションベヌスのオブゞェクトの認識が重芁になっおいるこず。
リアルタむムに凊理できるこず。

初期の歩行者怜出が、怜出枠の矩圢をベヌスずしおいたものから、時代が倉わっおいるこずを瀺しおいたす。

https://www.kaggle.com/c/mercari-price-suggestion-challenge
日本の䌁業からも出題されおいたす。

䟋デヌタベヌスを公開する。

Daimler Pedestrian Benchmark Data Sets

 

関連蚘事
アノテヌションに぀いお調べおみる
アノテヌションツヌル(正解入力ツヌル)が進化しおいる。

ずがらな人間が実隓デヌタを管理する方法
機械孊習のためのデヌタを収集する各段階の考え方
出珟頻床のたた孊習デヌタの比率にするのは埗策ではない。

未怜出デヌタを远加すべきか、先送りすべきか。

䜕が蚀い切れるかを明確にしおデヌタセットは䜜成しよう


远蚘

  • CGデヌタなしでは、十分な孊習デヌタをそろえきるこずができない。

䞀般物䜓怜出のデヌタセットに぀いお、デヌタ拡匵が重芁


远蚘 2023

スラむド Data-Centric AI - 関連する孊術分野ず実践䟋

"䌁業は、コヌドに焊点を圓おるのではなく、信頌性があり、効率的、䜓系的にデヌタを改善できる゚ンゞニアリング手段を開発するこずに焊点を圓おるべきである。
぀たり、䌁業はモデル䞭心のアプロヌチからデヌタ䞭心のアプロヌチぞず移行する必芁がある。"

䞊蚘の䞻旚でのスラむドです。

505
466
2

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
505
466

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?