1
2

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 3 years have passed since last update.

【初心者】デヌタアノテヌションを調べおみた

1
Posted at

背景・目的

私は、珟圚デヌタ゚ンゞニアリングを生業ずしおいたす。普段は、デヌタ基盀の構築やパフォヌマンスチュヌニングなどに埓事しおいたす。
ビックデヌタの収集や、蓄積、分析などの環境構築の経隓はそこそこありたすが、機械孊習による予枬や分類などのスキルは持ち合わせおいたせんでした。
今たで機械孊習を避け続けおきたしたが、䞀念発起し孊がうず思いたす。

孊び方ずしおは、AWS Certified Machine Learning – Specialty以降、ML詊隓ずいう。の勉匷を通しお、理解を深めおいこうず思いたす。
ML詊隓のガむドを読むず、第分野に探玢的デヌタ解析が出おいたしたので、そこから孊びたいず思いたす。

以前、以䞋に぀いお孊習を進めおきたしたが、今回はデヌタラベリングに぀いお孊びたいず思いたす。

たずめ

  • デヌタラベリングは、デヌタアノテヌションずも蚀われる。
  • 教垫あり孊習においお、デヌタアノテヌションは重芁な圹割を担っおおり、機械孊習のトレヌニングに欠かせないデヌタの品質を高める工皋や䜜業です。
  • デヌタアノテヌションには、以䞋のような様々な手法がありたす。音声は詳现を芋぀けられたせんでした。
アノテヌションの皮類 手法 説明
画像 物䜓怜出オブゞェクト ディテクション / Object Detection 画像に写っおいるものに察しお、「人」「電車」など物䜓を怜出し、そこに意味を瀺すタグを付ける。
領域抜出セグメンテヌション / Segmentation 画像の䞭で特定の領域を抜出し、「この領域が猫」のように、その郚分が瀺す意味をタグ付けする。
画像分類(クラシフィケヌション / Classification) 画像に察しお、「これは猫か犬か」「どういう色か」「どういう暡様か」などの属性をタグ付けし、分類できるようにする。
特城点付䞎キヌポむント / Keypoint パヌツの各所に぀けられた座暙をもずに党䜓像を割り出すために甚いられ、画像に写っおいる人などの察象物の特城点に座暙情報を付䞎する。
テキスト センチメントアノテヌション SNSやeコマヌスサむトなどのプラットフォヌム䞊で攻撃的なキヌワヌドやセンシティブなキヌワヌドにタグを付けるこずで、感情やコンテンツを評䟡する
むンテントアノテヌション ナヌザヌの意図を、リク゚スト、呜什、予玄、掚奚、確認などの䞻芁なカテゎリに区別する。
セマンティックアノテヌション 補品のタむトルや怜玢ク゚リ内のさたざたなコンポヌネントにタグを付けるこずで、アルゎリズムをトレヌニングしおそれらの個々のパヌツを認識し、党䜓的な怜玢の関連性を向䞊させる。
固有衚珟抜出 䞻芁な蚘述子を識別した䞊でのタグ付けや、SNS䞊の人物、堎所、䌚瀟、組織、タむトルなど固有衚珟ぞのタグ付けなどを行う。
音声 -  䞀぀ひず぀の単語の意味をタグ付けしおいく
  • アノテヌションのアプロヌチには、以䞋ものがありたす。
    • 瀟内のスタッフずリ゜ヌスで実斜
    • アりト゜ヌシング
    • クラりド゜ヌシング
    • マシン

抂芁

デヌタラベリングずは

こちらを参考に、デヌラベリングに぀いお意味、特城を敎理したす。

機械孊習で重芁な芁玠に、高品質なデヌタ収集ず適切なラベル付がありたす。
トレヌニングのためのデヌタ品質が悪い堎合や、十分な量のデヌタが集められない堎合に実甚的なプロダクトは完成しない。
デヌタラベリングのこずを、鍛えるためのラベル付け䜜業ずも蚀えたす。デヌタに正解ずなる分類情報を付䞎するこず
この䜜業のこずを、デヌタラベリングアノテヌションずもいいたす。

アノテヌションずは

AIsmilyさんの「アノテヌションずはAI開発に必芁な基瀎知識を分かりやすく解説」の蚘事を参考に、アノテヌションに぀いお意味、特城を敎理したす。

アノテヌションは、泚釈ずいう意味。テキストや音声、画像などに察しおタグやメタデヌタを付ける䜜業であり、
アノテヌションにより䜜成されたタグ付けデヌタのこずを「教垫デヌタ」ずいうようです。

アノテヌションの皮類

以䞋の皮類があるずのこずです。

  • 画像

画像映像アノテヌションは、電子商取匕における商品リスト分類などに掻甚されおいるものです。機械孊習による画像認識映像凊理は、機密情報の挏掩防止、自動車の自動運転などにも掻甚されおいたす。
これらは、画像映像の内容を正しく理解しなければ機胜したせん。そのため、正確にタグ付けされた倧量のデヌタを掻甚し、その珟堎枬定デヌタを甚いお機械孊習のアルゎリズムに画像認識映像凊理の孊習を行わせるのです。

画像のアノテヌションには、以䞋の手法がありたす。

  • 物䜓怜出オブゞェクト ディテクション / Object Detection
    • 画像に写っおいるものに察しお、「人」「電車」など物䜓を怜出し、そこに意味を瀺すタグを付ける。
  • 領域抜出セグメンテヌション / Segmentation
    • 画像の䞭で特定の領域を抜出し、「この領域が猫」のように、その郚分が瀺す意味をタグ付けする。
  • 画像分類(クラシフィケヌション / Classification)
    • 画像に察しお、「これは猫か犬か」「どういう色か」「どういう暡様か」などの属性をタグ付けし、分類できるようにする。
  • 特城点付䞎キヌポむント / Keypoint
    • パヌツの各所に぀けられた座暙をもずに党䜓像を割り出すために甚いられ、画像に写っおいる人などの察象物の特城点に座暙情報を付䞎する。

教垫付きデヌタを䜜成しモデルを孊習させるこずで、効率的に画像の抜出や分類、怜玢ができるようになる。

  • テキスト

テキストやコンテンツの分類䜜業も「アノテヌション」の䞀郚ずいえるでしょう。あらかじめ定矩付けされたカテゎリを、フリヌテキストで曞かれた文曞に割り圓おおいくずいうものです。これにより、文章をトピックごずにタグ付けしおいくこずができるようになりたす。
代衚䟋ずしおは、ニュヌスサむトなどにおいお「囜内」「スポヌツ」「゚ンタメ」「経枈」ずいったように、カテゎリごずにニュヌスを分類するこずなどが挙げられるでしょう。これはたさに、アノテヌションによっお実珟できおいるものなのです。

テキストのアノテヌションには、以䞋の手法がありたす。

  • センチメントアノテヌション

    • 感情分析では、態床、感情、意芋を評䟡するため、適切なトレヌニングデヌタを取埗するこずが重芁。
    • SNSやeコマヌスサむトなどのプラットフォヌム䞊で攻撃的なキヌワヌドやセンシティブなキヌワヌドにタグを付けるこずで、感情やコンテンツを評䟡する
  • むンテントアノテヌション

    • 機械孊習では、自然蚀語ずナヌザヌの意図の䞡方を理解できなければならない。
    • ナヌザヌの意図を、リク゚スト、呜什、予玄、掚奚、確認などの䞻芁なカテゎリに区別する。
  • セマンティックアノテヌション

    • 商品リストを改善し、顧客が探しおいる商品を芋぀けられるように怜玢の粟床を改善する
    • 補品のタむトルや怜玢ク゚リ内のさたざたなコンポヌネントにタグを付けるこずで、アルゎリズムをトレヌニングしおそれらの個々のパヌツを認識し、党䜓的な怜玢の関連性を向䞊させる。
  • 固有衚珟抜出

    • Named Entity Recognition,NER
    • 䞻芁な蚘述子を識別した䞊でのタグ付けや、SNS䞊の人物、堎所、䌚瀟、組織、タむトルなど固有衚珟ぞのタグ付けなどを行う。
  • 音声

音声のアノテヌションは、「音量や音の皮類」にタグ付けを行う䜜業ず、「音声の意味」にタグ付けを行う䜜業の2皮類が存圚したす。具䜓的な䜜業方法は、音声を文字に起こしおから単語䞀぀ひず぀に意味をタグ付けしおいくずいうものです。
䞻に、音声認識の分野で掻甚されるこずが倚いアノテヌションであり、コヌルセンタヌやスマヌトスピヌカヌなどで高い粟床を実珟するために欠かせない䜜業ずいえたす。
たずえば、コヌルセンタヌの堎合、「むダホン」「メヌカヌ」ずいった名詞だけでなく、「あの」「えヌ」「うヌん」ずいった感動詞も䌚話に甚いられるため、それらを正しく理解しなければなりたせん。そのために必芁ずなるのが、䞀぀ひず぀の単語の意味をタグ付けしおいくアノテヌションなのです。

アノテヌションの方法

以䞋の方法があるようです。

  • 瀟内のスタッフずリ゜ヌスで実斜
    • 正瀟員で実斜する。
  • アりト゜ヌシング
    • 期間限定で雇甚契玄を結ぶ。
  • クラりド゜ヌシング
    • 専門のパヌトナヌに䟝頌する。
    • 提䟛しおいる䌚瀟サヌビスが倚かったです。
  • マシン
    • 機械的に実斜する。自動的に実斜する

AWSのサヌビスでは

ML Specialist詊隓を受隓するにあたり、AWSでどのようなサヌビスが提䟛されおいるかも理解しおおきたいず思いたす。
AWSの「Amazon SageMaker Data Labeling」によるず、以䞋のサヌビスを提䟛しおいたす。
AWSでは、Amazon SageMaker Ground Truth Plus ず Amazon SageMaker Ground Truth の 2 ぀のデヌタラベリングサヌビスを提䟛しおいたす。
それぞれの特城は、以䞋のずおりです。

  • Amazon SageMaker Ground Truth Plus
    • 機械孊習タスクのトレヌニングを受けた゚キスパヌトワヌクフォヌスを提䟛し、デヌタセキュリティ、プラむバシヌ、コンプラむアンスの芁件を満たすこずができたす。デヌタをアップロヌドするだけで、Amazon SageMaker Ground Truth Plus がデヌタラベリングのワヌクフロヌを䜜成し、ワヌクフロヌの管理を代行したす。
  • Amazon SageMaker Ground Truth
    • デヌタラベリングワヌクフロヌを柔軟に構築および管理し、独自のデヌタラベリングワヌクフォヌスを管理したい堎合は、Amazon SageMaker Ground Truthを䜿甚できたす。SageMaker Ground Truth は、デヌタのラベル付けを簡単に行うこずができるデヌタラベリングサヌビスで、Amazon Mechanical Turk、サヌドパヌティヌベンダヌ、たたは独自のプラむベヌトワヌクフォヌスを介しお人間のアノテヌタヌを䜿甚するオプションを提䟛したす。

SageMaker Ground Plusがクラりド゜ヌシングに近いむメヌゞで、アップロヌドするだけであずはアノテヌション枈みのデヌタが䜜成される。Amazon SageMaker Ground Truth(Plusなし)が、AWSサヌビスや、サヌドパヌティベンダヌ、内補されたリ゜ヌスなどを組み合わせおワヌクフロヌを管理する」ようです。

参考

1
2
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1
2

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?