チュートリアル: ML.NET で行列分解を使用して映画レコメンダーを構築する

このチュートリアルでは、.NET コンソール アプリケーションで ML.NET を使用してムービー レコメンダーを構築する方法について説明します。 この手順では、C# と Visual Studio 2019 を使用します。

このチュートリアルでは、以下の内容を学習します。

このチュートリアルのソース コードは 、dotnet/samples リポジトリにあります。

機械学習ワークフロー

次の手順を使用して、タスクだけでなく、その他の ML.NET タスクも実行します。

1. データを読み込む
2. モデルを構築してトレーニングする
3. モデルを評価する
4. モデルを使用する

[前提条件]

• Visual Studio 2022 以降。

適切な機械学習タスクを選択する

映画の一覧の推奨や関連製品の一覧の推奨など、レコメンデーションの問題に対処する方法はいくつかありますが、この場合、ユーザーが特定の映画に与える評価 (1 から 5) を予測し、定義されたしきい値より高い場合にその映画を推奨します (評価が高いほど、ユーザーが特定の映画を好む可能性が高くなります)。

コンソール アプリケーションの作成

プロジェクトを作成する

1. "MovieRecommender" という名前の C# コンソール アプリケーション を作成します。 [ 次へ ] ボタンをクリックします。

2. 使用するフレームワークとして .NET 8 を選択します。 [作成] ボタンをクリックします。

3. データ セットを格納する Data という名前のディレクトリをプロジェクトに作成します。

   ソリューション エクスプローラーで、プロジェクトを右クリックし、[追加>新しいフォルダー] を選択します。 「データ」と入力し、Enter キーを 押します。

4. Microsoft.ML と Microsoft.ML.Recommender NuGet パッケージをインストールします。

   注

   このサンプルでは、特に明記されていない限り、記載されている最新の安定バージョンの NuGet パッケージを使用します。

   ソリューション エクスプローラーで、プロジェクトを右クリックし、 [NuGet パッケージの管理] を選択します。 パッケージ ソースとして [nuget.org] を選択 し、[参照 ] タブを選択し、 Microsoft.ML を検索して、一覧からパッケージを選択して、[インストール] を選択 します。 [変更のプレビュー] ダイアログで [OK] ボタンを選択し、表示されているパッケージのライセンス条項に同意する場合は、[ライセンスの同意] ダイアログで [同意する] ボタンを選択します。 Microsoft.ML.Recommender に対してこれらの手順を繰り返します。

5. Program.cs ファイルの先頭に次のusing ディレクティブを追加します。

   using Microsoft.ML;
   using Microsoft.ML.Trainers;
   using MovieRecommendation;
   

データをダウンロードしてください

1. 2 つのデータセットをダウンロードし、前に作成した データ フォルダーに保存します。

   • recommendation-ratings-train.csv を右クリックし、[リンク (またはターゲット) に名前を付けて保存]を選択します。

   • recommendation-ratings-test.csv を右クリックし、[リンク (またはターゲット) に名前を付けて保存]を選択します。

     *.csv ファイルを データ フォルダーに保存するか、別の場所に保存した後、*.csv ファイルを データ フォルダーに移動してください。

2. ソリューション エクスプローラーで、各 *.csv ファイルを右クリックし、[プロパティ] を選択 します。 [ 詳細設定] で、[ 出力ディレクトリにコピー ] の値を [新しい場合はコピー] に変更します。

   

データを読み込む

ML.NET プロセスの最初の手順は、モデルのトレーニングとテストのデータを準備して読み込みます。

推奨事項の評価データは、 Train データセットと Test データセットに分割されます。 Train データは、モデルに合わせて使用されます。 Test データは、トレーニング済みのモデルで予測を行い、モデルのパフォーマンスを評価するために使用されます。 TrainとTestデータで 80/20 の分割を行うのが一般的です。

*.csv ファイルからのデータのプレビューを次に示します。

*.csv ファイルには、次の 4 つの列があります。

• userId
• movieId
• rating
• timestamp

機械学習では、予測を行うために使用される列は Features と呼ばれ、返された予測を含む列は Label と呼ばれます。

映画の評価を予測する場合は、評価列が Labelです。 他の 3 つの列 、userId、movieId、およびtimestampはすべて、Featuresの予測に使用Label。

Featuresの予測に使用するLabelは、ユーザーが決定する必要があります。 また、 順列特徴の重要度 などのメソッドを使用して、最適な Featuresの選択に役立てることもできます。

この場合、タイムスタンプはユーザーが特定の映画を評価する方法に実際には影響しないため、 timestamp 列を Feature として排除する必要があります。そのため、より正確な予測を行うには影響しません。

次に、入力クラスのデータ構造を定義する必要があります。

新しいクラスをプロジェクトに追加します。

1. ソリューション エクスプローラーでプロジェクトを右クリックし、[新しい項目>追加] を選択します。

2. [ 新しい項目の追加] ダイアログ ボックスで、[ クラス ] を選択し、[ 名前 ] フィールドを MovieRatingData.csに変更します。 その後、 [追加] を選択します。

MovieRatingData.cs ファイルがコード エディターで開きます。 次の using ディレクティブを MovieRatingData.csの先頭に追加します。

using Microsoft.ML.Data;

既存のクラス定義を削除し、MovieRatingData.csに次のコードを追加して、MovieRatingというクラスを作成します。

public class MovieRating
{
    [LoadColumn(0)]
    public float userId;
    [LoadColumn(1)]
    public float movieId;
    [LoadColumn(2)]
    public float Label;
}

MovieRating は入力データ クラスを指定します。 LoadColumn 属性は、データセット内のどの列を (列インデックスによって) 読み込むかを指定します。 userId列とmovieId列は、Features (Labelを予測するためにモデルに与える入力) であり、評価列は予測するLabel (モデルの出力) です。

MovieRatingData.csの MovieRatingPrediction クラスの後に次のコードを追加して、予測された結果を表す別のクラスMovieRatingを作成します。

public class MovieRatingPrediction
{
    public float Label;
    public float Score;
}

Program.csで、Console.WriteLine("Hello World!")を次のコードに置き換えます。

MLContext mlContext = new MLContext();

MLContext クラスは、すべての ML.NET 操作の開始点であり、mlContextを初期化すると、モデル作成ワークフロー オブジェクト間で共有できる新しい ML.NET 環境が作成されます。 概念的には、Entity Framework の DBContext に似ています。

ファイルの下部に、 LoadData()という名前のメソッドを作成します。

(IDataView training, IDataView test) LoadData(MLContext mlContext)
{

}

データ パス変数を初期化し、*.csv ファイルからデータを読み込み、Trainの次のコード行として次のコードを追加して、TestとIDataViewデータをLoadData() オブジェクトとして返します。

var trainingDataPath = Path.Combine(Environment.CurrentDirectory, "Data", "recommendation-ratings-train.csv");
var testDataPath = Path.Combine(Environment.CurrentDirectory, "Data", "recommendation-ratings-test.csv");

IDataView trainingDataView = mlContext.Data.LoadFromTextFile<MovieRating>(trainingDataPath, hasHeader: true, separatorChar: ',');
IDataView testDataView = mlContext.Data.LoadFromTextFile<MovieRating>(testDataPath, hasHeader: true, separatorChar: ',');

return (trainingDataView, testDataView);

ML.NET 内のデータは、 IDataView インターフェイスとして表されます。 IDataView は、表形式データ (数値とテキスト) を記述するための柔軟で効率的な方法です。 データは、テキスト ファイルから、またはリアルタイムで (SQL データベースやログ ファイルなど)、 IDataView オブジェクトに読み込むことができます。

LoadFromTextFile() は、データ スキーマを定義し、ファイル内を読み取ります。 データ パス変数を受け取り、 IDataViewを返します。 この場合は、 Test ファイルと Train ファイルのパスを指定し、テキスト ファイル ヘッダー (列名を適切に使用できるように) とコンマ文字データ区切り記号 (既定の区切り記号はタブ) の両方を指定します。

LoadData() メソッドを呼び出し、TrainとTestデータを返す次のコードを追加します。

(IDataView trainingDataView, IDataView testDataView) = LoadData(mlContext);

モデルを構築してトレーニングする

次のコードを使用して、BuildAndTrainModel() メソッドの直後に LoadData() メソッドを作成します。

ITransformer BuildAndTrainModel(MLContext mlContext, IDataView trainingDataView)
{

}

次のコードを BuildAndTrainModel()に追加して、データ変換を定義します。

IEstimator<ITransformer> estimator = mlContext.Transforms.Conversion.MapValueToKey(outputColumnName: "userIdEncoded", inputColumnName: "userId")
    .Append(mlContext.Transforms.Conversion.MapValueToKey(outputColumnName: "movieIdEncoded", inputColumnName: "movieId"));

userIdとmovieIdは実際の値ではなく、ユーザーと映画のタイトルを表すので、MapValueToKey() メソッドを使用して、各userIdと各movieIdを数値キー型Feature列 (推奨アルゴリズムで受け入れられる形式) に変換し、新しいデータセット列として追加します。

機械学習アルゴリズムを選択し、 BuildAndTrainModel()の次のコード行として次のコード行を追加して、データ変換定義に追加します。

var options = new MatrixFactorizationTrainer.Options
{
    MatrixColumnIndexColumnName = "userIdEncoded",
    MatrixRowIndexColumnName = "movieIdEncoded",
    LabelColumnName = "Label",
    NumberOfIterations = 20,
    ApproximationRank = 100
};

var trainerEstimator = estimator.Append(mlContext.Recommendation().Trainers.MatrixFactorization(options));

MatrixFactorizationTrainer は、推奨トレーニング アルゴリズムです。 マトリックス要因化 は、ユーザーが過去に製品を評価した方法に関するデータがある場合に推奨される一般的なアプローチです。このチュートリアルのデータセットの場合です。 使用できるデータが異なる場合には、他にも推奨事項アルゴリズムがあります (詳細については、以下の 「その他の推奨アルゴリズム 」セクションを参照してください)。

この場合、 Matrix Factorization アルゴリズムでは"コラボレーション フィルタリング" と呼ばれるメソッドが使用されます。これは、ユーザー 1 が特定の問題についてユーザー 2 と同じ意見を持っている場合、ユーザー 1 はユーザー 2 と同じように異なる問題について感じる可能性が高いと想定しています。

たとえば、ユーザー 1 とユーザー 2 が同様に映画を評価する場合、ユーザー 2 は、ユーザー 1 が視聴し、高い評価を得ている映画を楽しむ可能性が高くなります。

Matrix Factorization トレーナーにはいくつかのオプションがあります。詳細については、以下の「アルゴリズムハイパーパラメーター」セクションを参照してください。

Train メソッドの次のコード行として次の行を追加して、モデルをBuildAndTrainModel() データに適合させ、トレーニング済みのモデルを返します。

Console.WriteLine("=============== Training the model ===============");
ITransformer model = trainerEstimator.Fit(trainingDataView);

return model;

Fit() メソッドは、指定されたトレーニング データセットを使用してモデルをトレーニングします。 技術的には、データを変換してトレーニングを適用することで Estimator 定義を実行し、トレーニング済みのモデル ( Transformer) を返します。

ML.NET のモデル トレーニング ワークフローの詳細については、「 ML.NET とは何か、およびそのしくみ」を参照してください。

LoadData() メソッドを呼び出してトレーニング済みのモデルを返すBuildAndTrainModel() メソッドの呼び出しの下に、次のコード行を追加します。

ITransformer model = BuildAndTrainModel(mlContext, trainingDataView);

モデルを評価する

モデルをトレーニングしたら、テスト データを使用して、モデルのパフォーマンスを評価します。

次のコードを使用して、EvaluateModel() メソッドの直後に BuildAndTrainModel() メソッドを作成します。

void EvaluateModel(MLContext mlContext, IDataView testDataView, ITransformer model)
{

}

次のコードをTestに追加して、EvaluateModel() データを変換します。

Console.WriteLine("=============== Evaluating the model ===============");
var prediction = model.Transform(testDataView);

Transform() メソッドは、テスト データセットの指定された複数の入力行に対して予測を行います。

EvaluateModel() メソッドの次のコード行として次のコードを追加して、モデルを評価します。

var metrics = mlContext.Regression.Evaluate(prediction, labelColumnName: "Label", scoreColumnName: "Score");

予測を設定すると、 Evaluate() メソッドによってモデルが評価されます。このメソッドは、予測値とテスト データセット内の実際の Labels を比較し、モデルのパフォーマンスに関するメトリックを返します。

EvaluateModel() メソッドの次のコード行として次のコードを追加して、評価メトリックをコンソールに出力します。

Console.WriteLine("Root Mean Squared Error : " + metrics.RootMeanSquaredError.ToString());
Console.WriteLine("RSquared: " + metrics.RSquared.ToString());

BuildAndTrainModel() メソッドを呼び出す EvaluateModel() メソッドの呼び出しの下に、次のコード行を追加します。

EvaluateModel(mlContext, testDataView, model);

これまでの出力は、次のテキストのようになります。

=============== Training the model ===============
iter      tr_rmse          obj
   0       1.5403   3.1262e+05
   1       0.9221   1.6030e+05
   2       0.8687   1.5046e+05
   3       0.8416   1.4584e+05
   4       0.8142   1.4209e+05
   5       0.7849   1.3907e+05
   6       0.7544   1.3594e+05
   7       0.7266   1.3361e+05
   8       0.6987   1.3110e+05
   9       0.6751   1.2948e+05
  10       0.6530   1.2766e+05
  11       0.6350   1.2644e+05
  12       0.6197   1.2541e+05
  13       0.6067   1.2470e+05
  14       0.5953   1.2382e+05
  15       0.5871   1.2342e+05
  16       0.5781   1.2279e+05
  17       0.5713   1.2240e+05
  18       0.5660   1.2230e+05
  19       0.5592   1.2179e+05
=============== Evaluating the model ===============
Rms: 0.994051469730769
RSquared: 0.412556298844873

この出力には、20 個のイテレーションがあります。 各反復では、誤差の測定値が減少し、0 に近づいて収束します。

root of mean squared error (RMS または RMSE) は、モデルの予測値とテスト データセットの観測値の差を測定するために使用されます。 技術的には、エラーの 2 乗の平均の平方根です。 低いほど、モデルの方が優れています。

R Squared は、データがモデルにどの程度適合するかを示します。 範囲は 0 から 1 です。 値が 0 の場合は、データがランダムであるか、それ以外の場合はモデルに適合できないことを意味します。 値 1 は、モデルがデータと正確に一致することを意味します。 R Squaredスコアを可能な限り 1 に近づけます。

成功したモデルの構築は反復的なプロセスです。 このモデルでは、小さなデータセットを使用して迅速なモデル トレーニングを提供するため、このモデルの初期品質は低くなります。 モデルの品質に満足できない場合は、より大きなトレーニング データセットを提供するか、アルゴリズムごとに異なるハイパー パラメーターを持つ異なるトレーニング アルゴリズムを選択して、モデルの品質を向上させることができます。 詳細については、以下の 「モデルの改善 」セクションを参照してください。

モデルの使用

これで、トレーニング済みのモデルを使用して、新しいデータに対して予測を行うことができます。

次のコードを使用して、UseModelForSinglePrediction() メソッドの直後に EvaluateModel() メソッドを作成します。

void UseModelForSinglePrediction(MLContext mlContext, ITransformer model)
{

}

次のコードをPredictionEngineに追加して、UseModelForSinglePrediction()を使用して評価を予測します。

Console.WriteLine("=============== Making a prediction ===============");
var predictionEngine = mlContext.Model.CreatePredictionEngine<MovieRating, MovieRatingPrediction>(model);

PredictionEngine は便利な API であり、データの単一インスタンスに対して予測を実行できます。 PredictionEngine はスレッド セーフではありません。 シングルスレッド環境またはプロトタイプ環境で使用することは許容されます。 運用環境でのパフォーマンスとスレッド セーフを向上させるには、PredictionEnginePool サービスを使用します。このサービスにより、アプリケーション全体で使用するObjectPool オブジェクトのPredictionEngineが作成されます。 ASP.NET Core Web API でPredictionEnginePoolを使用する方法については、このガイドを参照してください。

MovieRatingと呼ばれるtestInputのインスタンスを作成し、UseModelForSinglePrediction() メソッドの次のコード行として次のコードを追加して予測エンジンに渡します。

var testInput = new MovieRating { userId = 6, movieId = 10 };

var movieRatingPrediction = predictionEngine.Predict(testInput);

Predict() 関数は、データの単一列に対して予測を行います。

その後、 Scoreまたは予測された評価を使用して、movieId 10 のムービーをユーザー 6 に推奨するかどうかを決定できます。 Scoreが高いほど、ユーザーが特定の映画を好きになる可能性が高くなります。 この場合、予測レーティングが 3.5 > の映画を推奨するとします。

結果を出力するには、次のコード行を UseModelForSinglePrediction() メソッドに追加します。

if (Math.Round(movieRatingPrediction.Score, 1) > 3.5)
{
    Console.WriteLine("Movie " + testInput.movieId + " is recommended for user " + testInput.userId);
}
else
{
    Console.WriteLine("Movie " + testInput.movieId + " is not recommended for user " + testInput.userId);
}

EvaluateModel() メソッドを呼び出すUseModelForSinglePrediction() メソッドの呼び出しの後に、次のコード行として次のコードを追加します。

UseModelForSinglePrediction(mlContext, model);

このメソッドの出力は、次のテキストのようになります。

=============== Making a prediction ===============
Movie 10 is recommended for user 6

モデルを保存する

モデルを使用してエンドユーザー アプリケーションで予測を行うには、まずモデルを保存する必要があります。

次のコードを使用して、SaveModel() メソッドの直後に UseModelForSinglePrediction() メソッドを作成します。

void SaveModel(MLContext mlContext, DataViewSchema trainingDataViewSchema, ITransformer model)
{

}

SaveModel() メソッドに次のコードを追加して、トレーニング済みのモデルを保存します。

var modelPath = Path.Combine(Environment.CurrentDirectory, "Data", "MovieRecommenderModel.zip");

Console.WriteLine("=============== Saving the model to a file ===============");
mlContext.Model.Save(model, trainingDataViewSchema, modelPath);

このメソッドは、トレーニング済みのモデルを ("Data" フォルダー内の) .zip ファイルに保存します。このファイルは、他の .NET アプリケーションで使用して予測を行うことができます。

UseModelForSinglePrediction() メソッドを呼び出すSaveModel() メソッドの呼び出しの後に、次のコード行として次のコードを追加します。

SaveModel(mlContext, trainingDataView.Schema, model);

保存したモデルを使用する

トレーニング済みのモデルを保存したら、さまざまな環境でモデルを使用できます。 トレーニング済みの機械学習モデルをアプリで運用化する方法については、トレーニング済みモデルの 保存と読み込みを 参照してください。

結果

上記の手順に従った後、コンソール アプリを実行します (Ctrl + F5 キー)。 上記の 1 つの予測の結果は、次のようになります。 警告が表示されたり、メッセージが処理されたりすることがありますが、わかりやすくするために、これらのメッセージは次の結果から削除されています。

=============== Training the model ===============
iter      tr_rmse          obj
   0       1.5382   3.1213e+05
   1       0.9223   1.6051e+05
   2       0.8691   1.5050e+05
   3       0.8413   1.4576e+05
   4       0.8145   1.4208e+05
   5       0.7848   1.3895e+05
   6       0.7552   1.3613e+05
   7       0.7259   1.3357e+05
   8       0.6987   1.3121e+05
   9       0.6747   1.2949e+05
  10       0.6533   1.2766e+05
  11       0.6353   1.2636e+05
  12       0.6209   1.2561e+05
  13       0.6072   1.2462e+05
  14       0.5965   1.2394e+05
  15       0.5868   1.2352e+05
  16       0.5782   1.2279e+05
  17       0.5713   1.2227e+05
  18       0.5637   1.2190e+05
  19       0.5604   1.2178e+05
=============== Evaluating the model ===============
Rms: 0.977175077487166
RSquared: 0.43233349213192
=============== Making a prediction ===============
Movie 10 is recommended for user 6
=============== Saving the model to a file ===============

おめでとうございます! これで、映画を推奨するための機械学習モデルが正常に構築されました。 このチュートリアルのソース コードは 、dotnet/samples リポジトリにあります。

アプリを改善する

より正確な予測を得ることができるように、モデルのパフォーマンスを向上させる方法はいくつかあります。

データ

各ユーザーと映画 ID に十分なサンプルを含むトレーニング データを追加すると、レコメンデーション モデルの品質を向上させることができます。

クロス検証 は、(このチュートリアルで行ったようにデータセットからテスト データを抽出するのではなく) データをサブセットにランダムに分割し、一部のグループをトレーニング データとして、一部のグループをテスト データとして受け取るモデルを評価するための手法です。 この方法は、モデル品質の観点からトレーニング テストの分割を行うよりも優れた方法です。

Features

このチュートリアルでは、データセットによって提供される 3 つの Features (user id、 movie id、および rating) のみを使用します。

これは良いスタートですが、実際には、データセットに含まれている場合は、他の属性や Features (年齢、性別、地理的位置など) を追加することをお勧めします。 関連性の高い Features を追加すると、レコメンデーション モデルのパフォーマンスを向上させることができます。

機械学習タスクに最も関連性の高いFeaturesがわからない場合は、特徴量貢献度計算 (FCC) や順列特徴量の重要度を利用することで、最も影響力のあるFeaturesを発見できます。ML.NETではこれらの手法を提供しています。

アルゴリズムハイパーパラメーター

ML.NET は適切な既定のトレーニング アルゴリズムを提供しますが、アルゴリズムの ハイパーパラメーターを変更することでパフォーマンスをさらに微調整できます。

Matrix Factorizationでは、NumberOfIterations や ApproximationRank などのハイパーパラメーターを試して、より良い結果が得られているかどうかを確認できます。

たとえば、このチュートリアルでは、アルゴリズムのオプションは次のとおりです。

var options = new MatrixFactorizationTrainer.Options
{
    MatrixColumnIndexColumnName = "userIdEncoded",
    MatrixRowIndexColumnName = "movieIdEncoded",
    LabelColumnName = "Label",
    NumberOfIterations = 20,
    ApproximationRank = 100
};

その他の推奨アルゴリズム

協調フィルタリングを使用した行列分解アルゴリズムは、映画のレコメンデーションを実行するための 1 つのアプローチにすぎません。 多くの場合、レーティング データが利用できない場合や、ユーザーが映画の履歴のみを使用できる場合があります。 それ以外の場合は、ユーザーの評価データ以上のものがある可能性があります。

新しいユーザー シナリオ

コラボレーション フィルター処理の一般的な問題の 1 つは、コールド スタートの問題です。これは、推論を引き出す前のデータがない新しいユーザーがいる場合です。 この問題は、多くの場合、新しいユーザーにプロファイルの作成を依頼し、たとえば、過去に見た映画を評価することで解決されます。 この方法ではユーザーに負担がかかりますが、新しいユーザーには評価履歴のない開始データがいくつか提供されます。

リソース

このチュートリアルで使用するデータは、 MovieLens データセットから派生します。

次のステップ

このチュートリアルでは、次の方法を学習しました。

詳細については、次のチュートリアルに進んでください