メインコンテンツへスキップ
見出し画像

Python venvとGoogleドライブが相性悪い件 ~torchのような重いライブラリをバックアップしないで!~

    こんにちはRcatです。
    私はデータの保護体制に、RAID1と別PCに定期コピーをしているのですが、家ごと何かあったときのためにGoogleドライブも使っています。
    知っての通り、クラウドストレージは容量単価があほみたいに高いです。
    なので大事なものだけに絞りたいわけですが…Pythonのプログラムはそれぞれに仮想環境があります。
    そして…そのvenvフォルダもバックアップ対象になってしまうという…。
    torchのGPU版とか軽く5GBあるですけど…。

    画像

    サイズの大きい順に並べると…いやtorch多すぎでしょw

    画像

    1個ならまだしも、たくさんAI関連があるので正直いつの間にか容量が無くなっているという。そこで、venvだけをバックアップから除外する対策を考えましたので記事にしました。


    はじめに

    利用規約

    情報や作品の活用時は事前に利用規約をご確認ください。

    コメントについて

    利用規約のガイドラインを確認の上コメントしてください


    効果

    Torchがたくさんあったのを…

    画像

    対策後
    まじか・・・そんなにか

    画像

    こんな感じでvenvとAIのトレーニングデータも退避させました。
    ✖マークがついているので、バックアップに失敗していることを示しています。

    画像

    アプリの方でもエラーリストとして挙がっています。いいですね。

    画像

    まずはGoogleドライブの仕様を整理する

    お話を進める前に、まずはGoogleドライブを使ったパソコンのバックアップについて仕様を確認していきましょう。

    Googleドライブを使ったパソコンのデータの同期は特定のフォルダを指定し、その下全てをバックアップするというのが仕様です。
    図にするとこんな感じ

    画像

    この図ではユーザーの中のピクチャとドキュメントをバックアップする設定にしているという前提です。ビデオとかは重いので、選んでいないみたいな感じですね。
    そして、私はドキュメントの中にPythonのフォルダを作ってあり、実行しています。そして仮想環境ってどこに作るんでしたっけ?
    わかりやすく実行するスクリプトの同じフォルダに作りますよね…。そう、これ、バックアップの対象になってしまうんです。
    その下に巨大なライブラリをぶら下がっていると、あとはお察しの通り。

    解決策

    解決するにはGoogleDriveの仕様をうまく活用します。
    仕様変更されても困るので有料ラインにして隠しておきます。

    ちなみにですが、ここで紹介する内容は過去に紹介している以下と同じです。
    この内容をPythonの仮想環境に特化した形で書いているのが今回の内容です。すでにお買い上げの方は二重購入にならないようにご注意願います。

     
     
    モノづくりが趣味。 "売ってないなら自分で作ればいいじゃない"をコンセプトに、機械/電気/AI/プログラム/ネットワーク 全部やります。 記事執筆はAI不使用。 ご連絡や利用規約はプロフィール記事参照。

    あなたへのおすすめ