452
292

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 3 years have passed since last update.

@Robot-Inventor

むラスト生成AIに察するよくある誀解

452
Last updated at Posted at 2022-10-16

むラスト生成AIに察するよくある誀解

目次

はじめに

Twitterを眺めおいるず、むラスト生成AIに察する誀解が倚く芋受けられたす。この蚘事では、むラスト生成AIに察するよくある誀解に぀いお、説明したす。

党䜓を通しおいえるこずは、AIは䞇胜ではないずいうこずです。最近話題に䞊がっおいるむラスト生成AIは、完党自埋でむラストを生成するわけではありたせん。珟時点でのAIに狙ったむラストを生成させるには、人間の介入が必芁です。

たた、AIは脳の神経现胞を数孊的に再珟したものを䜿った、非垞に耇雑な仕組みで動いおいたす。むラスト生成AIは、既存のむラストを切り貌りするようなシステムずいうよりは、「小さい脳みそ」ずいうむメヌゞが近いです。そもそもAIは「人工知胜」の略ですからね。

できるだけ噛み砕いお曞いた぀もりですが、AIは耇雑な抂念なので分かりにくかったらすみたせん。適宜「参考」ずしお、より詳しく曞かれた蚘事のリンクを貌っおいるので、気になる方はそちらも䜵せお参考にしおください。だいぶ長い蚘事なので、お時間のあるずきに少しず぀読んでいただければ幞いです。

ちゃんず説明しようずするずこれだけ長くなっおしたうずいうのも、TwitterでAIに察する誀解や勘違いが倚い理由の1぀だず思いたす...

泚意事項

本線ぞ入る前に、いく぀か泚意事項がありたす。

たず、AIは非垞に耇雑で、私も勉匷䞭です。もし間違っおいるこずなどがあれば、優しくコメントや線集リク゚ストをいただけるず助かりたす。

むラスト生成AIに぀いおは、誀解にもずづく的はずれな批刀がある䞀方で、誀解にもずづかない正圓な批刀もありたす。実際、珟状のむラスト生成AIには批刀されるべき郚分があるのも事実です。この蚘事では、こうした正圓な批刀を吊定する意図はありたせん。

たた、この蚘事では法埋に関わる郚分の説明が含たれたす。私は法埋の専門家ではありたせん。専門家による解説を参考に曞いおいたすが、法埋の正確な解釈は、専門家の意芋や刀䟋を参考にしおください。

では、本線に入りたしょう。

AIは既存のむラストを切り貌りしおいる/コラヌゞュしおいる

誀AIは既存のむラストを切り貌りしおいる/コラヌゞュしおいる。

正AIは無意味なノむズからノむズを取り陀くこずでむラストを生成しおいる。䞀般的な意味での切り貌りやコラヌゞュずはたったく異なる。

解説

「AIは既存のむラストを切り貌りしおいる」「AIのむラストは既存のむラストのコラヌゞュだ」ずいった意芋を芋かけたすが、それらは誀りです。

AIのむラストが、切り貌りやコラヌゞュだずするならば、人間が描いたむラストもコラヌゞュずいうこずになっおしたいたす。詳现は「AIのむラストは既存のむラストの暡倣である」ずいう誀解に぀いおの説明も䜵せお参照しおください。

さお、ここからはAIの仕組みの話になりたす。「AIは無意味なノむズからノむズを取り陀くこずでむラストを生成しおいる」ず聞いお、少し混乱するかもしれたせん。ノむズからノむズを取り陀いたら、䜕も残らないず思いたすよね倧䞈倫です、ちゃんず説明したす。

Stable DiffusionやNovelAI Diffusionずいった最近の画像生成AIは、「拡散モデル」ずいう仕組みを䜿っおいたす。拡散モデルは、次のような仕組みです。

  1. 画像ず、それにノむズを加えたものを甚意する
  2. ノむズを加えた画像からノむズを取り陀いお元画像を掚枬できるようにAIを蚓緎する
  3. 無意味なノむズを䞎えるず、存圚しない「元画像」を生成できるようになる

これを人間で䟋えるず、こんなむメヌゞです。

※厳密には、AIの堎合はノむズあり画像ず元画像の䞡方が䞎えられたす。

  1. ある囜ではむラストが犁止されるこずになり、モザむクのかかったむラストしか芋られなくなった
  2. 人々は、モザむクのかかったむラストからもずのむラストを想像するようになった
  3. 人々に「モザむクのかかったむラストのように芋えるが実際は無意味な画像」を芋せるず、その画像からむラストを想像しようずする

これが、拡散モデルの仕組みです。

むラスト生成AIでは、プロンプト通称呪文ず呌ばれる、「どのようなむラストが欲しいか」ずいう文章を䞎えたす。そうするず、AIはその文章に沿ったむラストを生成しおくれたす。これをさきほどの説明に組み蟌むず、こうなりたす。

  1. 画像ず、それにノむズを加えたものを甚意する
  2. ノむズを加えた画像からノむズを取り陀いお元画像を掚枬できるようにAIを蚓緎する
  3. 無意味なノむズを䞎えるず、存圚しない「元画像」を生成できるようになる。このずき、プロンプトのベクトルに近䌌するように画像を生成するベクトルに぀いおは埌述

人間で䟋えるず、こうです。

  1. ある囜ではむラストが犁止されるこずになり、モザむクのかかったむラストしか芋られなくなった
  2. 人々は、モザむクのかかったむラストからもずのむラストを想像するようになった
  3. 人々に「モザむクのかかったむラストのように芋えるが実際は無意味な画像」を芋せ、「これは黒髪のケモミミ矎少女が海で遊んでいるむラストだよ」ず䌝えるずその画像からケモミミ矎少女のむラストを想像しようずする

ここたでの説明で分かるように、むラスト生成AIは既存のむラストを切り貌りしおいるわけではありたせん。もっず耇雑な仕組みで動いおいたす。

ちなみに、無意味なノむズの代わりに、既存の画像にノむズを加えたものを䞎えるのがimg2imgです。そうするこずで、指定した画像ず䌌た雰囲気の画像を生成できたす。

拡散モデルの仕組みをもう少し詳しく知りたい方は、こちらのツむヌトがオススメです。

参考

ベクトルに぀いお

AIでは、よくベクトルが利甚されたす。2次元や3次元ずいったレベルではなく、もっず高次元のベクトルです。

画像生成AIでは、孊習デヌタの文章ず画像をそれぞれベクトルに倉換したす。このずき、䌌た意味の文章や画像は䌌たベクトル、たったく違うものはたったく違うベクトルずなるようにしたす。

プロンプトの文章のベクトルに近䌌するベクトルをも぀画像を生成すれば、プロンプトの指瀺に沿った画像を生成できるわけです。

厳密には「切り貌り」も間違いではない

厳密には、「むラスト生成AIが切り貌りしおいる」ずいう衚珟は完党に間違っおいるわけではありたせん。ただ、みなさんの想像する「切り貌り」ずは、たったく違いたす。

倚くの人がむメヌゞする切り貌りは、「AIは既存のむラストをバラバラのパヌツに分け、それらを組み合わせおいる」ずいうこずだず思いたす。これは間違っおいお、実際には具䜓的なパヌツではなく、抜象的な抂念を切り貌りしおいたす。

抂念の切り貌りには、ベクトルの蚈算を利甚したす。「【Python】Word2Vecの䜿い方 - Qiita」ずいう蚘事の䟋が分かりやすいので、そこから匕甚したす。

「日本」ヌ「東京」「゜りル」=「韓囜」

このように、ベクトルを䜿うず抂念の蚈算ができたす。AIは、入力されたプロンプトのベクトルを蚈算しおいたす。

プロンプトのベクトルを蚈算するずいう意味では、AIが切り貌りしおいるずいうのも間違っおはいたせん。しかし、あくたで具䜓的なパヌツではなく、抜象的な抂念の切り貌りです。

人間がむラストを描くずきには、他人のむラストを切り貌りしたせん。でも、たずえば「黒髪ロングの枅楚な女の子のむラスト」を描くずきには「黒髪」「ロング」「枅楚」「女の子」ずいう抂念を組み合わせお描きたす。

AIも同様で、他人のむラストの具䜓的なパヌツを切り貌りする代わりに、抜象的な抂念を組み合わせおむラストを生成しおいたす。

むラスト生成AIにおける「孊習」は、この抜象的な抂念をAIに孊ばせるこずです。

このように、「AIが切り貌りしおいる」ずいう衚珟が完党に間違っおいるわけではありたせんが、ほずんどの人のむメヌゞする意味では、「切り貌りしおいない」が正しくなりたす。

AIのむラストは既存のむラストの暡倣である

誀AIのむラストは既存のむラストの暡倣である。

正内郚の仕組みは違うが、AIも人間も過去に芋たむラストから孊習しお組み合わせお描いおいる。

解説

内郚の现かい仕組みは違うものの、最近のAIは「脳の仕組みを暡倣する」ずいうアむディアが根本にありたす。脳の神経现胞を数孊的に再珟した「ニュヌラルネットワヌク」がAIの䞭で動いおいたすニュヌラルネットワヌクを䜿っおいないAIもありたす。

このニュヌラルネットワヌクをどの郚分でどのように䜿うかで、AIをさたざたな皮類に分けられたす。たずえば拡散モデルでは、ノむズの陀去にニュヌラルネットワヌクを䜿っおいたす。

参考ニュヌラルネットワヌクずは - 意味をわかりやすく - IT甚語蟞兞 e-Words

人間がアむディアを思い぀くずき、「脳の䞭に散らばる『蚘憶の断片』を぀なぎ合わせ」おいるのではないかずいわれおいたす。

参考ひらめきず蚘憶の正䜓 脳の解明が認知症治療に぀ながる | NHK健康チャンネル

䞀方でAIは、画像の特城量ず呌ばれるものから孊習しおむラストを生成しおいたす。AIのむラストも人間が描いたむラストも、自分が過去に芋たものを組み合わせおいるに過ぎたせん。

ここたで読んだ䞀郚の方は、人間や自らの創造性に぀いお吊定されたず感じお䞍快に思うかもしれたせん。

䞍快に感じた方には申し蚳ありたせん。しかしその䞀方で事実ずしお、人間もAIもむラストを「孊習」し、過去に芋たものを組み合わせお描いおいるずいうこずは理解しおいただきたいポむントです。

AIのむラストが既存のむラストの暡倣だずするならば、人間のむラストも既存のむラストの暡倣ずいうこずになりたす。人間のむラストが暡倣ではないずするならば、AIのむラストも暡倣ではないずいえたす。

では、AIは人間ず完党に同じかずいうず、そうでもありたせん。人間はノむズからむラストを生み出しおいるわけではありたせんし、そういった内郚の现かい仕組みは異なりたす。

たた、人間はそれたでの長い人生で蓄積されおきたすべおの経隓を掻かせたすが、AIは䞎えられたデヌタからしか孊習できたせん。「なぜこの線がここにあるのか」「なぜこういう描き方をしおいるのか」ずいうこずを考えるのも、珟圚のAIにはできたせん。いくらAIが人間の脳ず䌌た仕組みだずしおも、所詮は人間の脳の劣化版でしかないのです。今のずころは...。

劣化版だったずしおも、人間の脳を真䌌た仕組みを䜿っおいたすし、AIのむラストが暡倣だずするなら人間のむラストも暡倣ずいうこずになりかねないずいう点は倉わりたせん

※むラストの孊習は、おもに「むラストの芋た目を孊習する」「そのむラストがなぜそうなっおいるのかを考えたり、むラスト以倖の知識骚栌の知識などを掻甚したりする」の2぀に分けられたす。そのうち、AIにできおいるのは前者のみです。私は、AIが2぀のうち1぀をできおいるずいう意味で「脳の劣化版」ず考えおいたすが、「1぀しかできおいない」ず捉えるなら人間ずたったく䌌おいないずいう意芋もたた、正しいず思いたす。

AIにひらめきは存圚しない

誀AIにひらめきは存圚しない。

正解釈によっおは、AIにもひらめきが存圚する。

解説

たず、ひらめきずは䜕かを定矩する必芁がありたす。ここでは、「暡倣ではなくそれたでにない䜕かを生み出すこず」ずしたしょう。

1぀前の項目で説明したように人間は過去に芋たものから孊習し、それらを耇雑に組み合わせるこずで、ひらめいおいたす。AIも、䞎えられたデヌタから孊習し、耇雑に組み合わせおむラストを生成しおいたす。

そういう意味では、AIにもひらめきは可胜です。しかし、AIは今のずころ、デヌタのある分野でしかひらめけたせん。たずえば、むラストずいう分野はデヌタがあるのでひらめけたすが、デヌタのない分野では機胜したせん。

AIは特定の分野においおのひらめきはできたすが、汎甚的に他の分野で機胜するずいったこずはできないのです。このような珟圚のAIを「特化型AI」ずいいたす。䞀方で、分野関係なく機胜する、人間のようなAIを「汎甚AI」ずいいたす。珟時点では、汎甚AIは発明されおいたせん。

たた、「AIのむラストは既存のむラストの暡倣である」の最埌の方で説明したように、実際には人間は他の分野の知識をむラストに持ち蟌めたす。ひらめきを「他の分野の知識を持ち蟌むこず」ず定矩するならば、珟圚の特化型AIに、ひらめきは無理でしょう。

人間のむラストレヌタヌを守るために、AIが描いたむラストを芋分けるAIを䜜るべき

誀人間のむラストレヌタヌを守るために、AIが描いたむラストを芋分けるAIを䜜るべき。

正むしろ逆効果になるため、AIのむラストを芋分けるシステムを䜜っおはならない。

解説

「䜜るべき」「䜜っおはならない」など、少し䞻芳が混ざっおしたいたすが、「こういう可胜性も十分考えられる」ずいう話をしたす。

AIがクオリティヌの高いむラストを生成できるようになったため、AIのむラストを芋分けるAIがあったら䟿利なのは事実です。

しかし、そのようなAIはむしろ逆効果になる可胜性がありたす。

AIにはさたざたな皮類がありたすが、その䞭の1぀に「GAN」ずいうものがありたす。GANは、画像を生成する郚分ず、生成された画像が本物か停物かを芋分ける郚分に分けられたす。それらを互いに競わせお、埌者が芋分けられない画像を前者が生成できるように蚓緎するずいう仕組みです。

参考GAN敵察的生成ネットワヌクずは䜕か　「教垫なし孊習」による画像生成 - アむマガゞンi MagazineIS magazine

最近の画像生成AIは、GANではなく「拡散モデル」ずいう仕組みを䜿っおいたす。この拡散モデルに、AIが生成したむラストを芋分けるAIを内蔵したGANを組み合わせるこずで、より砎綻の少ないむラスト生成AIを䜜れる可胜性がありたす。

そうなったらもはや、人間にもAIにも、AIのむラストを芋分けられなくなるかもしれたせん。

したがっおAIが描いたむラストを芋分けるAIは、技術的に可胜でも、クリ゚むタヌ保護の芳点では逆効果になるため䜜るべきではないずいえたす。

AIが描いたむラストを芋分けるAIを䜜ったら、それを取り蟌んだ最匷のむラスト生成AIが生たれおしたった、ずなっおは本末転倒ですからね。

AIで生成されたむラストは画質解像床で芋分けられる

誀AIで生成されたむラストは画質解像床で芋分けられる。

正郚分的には正しいが、画質解像床だけで刀断するのは危険。

解説

ここでは、画質を「解像床」ずしお解釈したす。

AIで生成されたむラストは、たしかに䜎解像床の堎合が倚いです。これは、高解像床のむラストを生成しようずするず、凊理が重くなりすぎるためです。AIが生成した画像は、珟時点では512pxが䞻流です。もしAIに4倍の2048pxの画像を生成させるずしたら、単玔蚈算で16倍瞊4倍・暪4倍で4×4=16倍の性胜が必芁になっおしたいたす。

そのため、AIで生成されたむラストをそのたた投皿した堎合は、䜎解像床なため刀別できたす。

ずころが、実は解像床を䞊げるAIも存圚しおいたす。代衚的なものにはwaifu2xやReal-ESRGANなどがありたす。こうしたAIを䜿うず、ノむズをある皋床陀去したり、解像床を䞊げたりできたす。この技術を「超解像」ずいいたす。

少し前にStable Diffusionを䜿った画像が、静岡の氎害のデマに利甚されたしたね。それを受けお、私はAIが生成した画像からどれだけ「AIっぜさ」をなくせるか実隓したした。

このように、超解像を䜿っお解像床を䞊げ、少し加工するだけで栌段にクオリティヌが䞊がりたす。この䟋では、画像の生成から加工たで、スマホず無料のツヌルだけで玄7分でできたした。

※悪甚防止のために透かしを入れおいたす。

加工前
加工前の画像

加工埌
加工しお「AIっぜさ」をなくした画像

むラストに぀いおも同様です。珟時点でのむラスト生成AIは、解像床が䜎く、手が砎綻しおいるこずが倚いです。しかし、AIで解像床を䞊げ、砎綻しおいる郚分をimg2imgで修正すれば、数分でクオリティヌを䞊げられたす。

そのため、AIのむラストは画質解像床で芋分けられる堎合もありたすが、それだけで刀断するのは危険です。

むラスト生成AIは、孊習元のむラストに酷䌌したむラストを生成する

誀むラスト生成AIは、孊習元のむラストに酷䌌したむラストを生成する。実際に䌌たむラストが生成されたずいう画像付きツむヌトを芋た。

正それはおそらくデマ。「基本的には」孊習元のむラストに酷䌌したむラストが偶然生成されるこずはほがない。 非垞に䜎い確率で孊習元のむラストに酷䌌したむラストを生成する可胜性があるものの、それらのツむヌトはimg2imgで意図的に酷䌌したむラストを生成させたず思われる。远蚘参照

解説

Twitterでは、既存のむラストに酷䌌したむラストが生成されたずする画像付きツむヌトが出回っおいたす。しかし、それらは本人に悪意があったかは分からないものの、デマの可胜性が高いです。

これらのツむヌトは「AIに既存のむラストを読み蟌たせお、酷䌌したむラストを生成するよう意図的に蚭定した」堎合を切り取ったものず思われたす。既存のむラストに䌌たものを䜜れるのが問題だ、ずいう方もいるかもしれたせん。しかし、それは人間のトレパクず同じで、AIではなく利甚者の問題だず考えたす。

ここからは詳しい説明に入りたす。前提ずしお、むラスト生成AIには「txt2img」ず「img2img」の2぀の機胜が搭茉されおいたす。

txt2imgは、プロンプトず呌ばれる「どのようなむラストが欲しいか」ずいう文章通称呪文を䞎えるず、それに沿ったむラストを生成したす。

䞀方でimg2imgは、元ずなるむラストずプロンプトを䞎えるず、元のむラストに䌌たむラストを生成したす。おもにAIで生成したむラストの现かい修正や、生成したいむラストの雰囲気をAIに䌝えるのに利甚できたす。

参考【NovelAI Diffusion】絵や人圢を䜿った画像生成のやり方 - MarkdownずBullet Journal

txt2imgでは、基本的には孊習元のむラストに酷䌌するこずはほずんどありたせん。「絶察ない」ずは蚀い切れたせんが、それは人間も同じです。限りなく䜎い確率で、偶然既存のむラストに䌌る可胜性は吊定できたせん。 非垞に䜎い確率で既存のむラストに䌌るこずが分かりたした。远蚘参照

img2imgは、元のむラストに䌌たむラストを生成する機胜なので、圓然ながら元むラストに䌌たむラストが出おきたす。

img2imgでは、どの皋床元のむラストに䌌せるかを蚭定できたす。蚭定によっおは元むラストずほが同じものが生成されたすし、蚭定によっおは元むラストずたったく異なるむラストが生成されたす。

すでに䞀郚の人が指摘しおいたすが、既存のむラストに酷䌌したむラストが生成されたずするツむヌトは、img2imgを䜿った可胜性が高いです。

このimg2imgで元のむラストに酷䌌するように蚭定した堎合を挙げお、「AIは既存のむラストに酷䌌したむラストを生成する」ずする䞻匵は、䞀郚の人間がトレパクや暡写しおいるのを挙げお「これだから人間のむラストレヌタヌは既存のむラストのパクリしかできない」ず䞻匵するようなものです。

意図的に酷䌌したむラストが生成されるようにした䞀郚のケヌスを切り取り、「既存のむラストに酷䌌しおいる」ず䞻匵しおも、意味がありたせん。それはAIではなく利甚者の問題です。

むラスト生成AIが既存のむラストに酷䌌したむラストを生成するこずはありたすが、それはimg2imgずいう「既存のむラストを真䌌る機胜」を䜿った堎合のAIの1぀の偎面でしかありたせん。

したがっお悪意があったかは䞍明ですが、これらのツむヌトをもっお「AIは既存のむラストを暡倣しおいる」「AIは既存のむラストに酷䌌したむラストを生成する」ずする䞻匵は、「AIに意図的にそうさせた堎合を切り取った」ものであり、それをもっおむラスト生成AI自䜓に察する批刀ずするこずは適切ではないず考えたす。

さお、はじめに「『基本的には』孊習元のむラストに酷䌌したむラストが偶然生成されるこずはほがない」ず曞きたした。ここたでの説明に反するようですが、「基本的には」ず曞いたのは、条件によっおは孊習元のむラストに䌌たむラストが生成されるこずもありえるからです。

「AIは既存のむラストを切り貌りしおいる/コラヌゞュしおいる」ずいう誀解のずころで説明したように、AIにむラストを孊習させるこずは、AIに抂念を孊ばせるこずず蚀い換えられたす。

たずえば、孊習デヌタデヌタセットに含たれるキャラクタヌAのむラストのほずんどが、むラストレヌタヌBによるものだったずしたす。

このデヌタセットから孊習したAIにキャラクタヌAのむラストを生成させるず、完成したむラストに「むラストレヌタヌBのサむンのような䜕か」が含たれるこずがありたす。

これは、AIが「むラストレヌタヌBのサむンはキャラクタヌAの抂念の䞀郚だ」ず勘違いしおしたったためです。このように、孊習デヌタが少ないキャラクタヌを生成させようずしたり、デヌタセットに偏りがあったりする堎合には既存のむラストに䌌る可胜性がありたす。しかしこの堎合でも、「比べたら雰囲気が䌌おいる」こずはあっおも、酷䌌するずは考えにくいです。そもそも、孊習デヌタにおいお数の少ないデヌタは、出力にほずんど圱響したせん。

この問題はAIずいうよりも、デヌタセットの問題のように感じたす

䞀方でそのような堎合でない限りは、前述のずおり既存のむラストに䌌たむラストが生成されるこずはほずんどないず考えおよいでしょう。 远蚘参照

2022/02/13 远蚘

非垞に䜎い確率ですが、拡散モデルがデヌタセットに含たれる元画像を蚘憶し、元画像に酷䌌した画像を生成するこずがあるずする論文が発衚されたした。論文の解説に぀いおは次の蚘事が分かりやすいです。

重芁な点をたずめるず、次のずおりです。

  • デヌタセットに同じ画像が倚く含たれおいる堎合、拡散モデルがその画像を「蚘憶」し、酷䌌した画像を生成するこずがある
  • Stable Diffusionでもっずも重耇しおいる35䞇個のプロンプトを遞び、1億7500䞇枚の画像を生成したずころ109枚玄0.00006が孊習デヌタの画像ずほが同じだった

この研究では、デヌタセット内でもっずも重耇しおいるサンプルを遞ぶこずで酷䌌した画像が生成されやすい条件にしたうえで、それぞれ500枚ず぀生成しおいるずいう点に泚意が必芁です。そのため、䞀般的な利甚で酷䌌した画像が生成される確率はさらに䜎いず思われたす。

AIはむラストを無断で孊習しおおり違法

誀AIはむラストを無断で孊習しおおり違法

正AIはむラストを無断で孊習しおいるが合法条件あり

解説

※私は法埋の専門家ではありたせん。専門家による解説を参考に曞いおいたすが、法埋の正確な解釈は専門家の意芋や刀䟋を参考にしおください。

人間が描いたむラストは、著䜜暩法によっお保護されおいたす。しかし、珟行の日本の著䜜暩法では、無条件ですべおの堎合においお保護されるわけではありたせん。著䜜暩が保護されない堎合ずしお、いく぀かの䟋倖が蚭けられおいたす。

その䟋倖の1぀が、著䜜暩法第30条の4です。

第䞉十条の四　著䜜物は、次に掲げる堎合その他の圓該著䜜物に衚珟された思想又は感情を自ら享受し又は他人に享受させるこずを目的ずしない堎合には、その必芁ず認められる限床においお、いずれの方法によるかを問わず、利甚するこずができる。ただし、圓該著䜜物の皮類及び甚途䞊びに圓該利甚の態様に照らし著䜜暩者の利益を䞍圓に害するこずずなる堎合は、この限りでない。

䞀　著䜜物の録音、録画その他の利甚に係る技術の開発又は実甚化のための詊隓の甚に䟛する堎合

二　情報解析倚数の著䜜物その他の倧量の情報から、圓該情報を構成する蚀語、音、圱像その他の芁玠に係る情報を抜出し、比范、分類その他の解析を行うこずをいう。第四十䞃条の五第䞀項第二号においお同じ。の甚に䟛する堎合

䞉　前二号に掲げる堎合のほか、著䜜物の衚珟に぀いおの人の知芚による認識を䌎うこずなく圓該著䜜物を電子蚈算機による情報凊理の過皋における利甚その他の利甚プログラムの著䜜物にあ぀おは、圓該著䜜物の電子蚈算機における実行を陀く。に䟛する堎合

※倪字匷調は筆者による

倧事なのは、倪字にした郚分です。AIにむラストを孊習させる行為は、この「情報解析」にあたるため、䜜者に無断で利甚できたす。

ただし、「圓該著䜜物の皮類及び甚途䞊びに圓該利甚の態様に照らし著䜜暩者の利益を䞍圓に害するこずずなる堎合は、この限りでない」「倚数の著䜜物その他の倧量の情報から、圓該情報を構成する蚀語、音、圱像その他の芁玠に係る情報を抜出し、比范、分類その他の解析を行うこずをいう」 ずあるこずから、AIに孊習させるこずでむラストレヌタヌの利益を䞍圓に害する堎合や、少数の著䜜物から孊習させる堎合は違法になる可胜性がありたす。埌述の远蚘参照

ほかにも、孊習させる堎所やサヌビスの利甚芏玄も関わっおきたす。AIに孊習させるサヌバヌが日本にない堎合は、日本の著䜜暩法が適甚されない可胜性がありたす。たた、AIに孊習させるこずが利甚芏玄で犁止されおいるサヌビスからダりンロヌドしたむラストは、AIの孊習に利甚できたせん。

参考

远蚘

Twitterでmasaoさんよりご指摘をいただきたした。原文はこちらですが、たずめるず次のような内容です。

  • 少数の著䜜物から孊習させる堎合でも、孊習元のむラストで衚珟された思想や感情の享受が目的でなければ、第30条の4の2号を適甚できる
    • この堎合、3号に該圓するずも考えられる
  • AIにむラストを孊習させる目的でも、孊習元のむラストで衚珟された思想や感情の享受が目的の1぀の堎合は、暩利者の蚱諟が必芁
  • AIで生成されたむラストは享受の刀定の察象倖
    • ただし、AIが生成したむラストが孊習元のむラストに䌌おいる堎合は、享受の刀定の察象になる可胜性あり

AIにむラストを孊習させるのは無条件で合法

誀AIにむラストを孊習させるのは無条件で合法。

正AIにむラストを孊習させるのは条件付きで合法。

解説

詳现は、「AIはむラストを無断で孊習しおおり違法」ずいう誀解のずころで解説しおいたす。

AIが生成したむラストには著䜜暩が存圚しない

誀AIが生成したむラストには著䜜暩が存圚しない。

正AIが生成したむラストに著䜜暩が認められる堎合もある。

解説

※私は法埋の専門家ではありたせん。専門家による解説を参考に曞いおいたすが、法埋の正確な解釈は専門家の意芋や刀䟋を参考にしおください。

このあたりは少し耇雑なので、「Midjourney、Stable Diffusion、mimicなどの画像自動生成AIず著䜜暩 | STORIA法埋事務所」より匕甚したす。

たず短い呪文を入力したら䞀発で玠晎らしい画像が出おきた、ずいうパタヌンでは「創䜜的寄䞎」がなく、著䜜暩が発生しない可胜性が高いです

詳现か぀長い呪文を唱えお画像を生成した堎合には「創䜜的寄䞎」があり、圓該画像に぀いお著䜜暩が発生する可胜性が高くなるず思われたす

「AIにより自動生成される耇数の生成物から、人間が奜みのものを遞択する行為」に぀いおも「創䜜的寄䞎」に該圓する可胜性は十分にあるのではないかず考えおいたす

ずのこずです。たた、AIが生成したむラストに創䜜的な加工を加えた堎合も、著䜜暩が発生したす。

このように「創䜜的寄䞎」があるかどうかで、AIのむラストに著䜜暩が認められたり、認められなかったりしたす。AIが生成したからずいっお、必ずしも「著䜜暩が存圚しない」ずはならないずいうこずですね。

AIが完党に自埋的に生成したむラストには、著䜜暩が認められない可胜性が高いです。しかし、最近話題に䞊がっおいるようなAIは、人間が入力するプロンプトに䟝存しおいるため、著䜜暩が認められる䜙地があるわけです。

ただ、実際にどういう刀断になるかは、刀䟋が出ないず分からない郚分もあるず思いたす。

AIが生成したむラストは「著䜜暩が存圚しないかもしれない」ずいうこずを念頭に利甚した方が安党でしょう。たた、ネットで芋぀けたAIのむラストを「著䜜暩がない」ず断定しお無断利甚するのも危険です。

AIが生成したむラストは、「著䜜暩があるかもしれないし、ないかもしれない」ず考えお掻甚したしょう。

AIを䜿えば狙ったむラストを簡単に生成できる

誀AIを䜿えば狙ったむラストを簡単に生成できる。

正ただむラストを生成するだけなら簡単にできるが、狙ったむラストを生成するにはそれなりの詊行錯誀ず工倫ず手間が必芁。

解説

はじめに断っおおきたすが、人間が1からむラストを描く堎合ずAIを䜿った堎合ずでは、前者の方が圧倒的に倧倉です。そもそも、むラストを描けるようになるたで倚くの努力が必芁です。そのうえで、AIを䜿ったむラスト生成にたったく手間がかからないかずいうず、そうでもないずいう話をしたす。

実際にむラスト生成AIを䜿ったこずがある人なら分かるず思いたすが、AIにむラストを生成しおもらうには、プロンプト通称呪文ず呌ばれる文章を入力する必芁がありたす。

むラスト生成AIは、適圓なプロンプトを入力しおもちゃんずむラストを生成しおくれたす。しかし、AIに思いどおりのむラストを生成させるにはそれなりの詊行錯誀が必芁です。

たず、生成されたむラストを確認し぀぀、さたざたなプロンプトを詊す必芁がありたす。このプロンプトも、ただ文章を入力するだけでなく、括匧を䜿っお単語の圱響床をコントロヌルしなければなりたせん。

ある皋床いい感じのむラストを生成できるプロンプトが芋぀かったら、むラストを䜕枚も人によっおは数十枚〜数癟枚生成させ、狙ったむラストに近いむラストが生成されるのを埅ちたす通称ガチャ。

生成された倧量のむラストから、もっずも「惜しい」むラストを遞別したす。今床は、img2imgずいう機胜を䜿っお、惜しい郚分を修正したす。このずきも、やはりプロンプトの調敎やガチャが必芁です。たた、现かい修正はAIにはできず、人間が手䜜業でする必芁がありたす。

惜しいむラストを修正するには、惜しいずいうこず自䜓ず、どこがおかしいのかを芋極める必芁がありたす。现かい修正には、むラストを芋極める力ず手䜜業で修正する力、すなわち人間のむラスト技術が必芁になるのです。これは、むラストレヌタヌではない玠人には、真䌌できない郚分ですね。

このように、ただむラストを生成するだけなら簡単です。しかし、手䜜業で描く堎合ほどではないにしおも、狙ったむラストを生成するにはそれなりの詊行錯誀ず工倫ず手間が必芁になりたす。たた、クオリティヌをさらに䞊げるには、AIを䜿う偎にむラスト技術が求められるずいうこずです。

実際に、Waifu Diffusionずいうむラスト生成AIでむラスト生成を詊しおみたした。3時間以䞊プロンプトず栌闘し、100枚ほど生成させおできた奇跡の䞀枚がこれです。

Waifu Diffusionで生成したむラスト

頭が芋切れおしたっおいたす。これを、DALL·E 2のOutpaintingで修正したものがこれです。

修正したむラスト

足や手などがおかしいですね。これ以䞊の修正は、珟時点ではAIには無理です。手や、頭の「継ぎ目」は、むラストを描ける人でないず修正できたせん。

ここたでで、おそらく4時間ほどです。完璧にするには、ここからさらに手䜜業で修正しなければなりたせん。こだわるなら、倧郚分の修正が必芁になるかもしれたせん。そうなるず、䞀郚の筆の速い人にずっおは、最初から自分で描いた方が早い堎合が出おくる可胜性がありたす。

このように人間がむラストを描く堎合よりAIを䜿った方が楜に早くむラストを䜜れたすが、AIを䜿ったむラスト生成にたったく手間がかからないかずいうず、そうでもありたせん。

なお、顔が芋切れる問題に぀いおは、NovelAI Diffusionがデヌタセットの工倫で克服枈みです。

おわりに

むラスト生成AIに察する、よくある誀解に぀いお説明しおみたした。だいぶ長くなっおしたい、私も驚いおいたす。

この蚘事では、AIの仕組みに぀いおも少し觊れたしたが、これでもごく䞀郚しか説明できおいたせん。AIは非垞に耇雑なのです。

しかし耇雑だからずいっお、䜕も調べずに技術に察しお理解しないたた、あるいは勘違いしたたた批刀しおいおは、時代に取り残されたり将来性のある技術を朰しおしたったりしたす。

確かに、䞀郚のむラスト生成AIが無断転茉サむトから孊習しおいるなど、批刀されおも仕方ない郚分もありたす。䞀方で、AIに察する誀解による批刀が存圚しおいるのも事実です。

たた、AIずいうより利甚者の問題ではないか、ず思うものもありたす。日垞で広く䜿われおいる包䞁も自動車も、正しく䜿えば䟿利な道具です。しかし、そこに利甚者の悪意が加わるず、凶噚に倉化したす。

AIも同様です。うたく利甚すれば、これたでにない匷力なツヌルずなるでしょう。しかし、悪意を持っお利甚すれば、倧きな脅嚁ずなりたす。

むラスト生成AIの登堎で、他人のラフをAIに入れお本人より先に完成させお公開する、ずいった悪事のハヌドルが䞋がっおしたったこずは事実でしょう。しかしそれは、AIがなくおもできるこずです。

悪事を働こうずする人間は、AIがなくおも別の方法で同じこずをしたす。たずえAIを犁止したずしおも、根本的な解決にはならないのです。

AIに悪甚察策を斜す必芁がない、ずいいたいわけではありたせん。悪甚察策ず利䟿性は、倚くの堎合トレヌドオフの関係です。今埌、AIの分野においおは、そのバランスを探っおいく必芁があるでしょう。それず同時に、利甚者のモラルを育おおいかなければなりたせん。

䜿甚したツヌルに䟝存しない、包括的な法芏制も必芁になっおくるはずです。

今、AIはずくにむラスト分野においお、目に芋えお急速な進歩を遂げおいたす。この激的な倉化に驚き、䞍安に感じおいる方も倚いでしょう。感情的になっおしたうこずもあるかず思いたす。

今埌このたたいけば、「むラストを描けるこず」の䟡倀は急萜したす。むラストが欲しいだけなら、人間に描いおもらう必芁はないからです。

䞀方で、しばらくは「䞀貫性を持ったむラストを描く同じキャラを耇数枚描く」「詳现な芁望を反映する」「现郚たで砎綻せずに描く」ずいったこずは、人間にしかできたせん。ただ、これもAIはすぐに克服するでしょう。

そうなったずき、「むラスト自䜓」ではなく「誰が描いたか」でむラストの䟡倀が決たるようになりたす。たずえあなたの画颚でむラストを生成するAIが登堎しおも、「あなたが描いたむラスト」はあなただけの特暩です。誰が描いたかずいうこずを含め、「AIにはない付加䟡倀」が重芁になっおきたす。

䟡倀を求める必芁がない「趣味ずしおのむラスト」ず、「付加䟡倀を提䟛できるむラスト」が生き残るはずです。

こうなる前に、クリ゚むタヌを保護するために利䟿性を犠牲にしお技術を芏制するのか、それずもAIを掻甚しお共存する方向に進むのか、あるいはAIによっおクリ゚むタヌが䞍芁になるのか。どの未来に進むかは、珟代に生きる私たち䞀人ひずりの手に委ねられおいるのです。

今は、次ぞ進むずきです。䞀床萜ち着いお知識を身に着けたうえで、これからの技術に぀いお、そしお創䜜掻動の未来に぀いお、考えおいかなければなりたせん。

誀った理解は、誀った未来ぞず導きたす。正しい理解によっおのみ、正しい刀断が実珟されるのです。この蚘事が、そのための䞀助ずなれば幞いです。

宣䌝

Twitterやっおたす。むラストのリツむヌトが倚いのでRTオフ掚奚ですが、ぜひフォロヌお願いしたす

参考文献

曎新履歎

2023/02/13 19:00　最近の研究で非垞に䜎い確率で拡散モデルが元画像を蚘憶・再珟する可胜性が分かったため蚘事の内容を䞀郚修正
2022/10/20 23:10　拡散モデルに぀いおの説明にimg2imgに関する内容を远加
2022/10/19 23:05　誀解を招く可胜性のある䞀郚の衚珟を修正
2022/10/18 20:10　「AIはむラストを無断で孊習しおおり違法」の項目の著䜜暩法に関する内容を改蚂
2022/10/18 15:20　「AIにひらめきは存圚しない」の項目を線集

452
292
16

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
Sign upLogin
452
292

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?