AIアート時代におけるいちクリエイターの「お気持ち」論考
はじめに
この数週間のうちに，クリエイターの周辺環境は劇的に，かつ不可逆に変化してしまいました．
まず，文章から絵画を生成する絵画生成AIサービス「MidJourny」のベータ版が一般公開され，この技術に誰でもアクセスできるようになったこと．
次に，オープンソースの絵画生成AI「Stable Diffusion」のソースコードと学習済みデータが完全無料で公開されたこと．
そして，少数の画像群から絵柄を学習し，模倣した画像を大量生成できる絵画模倣AIサービス「mimic」がイラストクリエイター人口の多い日本で公開されたこと（こちらは8/30にβ版の公開が停止されました）．
それ以前からも，線画にあるスタイルで自動彩色するAIがすでにCLIP STUDIOに実装されていたりと，人間の絵画技術を学習し模倣するAI技術が着々と生まれてきています．
このように，高度な絵画表現を学習し生成する技術が一般流通する時代となってしまった今，すべてのイラストクリエイターは否応なしに価値観のアップデートを迫られるようになりました．現在その功罪をめぐって様々な議論がSNSで繰り広げられています．
この記事では，上記の現状を分析したうえで，その所感と近未来をできるだけ具体的に言語化してみようと思います．特に，法律が追い付いていない現状で，クリエイターにとって絵画AIの何が許されないと感じるのかについて具体的に言語化することは，今後の建設的議論にとって非常に重要です．140文字に制限されることなく，「気持ち悪い」だけで終わらせることなく，じっくりと腰を据えてこの問題について考えたいと思います．
ちなみに，私はコンピュータサイエンスと心理学の研究者で，専門ではありませんが手習いにGAN (初期の画像生成AI) やGA（遺伝的アルゴリズム）を組んだことがある程度のAI技術があり，昔から時々趣味でイラストを描いています．要は，技術的なことがちょっとだけわかる木っ端絵師です．法律は専門外です．
また，私も二次創作をメインにたしなむ人間ですので，あまり偉そうなことを言える立場でないのは自覚していますが，この記事は一般論を語ったものとしてご容赦ください．なお，二次創作にも二次創作者に著作権が発生しますので，この記事でクリエイターといえば二次創作者も含むものとします．
Highlights
- クリエイターは絵画AIの登場により，①著作人格権のひとつである同一性保持権を絵柄によって維持できなくなることと，②絵柄という知的財産の価値が失われることを危惧している．
- 現状ではほとんど杞憂だが，今後AIが発展すれば上記の問題が一部発生しうる．
- ①の侵害は絵画AIを使う悪意ある人間の問題なので，今まで通り個別に対応していけばよい．
- ②については，絵柄によるセルフプロデュースを続けるなら絵画AIを前提とした新しいやり方が必要になる．
- もはや絵画AIは世界的潮流であり現実的に規制できないので，うまく付き合う方法を考えよう．
絵画生成AIが内部で何をやっているのか
ここでは細かい技術をかなりデフォルメします．機械学習分野に詳しい方はご容赦ください．
参考：
https://ja.stateofaiguides.com/20220412-dalle-2-image-generation/
Stable Diffusionで使われている技術「DALL-E2」を簡単に説明すると，文章と画像の概念レベルでの相互翻訳が可能なAIを学習する過程でクロスモーダルな概念空間を獲得し，更に概念から画像を再構成するAIを用いることで，文章から抽象的な概念へ，抽象的な概念から画像へと変換する技術です（ここでいう「クロスモーダル」とは，文章と画像という別種の情報源（モーダル）が相互に影響しあっていることを差しています）．
クリエイターが最も気にする点は「こいつは私の絵を勝手にコピペ（コラ）する悪いAIなんじゃないか？」ということでしょうが，抽象化という段階を噛ませているため，中で学習データの部品をコラージュしているわけではないですし，学習データ内の画像そのもの（完全一致するもの）が生成される可能性は（厳密にゼロではないけど）天文学的に低く，実質上ゼロといっていいレベルです．ただし，学習に使われた絵から得られる抽象的概念が十分に特異的であった場合，学習データの絵によく似た絵が出てくることがあります（例えば，学習した絵に必ずついていたサインまで画風の一種として学習したり…）．これはAIに描き方を細かく指定していけばそれなりの確率で出てくると思います．一言でいうと，「単なるコピペではなくAIなりに咀嚼して描いている」と考えてよいと思います．
さて，文章や画像から学習される概念は意味的な「演算」ができます．概念空間では例えば，「女性の画像」＋「眼鏡をかけた男性の画像」ー「男性の画像」＝「眼鏡をかけた女性の画像」といった演算が成立します．これは画風でも同じで，過去にStyle Transferという名前で一大注目を浴びました．mimicはそれをイラスト顔画像に特化して，高精細にやっているのだと予想します．
ちなみに，絵画生成AIの技術はここ数カ月で産まれたものではなく，数年前の段階から登場していました．今回Stable Diffusionが利用可能な形でソースコードが公開されたこともあり，絵画生成AIを使ったサービスは爆発的な速度で発展していくでしょう．
絵画生成AIに対する法的な見解
私は法律の専門家ではありませんが，以下のような議論を見かけました．
参考：
https://www.itmedia.co.jp/news/articles/2208/09/news162_3.html
https://wired.jp/article/openai-dalle-copyright-intellectual-property-art/
https://news.yahoo.co.jp/articles/63759292d84942f51e26aaee264edae3943d1c73
https://storialaw.jp/blog/3573
改正著作権法の概要資料
https://www.bunka.go.jp/seisaku/chosakuken/hokaisei/h30_hokaisei/pdf/r1406693_02.pdf
絵柄の著作権について
https://togetter.com/li/1936934
https://ameblo.jp/hibari-o/entry-12111208397.html
https://kigyobengo.com/media/useful/203.html
https://www.astermarksip.jp/character-protection.html
mimicガイドライン
https://radius5.notion.site/bb06c57fee9849548e4ab139788b1eff#ed5b5bf84244467e9bf338bd4497e83e
○ 第三者が特定のクリエイターを模倣するように学習可能にするのは明確な不利益を生じる可能性があるため，著作権法47条の5で示される「（AIによる創造物のために基本的には許諾なしで利用可能だが）ただし，著作権者の利益を不当に害する場合はこの限りでない．」に該当するのではないか？
- AIが生成した画像の著作権については，ユーザーが創作意図に寄与している場合はユーザーに著作権が生じる．
- OpenAIをはじめとするAI提供者は，生成画像についてはユーザーが商用利用可能としているのが一般的．
- mimicで生成したイラストはクリエイター（イラスト権利者）に帰属し，ユーザーは自身が描いた画像以外をアップロードすることを利用規約で禁じている．発覚した場合，アカウント停止と捜査機関への情報提供を示唆する内容がある．
- 作品には著作権が発生するものの，絵柄そのものやキャラクターそのものには著作権はない．
○ キャラクター自体の権利を保護するには商標登録が必要．
○ 絵柄の模倣による不利益は不正競争防止法による保護を受けられる余地があるが，権利を前提としたものではないため，ケースバイケースで法廷で争う必要がある．
- 元イラストの特徴がありふれた表現でなく，本質的特徴が類似する場合は著作権侵害に当たる．
○ AI生成物が既存著作物に「偶然」似てしまった場合は，侵害成立要件の「依然性」に該当する可能性が高い．
クリエイターは何を危惧しているのか
そもそも上述のように，絵柄自体には著作権はありませんので，本来は絵柄模倣AIは法的に問題ないはずです．しかし現実には，少なくないクリエイターから激しい反発が生まれました．一体なぜでしょうか？
これまで，クリエイターがひとつの絵柄を獲得するまでには並大抵ではない努力が必要でした．そして絵柄というのはおよそ人が真似しようとしてもなかなか真似できるものではなく，完璧に真似しようとしてもどうしても自身の個性がにじみ出てしまうものです．それ故に，我々には暗黙のうちに「絵柄の一致＝クリエイターが同一」という図式が成り立っていました．（余談ですが，ジョジョパロのような絵柄の恩恵が大きいパロディもこの性質があるからこそギャグとして成立しています）
しかし，絵柄模倣AIのリリースと絵画生成AIの発展によって，苦労して育てた自分の絵柄が瞬時にコピーされ大量拡散される世界に不可逆に変質しまったのが現状です．このことは，現代のクリエイターに２つの本質的な不利益をもたらす可能性があります．
-
クリエイターが絵柄によって自己の表現をコントロールできなくなる．
クリエイターの多くは，自己の作品の内容を無断で改変されないことを望んでいます（同一性保持権）．これまでは絵柄の模倣が難しかったため，「その作品が本当にAさんが発信したものである」という保証として，絵柄の一致性がクリエイター側にも見る側にも通用していました．しかし絵柄をごく短時間で高精度に模写できるようになった今，見る側は”それ”がクリエイターの発信物であるかAI作品なのかを判別することが極端に難しくなりました．これにより，クリエイターが本来望んでいない表現を「Aさんがこんな作品を作った」と第三者が誤認させられるようになります．特に，作家性の中で絵柄の比重が大きい二次創作者にとってはこの問題はよりクリティカルになります．
たとえば，「クリエイターのAさんが絶対描かないはずのNTRモノが間違いなくAさんの絵柄で流通している」という状況を想像してみましょう．実際にはAIの生成物であっても，絵柄が一致しているため，ほとんどの人は一見して「ついにAさんがNTRに屈した」と受け取ってしまいます．これはNTR絶対許さない派のAさんの脳が破壊されるだけでなく，絵柄と作風によって「私は今後もNTRモノは絶対に描きません」と暗黙に周知していたAさんのこれまでのセルフブランディングまでも毀損し，将来の売り上げやキャリアを失わせる行為に繋がりかねません．DeepFakeの構図とかなり似ていますね．
このように，AIによる高速・高精度の絵柄模倣は，クリエイター本人が望まない表現を絵柄という一種の証明書と共に流通させてしまう可能性があり，大衆が思う「自分（の作品）」をクリエイター自身がコントロールできなくなる危険性を孕んでいます．自分の絵柄が自分の知らないところで生まれる可能性が生じてしまったことについて，少なくないクリエイターが「気持ち悪い」と表現するのはこのような背景があります．
-
これまでの絵柄の発明価値が劇的に低下する．
絵柄とは，クリエイター各人の創意工夫の末に生まれる努力の結晶であり，一種の知的財産といえます．自然科学に基づく発明考案であれば，特許という形で発明者の創意工夫にかけた時間とひらめきの質に対して褒賞と対価が得られますが，絵柄にはそれがありません．ですので，一度よい絵柄が生まれれば大量のフォロワーが生まれます（たとえば「グラブル塗り」などが代表例でしょうか）．しかしながら，絵柄の特徴をフォロワーが学習するまでにはそれなりの時間がかかることや，学習しきってもなお元の絵柄の個性が残ることがほとんどであることから，絵柄の普及までの実質的な独占的使用が実現されつつ，新しい絵柄の発明に繋げる重要な礎としてフォロワーに賞賛されるという，特許制度に似たエコシステムが構築されていました．
誰でも利用可能な絵柄模倣AIは，この既存のエコシステムを根本から破壊してしまう恐れがあります．新しい絵柄を苦労して発明しても，労することなく簡単に完璧にコピーされてしまい，簡単にコピーされるが故に絵柄を生み出したことについて賞賛もされない，なんてことになるかもしれません．むしろ，絵柄をコピーした側こそがオリジナルだと考えられて賞賛が集まってしまい，開発者の自分がパクリだと誹られる可能性すらあります．これでは，新しい絵柄を苦労して開発するモチベーションがありません．
もちろん，クリエイターもゼロから絵柄を発明するわけではありませんので，誰かの絵柄をどこかで模倣している点は絵画AIと同じです．しかしながら，ほとんどの創造的なクリエイターにとって模倣は自己表現のブラッシュアップのための咀嚼であり，絵柄の完璧なコピーを目的としていません．実際，絵柄を特定のクリエイターに寄せすぎると「Aの絵柄はBのパクリ！」という風に叩かれる現象があります（絵柄には著作権がないのに！）．このことは，我々が法律以前の肌感覚として，絵柄やスタイルの同一性に一種の独占権のようなものを想定していることを如実に示しているのではないでしょうか．ここら辺は法哲学の専門家にぜひ議論して頂きたいところです．
クリエイターは絵画AIの不安にどう向き合うべきか
上記の不安は今のところ半分杞憂です．実際に触ってみると分かりますが，そもそも現状のMidJourney / Stable Diffusionは，自分の思った通りの絵を出すこと自体が難しいです．AIに食わせる文章を洗練させるAIが出てくるなどで今後より扱いやすくなったとしても，文章から画像を生成するタイプのAIであればこの傾向は一般に変わらないでしょう．なぜなら，一般に絵画を構成する概念の次元（自由度）は非常に高いからです．そのような高次元空間から文章によって意図した理想の画像を含む狭い部分空間を的確にピックアップするのは困難を極めます．この自由度はデータセットやニューラルネットワークの組み方によって変わるのですが，今後仮にそのようなことができるAIが現れたとしても，そのAIの汎用性は逆に非常に狭くなると思われます．ですので，自らが手を動かして描く必要性は今後も残っていくものと思われます．何より，描くことの楽しさや喜びまではAIにも奪えません．
半分は，実際に起こりうることでしょう．ただし前提として，悪いのはAIではなくそのAIを悪用する第三者だと私は考えています．
同一性保持権の侵害については，今までも雑コラやパロディ二次創作などの形で既に発生していた問題でもあります．絵柄模倣が誰でも使える技術になったことでその参入障壁は今後間違いなく下がるでしょうが，3Dスキャナや3Dプリンタのように，絵画生成AIを上手く扱う技術が新しい技術的障壁となるため，文字通り誰もがクリエイターの同一性保持権をいつでも侵害する未来にはならないと考えます．新技術を変に恐れず，問題が発生したら今まで通り個別に対応すればよいだけの話に思えます．むしろ，絵画AIの登場によって必ずしも絵柄の一致がクリエイター（著作者人格）の一致にならないことが周知されますので，将来問題が生じた際の周囲の理解は比較的早いのではないでしょうか．
また，絵を満足に描けない人が自由に絵柄を模倣できた場合に望むことは「こっそりと，あのキャラのあんなシチュの画像があの素敵な絵柄で欲しい！」だと思いますが，キャラとシチュと絵柄を正確に指定できる絵画生成AIは（今後現れるかもしれませんが）現状ありません．
（9/2修正:ここに私的複製に関する私見を述べましたが、思うところがあり削除しました）
一方で，知的財産としての絵柄の価値については少々深刻です．AIが絵柄を模倣できるということは，単にコピー品を作れるということに留まりません．それは絵柄の数値化ができたということであり，絵柄のリバースエンジニアリングが格段に容易になったことを意味します．私はこの問題については，もはや産業革命が起こったものとして，今までのように絵柄を秘伝的に守れない世界になったと諦めと共に受け入れるのが早いのではないかと考えています．むしろ，自分の絵柄のオリジナリティを商売上の武器にしたいならば，逆にAIを上手く活用した新しいセルフプロデュースの形を模索していくことが今後必要になるのではないかと考えられます．例えば，AIで分析した自分の絵柄のレシピを自ら公開して積極的に自分の絵柄フォロワーを増やしていく，AIで様々な流行の絵柄を分析し新しい魅力的な絵柄を次々と開発していく，などが考えられます．
これについては，絵柄と同じく著作権が認められない（が，絵柄と違って特許権は認められる）料理のレシピを例にとって考えましょう．まず，料理には著作権が認められません．従ってレシピを独占的に使用するには，特許権を取得してレシピを公開しながら時限的に独占するか，レシピを一切秘匿するかのどちらかになります．一見して材料の成分比率の分からない食品では基本的に後者が得です．しかし近年，人間の味覚を再現した味センサが開発されたため，食品開発の現場で特定の味を数値的に再現できるようになり，味のリバースエンジニアリングが可能になってしまいました．これで食品業界がどうなったかというと，各社がより良い味を作り出すためのレシピ改良にこの味センサを積極的に活用するようになったのです．絵画の問題が食品のケースに完全に当てはまるわけではありませんが，同様にクリエイターが絵画AIを積極的に活用して，自らの作品をよりブラッシュアップするような使い方ができるようになるとよいと思います．
おわりに
さて，物議を醸した絵柄模倣AIサービス「mimic」の利用規約を見てみると，（少なくとも建前上は）被害をできるだけ抑えるようにうまくできているように思えます．悪意ある第三者が拡散したとしても，その権利は模倣されたイラストの制作者に移ることになり，権利者削除が認められることになるからです（文面を読んだ個人の見解です）．また，Twitter連携によって作者同一性を第三者にチェックさせる機能がついている点もうまいと感じました．これにより，元の作者だけでなくファンも不当な利用がないか監視しやすくなります．実際のところ，顔画像のみという制約もあり，mimicを低リスクで悪用するのは難しいのではないでしょうか．
しかしながら，規約を無視すれば悪意ある第三者が無断で他者のイラストをアップロードできてしまうことには変わりなく，元のクリエイターの同一性保持権が侵害される被害の発生自体は防げない仕組みになっていました．この指摘を受け，8/31現在ではβ版の公開が停止されています．
基本的に，このようなAIの学習や利用を規制するのは悪手です．仮にmimicを日本の法的根拠に基づいて潰そうとしても，技術がオープンになってしまった今，日本のクリエイターの論理が通じない海外で絵画AIが今後ますます発展するでしょう．例えば米国では，フェアユースの概念に基づいてインターネット上の画像は事実上無制限に利用できることになっている（おそらく今後も変わらない）ので，クリエイターが自身の著作物についてAIへの利用禁止を主張しても無視される可能性が高いです（botで大量の画像を収集する仕組みのため，技術的な意味でも個別の使用禁止声明に対応するのは不可能に近いです）．個人的には，規約をしっかり作りこんでいる点で好印象なので，海外から無法なAIが展開される前にmimicのような日本のサービスがイラスト界隈でのデファクトスタンダードとなることを期待しています．
まとめると，今までの絵画AIがなかった世界にはどうやってももう戻れないのですから，新たな黒船が来航する前に，過度な危惧をせずに早いうちから絵画生成AIの技術とうまく付き合っていくのが得策です．既に，MidJourneyをアイディア出しやラフのために使い始めているクリエイターも複数出現しています．実際のところ，絵画生成AIを最もうまく使えるのは，元々イラスト制作の素養があるクリエイターなのではないでしょうか？私もいちクリエイターとして，この技術を上手く使えるようになりたいと思います．
