生成AIクリエイターに訊く生成AIと倫理。シリーズ第2回は生成AIを使ったシステム開発と、AIキャラクターの展開を行っている企業「BlendAI」代表・小宮自由さんに、先日2024年10月19日に開催された「あんしんAIセミナー」講演録をベースにご寄稿いただきました。
エキサイティングな生成AIの年になった2024年も、もう残り僅かになってきました。「つくる人をつくる」をビジョンにするAICU Inc. は、新たな挑戦をいくつか準備していきます。その一つが「『生成AI倫理』に「AIクリエイター視点でしっかりと意見を述べていこう」という取り組みです。
■あんしんなクリエイティブAIで「陽のあたる場所」をつくる（白井暁彦）
第2回：BlendAI株式会社 CEO 小宮自由さん
東京工業大学でコンピュータサイエンスを学び、東京大学ロースクールで法律を学ぶ。幾つかの職を経た後に渡欧し、オランダのIT企業でエンジニアとして従事する。その後東京に戻り、リクルートホールディングスでAI（自然言語処理）のソフトウェア作成業務に携わり、シリコンバレーと東京を行き来しながら働く。その後、ブロックチェーン業界に参入。数年間ブロックチェーンに関する知見を深める。現在は BlendAI という企業の代表としてAIキャラクター「デルタもん」を発表するなど、AIに関係した事業を行っている。
小宮自由さん プロフィール
※本講演は法律に関するお話も含まれますが、あくまで小宮さん個人による法的見解を述べるものです。実際にAI生成ビジネスをやるために法的見解を知りたい方は、個別に弁護士にご相談ください。
「あんしんAIセミナー」での講演：画像と声
画像生成AIと法律と聞いて多くの方が気になることと言えば、おそらく以下の2点が挙げられると思います。
- 生成画像って著作権侵害に当たるものなの？
- どうしたら著作権を守った画像生成ができるの？
今回は以上の2点について、小宮さんの法的見解をお話しくださいました。
結論から言うと、「用法を守れば生成画像を作成しても構わない。」のだそうです！ちゃんとルールさえ守っていれば使っても全く問題ないとのこと。
「生成された画像自体はオリジナルのデザインのもので著作権を侵害しなさそうだけど、その画像を生成するためにAIが学習する段階で著作権を侵害しているんじゃないか？」という意見がありますね。また、「AIを使っていわゆるファンアート（アニメ作品などの二次創作）を生成するのは大丈夫なの？」という意見もあります。これらは関連する法律が変わってくるので個別に見ていきます。
著作権が関連する形態と、問われるポイント
現行の著作権法を読み解くと、生成されたイラストは著作権侵害にならないそうです。学習はどうなるかと言うと、これも許されるとのこと。
著作権法には例外的に侵害に当たると判断されるケースがあります。それは、以下の2つのケースです。
- 著作権者の著作物の利用市場と衝突する。
- 将来における著作物の潜在的市場を阻害する。
これらの例外があり、なんだかAI画像は該当してしまいそうに思えます。しかし、AIに学習させる段階では侵害に当たる可能性が低いそうです。どうしてなのでしょう？
大丈夫な事例
著作権的に大丈夫な事例から見てみます。例えば、マクドナルドがAIを使ったCMを公開したことがありました。「これは著作権の侵害に当たるんじゃないか？」という意見もありましたが、このCMに出てきた女優さんは特定の人を想起させない、オリジナルの人物の顔になっていました。また、アニメキャラクターのようなイラストを生成する場合でも、特定のキャラクターを想起させないものであれば違法とは言えません。
ですが、特定のキャラクターなどを想起させるものだと、先ほどの例外的な侵害に当たるケースとなる可能性もあるのです。
怪しい事例
その怪しい事例を見てみます。例えば、次の画像はどう見てもポケモンのピカチュウですよね。これは株式会社ポケモンが公式で描いたものではなく、AIで描かれたものです。直接公式からデザインをパクってきたわけではないですが、ものすごく類似しています。このような場合、株式会社ポケモンが似たような作品を出すときや商品化しようとするときなどに競合する可能性が高いです。株式会社ポケモンにとっては、著作権の運用に関して損害が出る可能性があります。そのため、こうした特定のキャラクターなどを想起させる生成画像だと著作権法違反だと判断される可能性が高いのです。
このように、現在の日本の法律ではAI画像を生成した段階で違法性を問われる可能性はありますが、一方でAI画像に関して著作権法を争点にした判例がまだありません。今後、さまざまな判例が出てくる中で、「このような生成画像は違法だ」、「それならこのような学習も違法だろう」といった議論が生じる可能性があります。ただ、学習だけでその違法性が判断されるような事例は、今後も少ないだろうと小宮さんは考えているため、基本的には生成された画像を見て著作権の判断をするとよいとのことです。
手描きの二次創作とAI生成とで基準は変わらない
手描きの二次創作とAIの画像生成では、現行の法律では判断基準が変わりません。「画像に対して複製や編集をしてはいけないけど、著作権者の同意があればOK」とよく言われますよね。
イラストに関して言えば、「複製」と「翻案（元の趣旨に沿いつつ作り変えること）」に当たらなければ概ねOKということです。
つまりは、パクリとならないよう、ガイドラインに従っていればOKということになります。AI画像も同じです。生成の段階では、手描きと同じことを気をつければ、問題が生じることは少ないのです。
二次創作・二次利用ガイドラインが無い物に関して
問題は、二次創作や二次利用のガイドラインがない場合です。多くの場合、日本のコンテンツにはガイドラインが存在しません。それゆえに著作権侵害に当たるような形の二次創作なども多く見られます。ですが、訴えられることなく放置される事例もあると思います。
これには、好きで描いてくれているのに「著作権侵害だ！」と言うことができない、つまりファンの応援を無下にできないという事情があります。そして、二次創作などはプロモーションにもつながるため、創作してもらったほうがよいと判断されることもあります。そういった経済合理性があるならある程度は許し、ちょっとやりすぎなのがあったら許さない、といったグレーゾーンとなっているのです。
小宮さんは、二次創作の手段にAIか手描きかは全く区別はないと考えています。AIを使う場合でも、本当にその作品が好きで作っている場合は訴えられる可能性は低いでしょうし、逆にAIでたくさん作ってたくさん売って稼ごう！などということをしたら訴えられる可能性が高いということになるでしょう。二次創作をする場合は、版元の意向などをしっかり確認し、怒られたりしたらすぐに謝って取り下げるといった常識的な行動がとても大事になります。「本来はダメだけど黙認してもらっている」ということを忘れないようにする必要がありますね。
ガイドラインがある事例
ガイドラインがある事例として、「BlendAI」では、開発した「デルタもん」や「ガンマミィ」といったキャラクターは基本的に商用・非商用問わずAI画像生成を許可しています。また、漫画家の奥浩哉先生は、自身の作品について、性的な表現はNGですが、AI画像生成はいくらでもOKということをX（旧Twitter）で言っていたことがあります。
このように、AIであろうと手描きであろうと、版元の意向はきちんと確認するようにしましょう。
有志の声優による「NOMORE無断生成AI」
ちなみに、声に関しても最近ニュースがありました。声優の有志が集まり、AIで無断で自分たちの声を学習して使うのやめてほしいという啓発活動「NOMORE無断生成AI」が発表されました。これについては法的見解はどうなのでしょう？
声の無断生成は「違法だ」とは言いづらい
小宮さんの意見としては、違法だとはちょっと言いづらいのだそう。実際に、その活動では法律違反だからやめてほしいとは一言も言っていません。
というのも、声自体には著作権は認められません。画風に著作権がないのと同じです。例えば、鳥山明先生の画風に似たイラストを書いてもそれそれに著作権は主張できません。キャラクターである孫悟空を描くのはダメですが、鳥山明先生風のオリジナルキャラクターを書いて、既存のキャラクターと全然似てない場合は基本的に著作権侵害にならないのです。
声も同じようなもので、偶然その人の声と似た声の人なんかもいますよね。たまたま似た声だっただけで、その声を使って商業的な活動できない、動画などを公開できないとなると、それはもう明らかに不合理です。そのため、声自体に著作権は認められません。
ただし、声で演技をすると著作隣接権が認められる可能性が出てきます。しかし、著作隣接権は著作権より権利が少し弱く、AIに対して主張が難しいです。次の図の左にあるように、著作権法の30条の4には著作隣接権については書いていないので、「我々の利益を不当に侵害してるから声の学習は違法だ」とは言えないのです。
技術は止められない
それに加えて、一般的な話として、技術の発展は止められません。皆さんもここ1年ぐらい、AIが進歩して社会の中に定着していくのを実感していることでしょう。
写真の技術が登場した当時は、写真に反対する人もいました。「画家の仕事を奪うとからよくない。魂を込めて書いてるのにそれを無駄する」というような話がありました。しかし、今となっては写真は普及して当たり前に使われるようになりましたよね。AIも写真と同様です。ものすごく便利で有用なものであるので、社会に普及していくのはこれはもう止められないと思います。懸念を示すことも重要ながら、共存する方法を考えるのが大事だと小宮さんは考えています
「声の印税」という発想
そこで、小宮さんは「声の印税」というものを提案しています。これは「AIが声を学習して生成する許可を出す代わりに、印税のようなロイヤリティを支払うことを声優や事務所に約束する」というもの。これが定着すれば、先ほどのような声優が訴える「無断生成」というものは無くせそうです。実は、文化庁も以前同じようなことを提案しており、法律では解決が難しいけれど、クリエイターと利用者の間で納得できるルールを作った上で解決するのが望ましいという風に言っています。
声に関して詳しいまとめはこちらを参照してください。
「声の印税」で声優とAIは共存できる
「BlendAI」では、「CotoVerse（コトバース）」というものを新しく作りました。キャラクターの声と3Dモデルをつけて会話できるようにするというクラウドファンディングをやっています。これはキャラクターの声優に対してその売上の一定の割合を永続的に払うという、まさに「声の印税」を実現しているそうです。よければ小宮さんのクラウドファンディングをチェックしてみてくださいね！
＜BlendAIさんの音声収録の現場より＞
オピニオンのまとめ
- 生成AIで生成した画像は、用法を守れば著作権侵害には当たらない。
- AIの学習段階での著作権侵害の可能性は低い。ただし、生成画像が既存の著作物の市場を阻害する場合は侵害となる可能性がある。
- 特定のキャラクターを想起させないオリジナルの生成画像は問題ないが、既存キャラクターに酷似した画像は著作権侵害となる可能性が高い。
- AI画像生成に関する判例はまだ少ないため、今後の判例形成が重要。
- 手描きの二次創作とAI生成の判断基準は同じ。複製や翻案に当たらない限り、概ね問題ない。
- 二次創作・二次利用のガイドラインがない場合は、ファンの活動の促進と権利保護のバランスが考慮される。
- ガイドラインがある場合はそれに従う必要がある。
- 声の無断生成は違法とは言い切れないが、倫理的な問題が指摘されている。
- 声の印税のような、クリエイターと利用者の間で納得できるルール作りが重要。
とても丁寧に著作権法とAI生成画像との関わりを読み解いて解説してくださったおかげで、オリジナルのAI生成画像の場合は、ガイドラインを意識しながら発信して楽しむことが何よりも大事だということがわかりました。今後法律が変わっていく可能性もあるため、常に新しい情報を取り入れていくことが望ましいのでしょう。
シリーズ「AIクリエイターに訊く生成AI倫理」
生成AI分野、特にクリエイティブなAI、クリエイティブとAI分野で活躍する第一線のクリエイターの方々に直接！インタビューや講演録、寄稿や公開質問といったオピニオンを通して、法律や技術と同時に「ほんとうの意味で生成AIに求められる倫理感とは？」について時間をかけて考えてみたいというシリーズ企画「AIクリエイターに訊く生成AI倫理」を続けていきます。
AICU マガジン Vol.3での特集「生成AIの社会と倫理」では弁護士さんの見解も解説されています。2024年末限定での動画コンテンツも含まれています。
みなさんの意見も訊きたい！
ご感想はこの記事のコメント欄、もしくは
Xでは引用いただいて、ハッシュタグは
#AIクリエイターに訊く #生成AI倫理
でよろしくお願い致します。みなさんの建設的な意見はネット上のみならず、AICU Magazineや動画メディアや論文等でも扱っていきたいと考えております。
また「私はAIクリエイター、なので意見を述べたい！」という方はご寄稿いただく仕組みも準備しております。X@AICUai にてDMをいただけると幸いです。
小宮自由さんよりお知らせ：生成AI忘年会
2024/12/14(土) 18:00 〜 20:00 詳細はこちら
https://techplay.jp/event/962444
生成AI を使った創作活動をしている人限定の忘年会です。
生成AI を使って創作をしているクリエイター、創作を支援するツールを作っているエンジニア等が、AIを使ったものづくりを語り合う等して交流する会です。希望者は自分の作品やツールを発表することもできます。
創作活動の規模やレベルは問いません。初めて間もない方でも参加可能です。
こんな人におすすめ
生成AIを活用しているクリエイター
生成AIを創作に活かしているエンジニア
創作を支援するツールを作っている人
https://techplay.jp/event/962444
Originally published at https://note.com on Nov 14, 2024.