タグ: AI

生成AIクリエイターに訊く生成AIと倫理。シリーズ第2回は生成AIを使ったシステム開発と、AIキャラクターの展開を行っている企業「BlendAI」代表・小宮自由さんに、先日2024年10月19日に開催された「あんしんAIセミナー」講演録をベースにご寄稿いただきました。

エキサイティングな生成AIの年になった2024年も、もう残り僅かになってきました。「つくる人をつくる」をビジョンにするAICU Inc. は、新たな挑戦をいくつか準備していきます。その一つが「『生成AI倫理』に「AIクリエイター視点でしっかりと意見を述べていこう」という取り組みです。

■あんしんなクリエイティブAIで「陽のあたる場所」をつくる（白井暁彦）

第2回：BlendAI株式会社 CEO 小宮自由さん

東京工業大学でコンピュータサイエンスを学び、東京大学ロースクールで法律を学ぶ。幾つかの職を経た後に渡欧し、オランダのIT企業でエンジニアとして従事する。その後東京に戻り、リクルートホールディングスでAI（自然言語処理）のソフトウェア作成業務に携わり、シリコンバレーと東京を行き来しながら働く。その後、ブロックチェーン業界に参入。数年間ブロックチェーンに関する知見を深める。現在は BlendAI という企業の代表としてAIキャラクター「デルタもん」を発表するなど、AIに関係した事業を行っている。

小宮自由さん プロフィール

※本講演は法律に関するお話も含まれますが、あくまで小宮さん個人による法的見解を述べるものです。実際にAI生成ビジネスをやるために法的見解を知りたい方は、個別に弁護士にご相談ください。

「あんしんAIセミナー」での講演：画像と声

画像生成AIと法律と聞いて多くの方が気になることと言えば、おそらく以下の2点が挙げられると思います。

• 生成画像って著作権侵害に当たるものなの？
• どうしたら著作権を守った画像生成ができるの？

今回は以上の2点について、小宮さんの法的見解をお話しくださいました。

結論から言うと、「用法を守れば生成画像を作成しても構わない。」のだそうです！ちゃんとルールさえ守っていれば使っても全く問題ないとのこと。

「生成された画像自体はオリジナルのデザインのもので著作権を侵害しなさそうだけど、その画像を生成するためにAIが学習する段階で著作権を侵害しているんじゃないか？」という意見がありますね。また、「AIを使っていわゆるファンアート（アニメ作品などの二次創作）を生成するのは大丈夫なの？」という意見もあります。これらは関連する法律が変わってくるので個別に見ていきます。

著作権が関連する形態と、問われるポイント

現行の著作権法を読み解くと、生成されたイラストは著作権侵害にならないそうです。学習はどうなるかと言うと、これも許されるとのこと。

著作権法には例外的に侵害に当たると判断されるケースがあります。それは、以下の2つのケースです。

• 著作権者の著作物の利用市場と衝突する。
• 将来における著作物の潜在的市場を阻害する。

これらの例外があり、なんだかAI画像は該当してしまいそうに思えます。しかし、AIに学習させる段階では侵害に当たる可能性が低いそうです。どうしてなのでしょう？

大丈夫な事例

著作権的に大丈夫な事例から見てみます。例えば、マクドナルドがAIを使ったCMを公開したことがありました。「これは著作権の侵害に当たるんじゃないか？」という意見もありましたが、このCMに出てきた女優さんは特定の人を想起させない、オリジナルの人物の顔になっていました。また、アニメキャラクターのようなイラストを生成する場合でも、特定のキャラクターを想起させないものであれば違法とは言えません。

ですが、特定のキャラクターなどを想起させるものだと、先ほどの例外的な侵害に当たるケースとなる可能性もあるのです。

怪しい事例

その怪しい事例を見てみます。例えば、次の画像はどう見てもポケモンのピカチュウですよね。これは株式会社ポケモンが公式で描いたものではなく、AIで描かれたものです。直接公式からデザインをパクってきたわけではないですが、ものすごく類似しています。このような場合、株式会社ポケモンが似たような作品を出すときや商品化しようとするときなどに競合する可能性が高いです。株式会社ポケモンにとっては、著作権の運用に関して損害が出る可能性があります。そのため、こうした特定のキャラクターなどを想起させる生成画像だと著作権法違反だと判断される可能性が高いのです。

このように、現在の日本の法律ではAI画像を生成した段階で違法性を問われる可能性はありますが、一方でAI画像に関して著作権法を争点にした判例がまだありません。今後、さまざまな判例が出てくる中で、「このような生成画像は違法だ」、「それならこのような学習も違法だろう」といった議論が生じる可能性があります。ただ、学習だけでその違法性が判断されるような事例は、今後も少ないだろうと小宮さんは考えているため、基本的には生成された画像を見て著作権の判断をするとよいとのことです。

手描きの二次創作とAI生成とで基準は変わらない

手描きの二次創作とAIの画像生成では、現行の法律では判断基準が変わりません。「画像に対して複製や編集をしてはいけないけど、著作権者の同意があればOK」とよく言われますよね。
イラストに関して言えば、「複製」と「翻案（元の趣旨に沿いつつ作り変えること）」に当たらなければ概ねOKということです。

つまりは、パクリとならないよう、ガイドラインに従っていればOKということになります。AI画像も同じです。生成の段階では、手描きと同じことを気をつければ、問題が生じることは少ないのです。

二次創作・二次利用ガイドラインが無い物に関して

問題は、二次創作や二次利用のガイドラインがない場合です。多くの場合、日本のコンテンツにはガイドラインが存在しません。それゆえに著作権侵害に当たるような形の二次創作なども多く見られます。ですが、訴えられることなく放置される事例もあると思います。

これには、好きで描いてくれているのに「著作権侵害だ！」と言うことができない、つまりファンの応援を無下にできないという事情があります。そして、二次創作などはプロモーションにもつながるため、創作してもらったほうがよいと判断されることもあります。そういった経済合理性があるならある程度は許し、ちょっとやりすぎなのがあったら許さない、といったグレーゾーンとなっているのです。

小宮さんは、二次創作の手段にAIか手描きかは全く区別はないと考えています。AIを使う場合でも、本当にその作品が好きで作っている場合は訴えられる可能性は低いでしょうし、逆にAIでたくさん作ってたくさん売って稼ごう！などということをしたら訴えられる可能性が高いということになるでしょう。二次創作をする場合は、版元の意向などをしっかり確認し、怒られたりしたらすぐに謝って取り下げるといった常識的な行動がとても大事になります。「本来はダメだけど黙認してもらっている」ということを忘れないようにする必要がありますね。

ガイドラインがある事例

ガイドラインがある事例として、「BlendAI」では、開発した「デルタもん」や「ガンマミィ」といったキャラクターは基本的に商用・非商用問わずAI画像生成を許可しています。また、漫画家の奥浩哉先生は、自身の作品について、性的な表現はNGですが、AI画像生成はいくらでもOKということをX（旧Twitter）で言っていたことがあります。

このように、AIであろうと手描きであろうと、版元の意向はきちんと確認するようにしましょう。

有志の声優による「NOMORE無断生成AI」

ちなみに、声に関しても最近ニュースがありました。声優の有志が集まり、AIで無断で自分たちの声を学習して使うのやめてほしいという啓発活動「NOMORE無断生成AI」が発表されました。これについては法的見解はどうなのでしょう？

声の無断生成は「違法だ」とは言いづらい

小宮さんの意見としては、違法だとはちょっと言いづらいのだそう。実際に、その活動では法律違反だからやめてほしいとは一言も言っていません。

というのも、声自体には著作権は認められません。画風に著作権がないのと同じです。例えば、鳥山明先生の画風に似たイラストを書いてもそれそれに著作権は主張できません。キャラクターである孫悟空を描くのはダメですが、鳥山明先生風のオリジナルキャラクターを書いて、既存のキャラクターと全然似てない場合は基本的に著作権侵害にならないのです。

声も同じようなもので、偶然その人の声と似た声の人なんかもいますよね。たまたま似た声だっただけで、その声を使って商業的な活動できない、動画などを公開できないとなると、それはもう明らかに不合理です。そのため、声自体に著作権は認められません。

ただし、声で演技をすると著作隣接権が認められる可能性が出てきます。しかし、著作隣接権は著作権より権利が少し弱く、AIに対して主張が難しいです。次の図の左にあるように、著作権法の30条の4には著作隣接権については書いていないので、「我々の利益を不当に侵害してるから声の学習は違法だ」とは言えないのです。

技術は止められない

それに加えて、一般的な話として、技術の発展は止められません。皆さんもここ1年ぐらい、AIが進歩して社会の中に定着していくのを実感していることでしょう。

写真の技術が登場した当時は、写真に反対する人もいました。「画家の仕事を奪うとからよくない。魂を込めて書いてるのにそれを無駄する」というような話がありました。しかし、今となっては写真は普及して当たり前に使われるようになりましたよね。AIも写真と同様です。ものすごく便利で有用なものであるので、社会に普及していくのはこれはもう止められないと思います。懸念を示すことも重要ながら、共存する方法を考えるのが大事だと小宮さんは考えています

「声の印税」という発想

そこで、小宮さんは「声の印税」というものを提案しています。これは「AIが声を学習して生成する許可を出す代わりに、印税のようなロイヤリティを支払うことを声優や事務所に約束する」というもの。これが定着すれば、先ほどのような声優が訴える「無断生成」というものは無くせそうです。実は、文化庁も以前同じようなことを提案しており、法律では解決が難しいけれど、クリエイターと利用者の間で納得できるルールを作った上で解決するのが望ましいという風に言っています。

声に関して詳しいまとめはこちらを参照してください。
「声の印税」で声優とAIは共存できる

「BlendAI」では、「CotoVerse（コトバース）」というものを新しく作りました。キャラクターの声と3Dモデルをつけて会話できるようにするというクラウドファンディングをやっています。これはキャラクターの声優に対してその売上の一定の割合を永続的に払うという、まさに「声の印税」を実現しているそうです。よければ小宮さんのクラウドファンディングをチェックしてみてくださいね！

＜BlendAIさんの音声収録の現場より＞

オピニオンのまとめ

• 生成AIで生成した画像は、用法を守れば著作権侵害には当たらない。
• AIの学習段階での著作権侵害の可能性は低い。ただし、生成画像が既存の著作物の市場を阻害する場合は侵害となる可能性がある。
• 特定のキャラクターを想起させないオリジナルの生成画像は問題ないが、既存キャラクターに酷似した画像は著作権侵害となる可能性が高い。
• AI画像生成に関する判例はまだ少ないため、今後の判例形成が重要。
• 手描きの二次創作とAI生成の判断基準は同じ。複製や翻案に当たらない限り、概ね問題ない。
• 二次創作・二次利用のガイドラインがない場合は、ファンの活動の促進と権利保護のバランスが考慮される。
• ガイドラインがある場合はそれに従う必要がある。
• 声の無断生成は違法とは言い切れないが、倫理的な問題が指摘されている。
• 声の印税のような、クリエイターと利用者の間で納得できるルール作りが重要。

とても丁寧に著作権法とAI生成画像との関わりを読み解いて解説してくださったおかげで、オリジナルのAI生成画像の場合は、ガイドラインを意識しながら発信して楽しむことが何よりも大事だということがわかりました。今後法律が変わっていく可能性もあるため、常に新しい情報を取り入れていくことが望ましいのでしょう。

シリーズ「AIクリエイターに訊く生成AI倫理」

生成AI分野、特にクリエイティブなAI、クリエイティブとAI分野で活躍する第一線のクリエイターの方々に直接！インタビューや講演録、寄稿や公開質問といったオピニオンを通して、法律や技術と同時に「ほんとうの意味で生成AIに求められる倫理感とは？」について時間をかけて考えてみたいというシリーズ企画「AIクリエイターに訊く生成AI倫理」を続けていきます。

AICU マガジン Vol.3での特集「生成AIの社会と倫理」では弁護士さんの見解も解説されています。2024年末限定での動画コンテンツも含まれています。

https://j.aicu.ai/MagV3

みなさんの意見も訊きたい！

ご感想はこの記事のコメント欄、もしくは
Xでは引用いただいて、ハッシュタグは
#AIクリエイターに訊く #生成AI倫理
でよろしくお願い致します。みなさんの建設的な意見はネット上のみならず、AICU Magazineや動画メディアや論文等でも扱っていきたいと考えております。

また「私はAIクリエイター、なので意見を述べたい！」という方はご寄稿いただく仕組みも準備しております。X@AICUai にてDMをいただけると幸いです。

小宮自由さんよりお知らせ：生成AI忘年会

2024/12/14(土) 18:00 〜 20:00 詳細はこちら

https://techplay.jp/event/962444

生成AI を使った創作活動をしている人限定の忘年会です。
生成AI を使って創作をしているクリエイター、創作を支援するツールを作っているエンジニア等が、AIを使ったものづくりを語り合う等して交流する会です。希望者は自分の作品やツールを発表することもできます。
創作活動の規模やレベルは問いません。初めて間もない方でも参加可能です。
こんな人におすすめ
生成AIを活用しているクリエイター
生成AIを創作に活かしているエンジニア
創作を支援するツールを作っている人

https://techplay.jp/event/962444

Originally published at https://note.com on Nov 14, 2024.

エキサイティングな生成AIの年になった2024年も、もう残り僅かになってきました。「つくる人をつくる」をビジョンにするAICU Inc. は、新たな挑戦をいくつか準備していきます。その一つが「『生成AI倫理』に「AIクリエイター視点でしっかりと意見を述べていこう」という取り組みです。

シリーズ「AIクリエイターに訊く生成AI倫理」

生成AI分野、特にクリエイティブなAI、クリエイティブとAI分野で活躍する第一線のクリエイターの方々に直接！インタビューや講演録、寄稿や公開質問といったオピニオンを通して、法律や技術と同時に「ほんとうの意味で生成AIに求められる倫理感とは？」について時間をかけて考えてみたいというシリーズ企画「AIクリエイターに訊く生成AI倫理」を開始します。

第1回はAICU代表、AICU media編集長、デジタルハリウッド大学大学院 特任教授、「しらいはかせ」こと白井暁彦（@o_ob）からスタートします。いつもは編集長として、プリンシパルライターとしてAICU編集部で執筆する白井氏ですが、今回は先日開催された東京科学大学INDEST「あんしんAIセミナー」で語られた講演録『あんしんなクリエイティブAIで「陽のあたる場所」をつくる』から、聞き手は編集部です。第三者視点で、最新の考えに迫ります。

今回の講演概要

白井さんはエンターテイメントシステムの研究者です。

AICUという会社をやっています。AICUでは、例えばチャットボットを作ったり、動画を作ったり、レクチャーをしたり、読み物メディアとして『AICUmedia』、『AICUマガジン』等々のメディアを運営したりしてきています。また、画像生成をしていく人たちの品質やテクニック、倫理観を検定試験にしていく取り組みも提案しているそうです。

今回は、そんな検定試験の中身になるようなお話です。白井さんは「つくる人をつくる」、クリエイティブAIで「陽の当たる場所」を作っていこうと考えています。法整備も大事ですが、そもそもAIが理解されていない問題が生成AIの普及を阻んでいます。事例とともにその問題をどんどん明らかにしていき、科学コミュニケーターで培った経験を元に様々な世代に「子供でもわかるような言葉」を意識して伝えています。白井さんのお話を全て紹介することはできませんが、その言葉の一部を見ていきましょう。

事例1：『超入門：Stable Diffusionではじめる画像生成AI』

最近、韓国をベースにする国際ラーニングメディア「Coloso」への3件の動画コンテンツシリーズをリリースしました。「Coloso（コロソ）」という韓国をベースにする国際ラーニングメディアで公開されています。

・『超入門：Stable Diffusionではじめる画像生成AI』
・『初級者：広告企画から動画制作までのプロセス』
・『ComfyUIマスター：カスタムノードとアプリ開発』 

白井氏：この3作は基本的に、（アニメや漫画、イラストではなく）「リアリスティックな生成AIじゃなきゃ作れない」という画質の画像生成を「責任を持って活用する」ための「持続的創作活動を行う基盤を築く」というコンセプトで作っています。氏は『韓国の生成AI分野は日本と異なる進化・進歩・倫理観があり、困難も多いが韓国企業とのコラボレーションから学ぶことは多い』と述べており、また『結構な勢いで売れていて、こういうのを学びたい人はちゃんとお金払って学ぶんだなということが体感できた』と述べています。

白井氏：日本では文化庁をはじめ、法整備が進んでいる一方で、議論がいわゆる「炎上屋」のおかげで変なブレーキが踏まれてしまうケースがみられます。それからテクノロジー的には「SD黄色本」で解説した「AUTOMATIC1111」に並んで「ComfyUI（コンフィユーアイ）」のほうが主流になっていて、知っている人たちの技術はものすごく高い一方で、まとまった体系的な知識を教えられる人がいるのかというとなかなかアンダーグラウンドな世界に落ちている感じがしています。なので、教科書などを真面目に作って、専門学校の先生とか大学の先生がそれを利用できるようにするということやっています。

事例2：『AICUマガジン』

また、中高生がこういったAIの世界を楽しそうと思って入ってこれるように『AICUマガジン』を毎月発行しています。漫画の書き方や生成AI時代の社会と倫理なども特集しました。

「AniFusion」（アニフュージョン）みたいな最新刊のテクノロジーツールといったものが袋とじになっていて、これを買ってくれた人がコードを入れると1ヶ月無料で遊べるというのもやっています。書いてあるプログラムや書いてあるプロンプトを打ち込んだら同じことができるみたいなことができる世界は、すごく大事だなと思っています。なので、儲からないですけど、根性でAICU Magazineは出し続けています。

頑張って続けていると、Stability AIも準公式で協力してくれますし、「BlendAI」のキャラクター「ガンマミィ」の漫画連載が始まるなどしました。漫画の連載が始まるというのはすごい大事なことで、「AIで漫画を描く人」に「漫画の原稿料が払える」ということなんですよね。そういう世界がやってこないと、いくら無料でコンテンツを作り続けても、それはその趣味への範囲を超えていかないということなんです。紙の本を出すということも結構重要で、ちゃんと産業が成り立っていく、その重さを感じられます。

事例3：博士や修士卒が書く知的探求メディア

実はAICUの主要ライター陣は「しらいはかせ」、東京工業大学知能システム科学卒・博士(工学)をはじめとして国内外の大学の修士卒以上が活躍しています。これは白井氏の日本科学未来館での科学コミュニケーターという経験からきているらしく、『専門的な知識を有しているからこそ、責任持って面白く、わかりやすく伝えるプロでもある』という考え方があるそうです。

最近では、東京ゲームショウ（TGS2024）での紹介記事がきっかけになって、テレビ取材になったケースも有るそうです。

▲感情分析で変わるゲーム【トレたまneo】2024.10.03

たしかに、ゲームやアニメの世界と違って、クリエイティブAIの世界は専門的な知識、特にコンピューターサイエンスから工学、芸術学、メディア学や文学などにも精通している必要がありますよね。怪しげな情報が飛び交うディープ・フェイクの時代に「博士や修士でなければ責任持って書けない」という視点は特徴があります。

事例4：障害者向けクリエイティブワークショップ

白井氏：僕らの仕事の中には、神奈川県をクライアントにして、「ともいきメタバース講習会」という障害者に向けたクリエイティブワークショップも実施しています。障害者の施設を回って、知的障害、身体障害、精神障害、発達障害といったいろんな人たちに実際に接してクリエイティブなことをやることによって、付加価値を出していっています。その中にメタバースやAI生成というのがいかに役に立つか、どんな問題が払われているのかといったことを研究しています。障害者の人たちにとって「AIで文字から画像生成をできるということは本当に求められていた技術だ」ということを、長年養護学校で先生を勤められた先生が生々しく僕に語ってくれました。『生成AIは悪だ』と言い放っている人たちに訊きたいのですが、あなた方が『生成AIは悪である、と思っているだけ』であって、「その技術を否定されることによってどんな人が傷ついているか？」を想像していますか。

たしかに、音声文字入力や視線入力、漢字の予測変換入力なども「AIのおかげ」ですし、これは障害者だけでなく障がいを持たない方々にも有益な技術ですよね。画像生成がそのような技術になる可能性は大いにありますね。

事例5：『CG WORLD』2024年11月号 vol.315の表紙

今月の『CGWORLD』に注目です。表紙は杉山学長というデジタルハリウッド大学の初代学長・改革者です。『CGWORLD』が30周年で特集を組みました。

https://amzn.to/4hhas22

白井氏：杉山先生には30年前、僕が21歳のときに出会いました。この人が「この後デジタルコンテンツやCGなどを学びたい人がたくさん増えるからそういう学校を作ったほうがいいと思うんだ」と言って、株式会社で大学を作るということをやってきました。当時はゲームやCGの専門学校はなかったんです。今であれば想像もつかないかもしれませんけど、CG業界にはデジタルハリウッド卒業生がたくさんいます。さらに専門学校の先生にもいます。そういったところにちゃんとした「先生たちの先生」を送り込んだ人です。

この背景は生成AIで作っています。杉山先生のご意向をFacebookメッセンジャーで聞いて「こういう絵にしたい」、それに合わせて僕はキャラクターデザインまで起こして、レイアウトや配置を編集部や本人と一緒にやりました。杉山先生はALSという病気で人工呼吸器をつけて車椅子でしか移動できません。AIの力がなかったらここまでできないです。AIのおかげで今月成し遂げました。そして僕はもちろん個人のAIクリエイターとして、『CGWORLD編集部』から結構なお金を頂きました。CGクリエイターとしてCGWORLDの表紙を飾ることは並大抵のことでは実現しませんし、「クリエイターとして飯を食う、対価をもらう」というのはこういうことの積み重ねなんだと思います。

事例6：AIキャラクター「ガンマミィ」

最新の事例として、先日AICUから電撃公開された「ガンマミィ・ジェネレーター」が紹介されました。

白井氏：僕らはメディア企業というだけでなく、最新の制御された高品質な画像生成AIというテクノロジーを使って「ガンマミィジェネレーター」という「ガンマミィ」を誰でも使えるチャットシステムを1日ぐらいで作りきるだけの技術力はあります。ですが、その想像をさらに上回るようなテクノロジーやテクニックですごい絵を作ってくる人が出てくるんです。これは感動です。やはり予想を上回るようなことを作ってきてこそ、我々はやっと報われるんです。それに対してお金を出したいという人が出てきてこそ、やっと経済が回るということなので。生成AIに対して「エアプをやっている人たち」（※やってもいないことをやったように言ったりする、いわゆる知ったかぶりを指す言葉「エアプレイ」や「エアプレーヤー」の省略語）には「変な邪魔しないでください」と言いたいです。

白井氏：僕たちは無料で作れる「ガンマミィ」をリリースしているのに、使ったこともないという人たちが「生成AIは悪だから」と言うのは構いませんけど、そういう世界線と我々の世界線がどういう風に今後変わっていくのかというのは、皆さんがしっかりと認識していただきたい事実だし、未来だと思います。例えば、真面目に商業をやっている人たちは「学習こそが価値だ」と言って、GPUを買い集めてライセンスを買い、新しいモデルを探求し、広告や映像制作に使っています。AIは安く作る技術じゃなくて不可能を可能にする技術なんです。

事例7：『画像生成AI Stable Diffusion スタートガイド』

https://j.aicu.ai/SBXL

この本の中で、200ページのところに書いているのが、「画像生成AIクリエイター仕草（v.1.0）」というコンセプトで、「すべきことと、すべきでないこと」を「子供でもわかるよう」に話しています。簡単に言うと、「すべきでないこと」は「他人の迷惑」になること。技術的な可否や法律の可否、マナーやモラル、過去の常識、リスク、感情を混ぜて「混乱させること」。マナーやモラルというのは皆さんの知識、理解、お気持ち、感情なので、法律的にできる、できないという話や、技術的にできる、できないという話と混ぜてはいけないのです。

白井氏：つまり、「赤信号は渡ってはいけないけど、僕は急いでるので渡ります」というリスクを犯している個人の話であって、その人が車に轢かれたら自業自得なのに、そこを混ぜて「自分はこう思う」みたいな話をしても仕方ないんです。そこを混ぜて混乱させるみたいなことがそもそもテクニックとして喋る人もいますけれど、それに混乱させられては技術やテクノロジー、商売といったものを整理することはできないです。だから『混ぜて混乱させているやつは誰だ？』という視点に皆さんの目を光らせてください。
「生成AIだから安い」、「自動だ」、「無料で何か作れるなんて楽して儲かる」みたいなのも嘘です。これは完全に世間を誤解させている行為です。生成AIだから安くて早いということはないです。生成AIはやっているクリエイターだったらわかると思います。1時間の中で絵を作らなきゃいけないとなったら、できるだけ頑張ってたくさん作って、その中から「最高の絵を作った」という、これがクリエイターです。だからこそ人の心を動かすので、楽な道でもなければ、自動でできるものでもないです。そこは誤認をしてほしくないところです。
すべきことは、とにかく楽しむこと、作品を作る情熱を持ち続けることだと思います。僕は、陽の当たる場所を作るためには徹底抗戦するつもりです。

ここで「画像生成AIの価値創出」要素として、

・技術の進化速度について発信し続けていくことが価値
・「写真と同じ」
・オープンなモデルでどんな価値を出せるか？
・「学習こそが価値」
・「安く作る技術」ではなく「不可能を可能にする技術」
・「つくる人をつくる」

とまとめました。

画像生成AIの近年

さらに歴史を振り返ります。ラスコー洞窟など先史時代の絵画から、

写真の歴史、

CG/画像生成AIの誕生と変遷 文化的背景 (1940-2020)

そして近年の画像生成AIの歴史です。

白井氏：画像生成の世界でLvmin Zhangさんを知らない人はいないと思います。Style Transferのアニメスケッチをやったり、style2paints、ControlNet、Fooocus、Forgeなどを開発している彼ですね。彼は実は日本のシモセラ・エドガーさんに習っています。日本で勉強していた人で今もまだ学生をやっています。

https://note.com/aicu/n/n8990c841e373

こういう中国出身、もしくは中華系二世の研究者でアメリカの文化に馴染んで研究している人たちは、画像生成のコア的なテクノロジーをやってる人たちにかなりの確率でいます。この人たちは日本のアニメや漫画がめちゃくちゃ好きなんです。その人たちが我々のアニメや漫画を、外部のサイトを使ってAIに学習させています。僕は10年以上前に彼らの論文を読んだとき、「ちょっと待て。これは著作権違反だぞ。」と気づきました。学会に訴えたり、査読者としてコメント出したり。いくらテクノロジー的に楽しくても僕はこの論文はアクセプトできない、と言ったんだけれども、実はもうそのときすでにデータセットが存在していてもう止められなかったんです。
ところが、日本の研究者や世界の研究者で、アニメを学習させることにこんなに価値があると分かっていた人がほとんどいなかったんです。その頃はまだ、欧米の研究者も日本の研究者も、それを問題だとは思っていなかったんです。イラストコミュニケーションサービスのSNSもたくさんありました。robot.txtも無視されていました。僕はそのときにもっと力を持っていたら、もっとこの問題に社会の目を向けるべきだと思いましたが、社会がそこに目を向けていたかというと疑問があります。CGの研究者そんなに多くないし。そして、今は中国の研究者はかなり野放し状態になっています。対中国人が云々という話をしているんじゃないです。中国のCG研究者やコンピュータービジョンの研究者は数千から数万いますが、我々日本の研究者は数百から数千です。彼らの興味と探究心と成果です。日本の研究がいかに不甲斐がないかということを身を持って感じています。もっと大きなところに出て、インパクトのある研究を世界のステージで対話して、英語で論文を書き、日本の研究者がちゃんとこの状況を認識している人が増えて、たくさんの才能が戦っていかないといけないということは認識してください。

今後のAI利用に関する議論の可能性

アメリカには法律があって、教育や引用などはフェアユースで公共物であるから使ってよいと認められています。そのフェアユースとしての引用は、日本の著作権法ではフェアユースの記述がないんです。最近議論はされていましたけど、生成AIの時代においてというのと、著作権法30条が適応してしまった瞬間にだいぶおかしくなりました。

つまり、生成AIの議論のかなり過激な問題の原点は、著作権法30条の改正が原因だったし、多くの人たちはそこで声を上げるべきだったんですね。やらなきゃいけないのが著作権法30条の4の改正でしょう？ということは、僕は議論したいこととしてあります。日本は憲法改正には非常に保守的です。ところが、著作権法に関しては4〜5年に一度改正されてるんです。だったらこうするべきだって皆さんで言い続ければいいんですよ。議論のやり方は先ほど言った「混ぜるな禁止」をちゃんと考えてほしいなと思っています。

やはり事業者レベルで言うと経産省だと思うんですね。つまり、文科省でもなく経産省が対応すべきだと思います。文化庁が著作権の定義で特に変える必要ないという結論に至ってる以上、これは経済の話です。誰が権利を持っていてどういう対価を払っているのかという話になるのであって、やはりちゃんと対話相手として権利団体はしっかりとそういう専門家を置いて、議論にちゃんと挟まっていてほしいと思っています。

例題：NijiJourneyでみかけた他のユーザが生成した画像

問題です。この画像に知的財産の侵害はあるでしょうか？この画像を自分のブログに自分の著作として利用することはできるでしょうか？この画像をブレンドして新たな画像を作ることはできるでしょうか？テクノロジーとしてできる、できないという問題と、法律としてできる、できないの問題を考えてみてください。

答えです。これはとある弁護士さんによる2024年8月ごろの監修ですが、知的財産の損害はないとのことです。マクドナルドの商標は侵害していません。「マクドナルド」と書いちゃったら問題では？と思うかもしれませんが、それも大丈夫です。皆さんの考えている知的財産の侵害というものは、実はちょっと違うんじゃないの？ということがこの1枚でも語れます。

自分のブログに利用できるかというと、これも「画像生成による生成物は著作物ではない」という判例が出ていまして、日本においても「著作とは、思想又は感情を創作的に表現したもの」なので、一般的なサービスによって生成されただけのテキストや画像には「著作権がない」ということになっています。なので、これは別に著作権侵害にならないです。つまり、「このNijiJourneyの画像可愛い。じゃあ“僕の画像として”ブログにおこう」と“僕の画像として”のところだけが問題であり、著作物ではなく、「NijiJourneyで拾った画像です」だったら別に問題がないです。

ブレンドして新たな画像を作ることができるかという点は、「日本の法律においては問題がない」というのがこの問題を問われた弁護士さんのご意見ですが、他の人の画像をアップロードしたら、それは実は複製権を侵害している可能性があります。それから、依拠性や類似性を目的としてやってるんだったら、それは依拠性などを侵害する可能性があります。

ほんとうの意味で生成AIに求められる倫理感とは？

書籍「画像生成AI Stable Diffusionスタートガイド」から数十枚のスライドを引用しつつ、特にこの図を指しました。

白井氏：欧州のリスクベースアプローチについても紹介をしておきます。「容認できないリスク」、「ハイリスク」、「限定的なリスク」、「最小限のリスク」等がある中、「画像生成AIはどのようなリスクレベルなのか？」をしっかり捉えてほしい。これが医療や法律、そして自動運転車に例えたら、どのようなリスクレベルなのかをはっきりと認識したうえで、反対するなら、反対としてきちんと責任を持って、どのような社会を考えているのか、すべてのひとにわかるように話をしてほしいと思います。

まとめ

しらいはかせ、白井暁彦氏は事例を交えながら、熱量たっぷりに、AIが理解されていない問題や著作権の問題がどうして起こっているのかをお話しくださいました。「画像生成AIクリエイター仕草（v.1.0）」の「子供でもわかるような、すべきこととすべきでないこと」を心に刻みながら、あんしんなクリエイティブAIで「陽のあたる場所」をつくる、そのための問題と向き合っていける世の中をつくっていきたいですね。

みなさんの意見も訊きたい！

ご感想はこの記事のコメント欄、もしくは
Xでは引用いただいて、ハッシュタグは
#AIクリエイターに訊く #生成AI倫理
でよろしくお願い致します。みなさんの建設的な意見はネット上のみならず、AICU Magazineや動画メディアや論文等でも扱っていきたいと考えております。

また「私はAIクリエイター、なので意見を述べたい！」という方はご寄稿いただく仕組みも準備しております。X@AICUai にてDMをいただけると幸いです。

Originally published at https://note.com on Oct 24, 2024.