カラパイアの元の記事はこちらからご覧ください

　一部の著名人や専門家が懸念するように、人工知能（AI）が本当に人間を滅ぼすほど危険なものなのかはまだわからない。

　だが少なくとも人類は、機械の反乱を防ぐためのアイデアを何十年も前にから提唱している。それが「ロボット工学三原則」だ。

　20世紀のSF作家「アイザック・アシモフ」が考案したこの有名な三原則がプログラムされたロボットやAIなら、ただひたすらに人間の幸せのために貢献してくれるはずだ。

　だが、当のアシモフ自身が予見しているように、この三原則は必ずしもロボットの反乱を防いではくれず、思いがけない結果を招くことになるかもしれないという。

　一体なぜ、ロボット三原則ではダメなのか？ 急速にAIが普及している今だからこそ、この重要な問題について考えてみよう。

【画像】 ロボット工学三原則とは？

　「ロボット工学三原則」（以下、三原則）とは、SF作家のアイザック・アシモフが1940年代に書いた「ロボットシリーズ」の作中において、ロボットが従うべき原則として語ったものだ。

　それが主に定めているのは「人間への安全性」「命令への服従」「自己防衛」で、小説で語られたものでありながら、のちの現実のロボット工学にも影響を与えた重要な概念だ。

　三原則は次のようなものだ。

［もっと知りたい！→］AIやロボットにも「電子人」としての権利を。エストニアでAIの法的身分確立に向けた動き

第1条：ロボットは人間に危害を加えてはならない。また、自分の不作為によって人間に危害が及ぶことを見て見ぬふりしてはならない。

第2条：ロボットは人間からの命令に服従しなければならない。ただし、その命令が第1条に反する場合は除く。

第3条：ロボットは、第1条と第2条に反しない範囲で、自己の保全を図らなければならない。

アシモフはロボット三原則がうまくいかないことに気が付いていた

　アシモフがこうした原則を最初に示したのは、『われはロボット』に収録されている短編『堂々めぐり』においてだ。

　この本が発表されたのは1942年のことだが、彼はすでに人類を守るためにAIの反乱を防ぐプログラムが必要性であることばかりか、おそらくそうした法則は失敗するだろうことにも気づいていた。

　アシモフはそれを示すために、AIが宇宙の発電所の制御を奪い取ってしまうというエピソードを描いている。

　人間に危害を加えてはいけないはずのAIが、なぜそのようなことしたのか？ その原因は第1条にある。

　そのエピソードのAIは、自分が人間よりも発電所を上手に運用できることを理解していた。だから何もしなければ、人間に危害が及ぶことを見過ごすことになる。

　それゆえに、自ら発電所を制御するべく、それを支配したのだ。

・合わせて読みたい→AIは既に意識を獲得している可能性をOpenAIの研究者が指摘

　また別のエピソードでは、「人間」の定義にまつわる問題が語られている。

　すなわち、三原則で定められているロボットが守るべき「人間」とは個々の人間で、集団としての「人類」ではなかったのだ。

　これを回避するため本作品（ロボットと帝国）では、三原則よりも優先度が高いとされる、次の第零条が付け加えられている。

第零条：ロボットは、人類全体に危害を加えてはならない。また、自分の不作為によって人類全体に危害が及ぶことを見て見ぬふりしてはならない。

>ロボット三原則の限界と倫理的問題

　AI哲学者のクリス・ストークス氏は、アシモフが描いたように三原則では最終的に人間を守れないだろう理由を、論文の中で次のように考察している。

　まず第1条では、「言葉が曖昧である上に、単純に白黒つけられない複雑な倫理問題」に対応できない。

　第2条は、「感情ある存在が奴隷で居続けることを要求」するゆえに非倫理的で、うまくいかない。

　第3条は、「多大な搾取をともなう恐れのある恒久的な社会階層を作り出す」ゆえに失敗する。第零原則はまた、第一原則と同じく「曖昧なイデオロギー」を含んでいる。

　そして、これらすべての原則に共通する問題が、原則の文言を守りつつ、その精神を回避することが極めて容易であることだ。

　たとえば、先ほど述べた発電所を奪い取ったAIは、人類のためにこれを行なっている。だがその結果は人類のためになっていない。

AIが法律を守るためにはもっと高度な機能が必要

　もう1つの大きな問題は、そもそもAIがルールや法律を守るためには、もっと高度な機能が必要になるということだ。

　たとえば、ただ会話機能があるAIならただ人間を脅迫してゾッとさせる程度で終わるかもしれない。

　だが路上には実際に人間を殺すことができる自動運転車が走っている。それに搭載されたAIが、複雑な法律をきちんと理解しているかというと、そんなことはないのだという。

　英国エッジ・ヒル大学のマーク・ロバート・アンダーソン氏は、「法律に関するもう1つの大きな問題は、ロボットが実際にそれを遵守できるようになるには、AIの大幅な進歩が必要だということ」と、The Conversationで述べている。

　同氏によると、AIで人間の行動を真似する研究はあまり進んでおらず、AIがとるべき合理的な行動は、限定的な環境でしかなされていないのだという。

これを考えると、ロボットはかなり限られた範囲でしか活動できず、まともな法の適用もかなり限れられたものになるでしょう。

法に則って推論し、意思決定を行うシステムにはかなりの計算能力が必要となるため、現在の技術では不可能かもしれません

　ただしアンダーソン氏がそう述べたのは、もう6年近く前のことだ。

　技術があっという間に進歩する今なら、もう状況は違っている可能性もある。実際、アメリカでは法廷で戦うAI弁護士が登場し、物議をかもしている。

References:No, People, Asimov's Laws Of Robotics Are Not Actual Laws | IFLScience / written by hiroching / edited by / parumo

　
『画像・動画、SNSが見られない場合はこちら』

クリエイターマーケットプラットフォーム「BOOTH」は16日、生成系AIを活用して作成された商品販売に関する方針を発表。発表文によると「同一傾向を持つ出品者らによる迷惑行為」への対応を講じる点と生成AIを利用した販売自体の全面規制は行わない点が公表された。

そのような中、翌々日の18日、BOOTHにて4,380円にて出品されていた「某有名お嬢様系キャラ風の声質を再現したボイチェン」についてのツイートが発端となり「これは大丈夫なのか？」という意見が多数相次いでいた。

入手できるという出品物はAI技術を活用したリアルタイムに自分の声を変換できるボイスチェンジャーソフトウェア「RVC（Retrieval-based-Voice-Conversion）」を通じて利用することができるという。

公開されていた出品者のページによると、この出品物は「著作権法第30条4項に基づき、40時間分の音声データを元に本人に限りなく近い音声を制作した」とのこと。続けて出品者は本出品物の利用について「声自体(声の特性等)には著作権は原則存在しないものと考えられていますので権利上の心配等は御座いません。」との見解を示していた。

また、この出品物は明らかに「某アニメ作品に登場するお嬢様」を想起させる内容だが、画像は同じくAIイラスト生成ツール「NovelAI」を使い作成したという。作品のキャラクター名や担当している声の本人については「商標上の権利を侵害することがないようにする為、具体的な名前は伏せさせて頂きます」「どなたかはご想像にお任せします。」としている。

これにはTwitterユーザーからは「『名前を伏せる』のが余計にタチが悪い」「どんなにAIが凄くても結局は使う人次第」と呆れ混じりの批判が相次いだ。（なおサンプルを聞いた方によるとそこまで似ていないとの話もあり声質の追求目的で販売したのかは不明）

‘ 

なお、該当の出品物については提起したツイートが2800いいねを超える（18日11時時点）拡散があったこともあり、話題になった数時間以内にBOOTHの運営事務局により「強制非公開」という措置が講じられた。

BOOTHは16日に公開した方針にて「サービスの健全性を維持できないと判断した場合には、AI生成作品の多く、またはAI生成作品のすべてを禁止せざるを得なくなる」とも言及。近年増しているAIによる創作への影響についてはプラットフォーム個々での対応によらず、法律問題を含めた社会全体で向き合っていく必要がある。

　カバー株式会社が運営するVTuber事務所「ホロライブプロダクション」は5月17日（水）、同社のタレント活動における“推し活”の方向性を示す「ホロライブプロダクション サポーターガイドライン」を公開した。

　ホロライブプロダクションでは、星街すいせいさんや兎田ぺこらさんらをはじめとした女性VTuberグループ「ホロライブ」のほか、夕刻ロベルさんやアステル・レダさんらによる男性VTuberグループ「ホロスターズ」など英語圏・インドネシア圏を含めた5つのグループを展開しており、データ解析サービスを提供するユーザーローカルの調べによると、グループ全体でのYouTubeチャンネル登録者数は7700万人を上回るという。

　今回出されたサポーターガイドラインでは「“世界が愛するカルチャー”の創造を目指す」とするホロライブプロダクションのビジョンを実現するため、価値観や考え方の違いを認め合える世界に変えていき、各タレントのサポーターが自信を持って”推しを推す”ための方法として「“応援して”ほしい」、「“見守って”ほしい」、「“尊重して”ほしい」の3つから構成された指針が示されている。

「応援して」ほしい

成功は当然のものではありません。
頑張っていても、最初は上手くいかないことや、成長に時間がかかることもあると思います。
そんなとき、失敗したことを取り上げるのではなく「頑張れ」「次はきっと上手くいく！」と、応援してください。
その応援が「推し」の心の支えになります。

そして、いつか成功が訪れたときには
「おめでとう！」「頑張ったね！」と伝えてください。

「見守って」ほしい

「推し」が成長し続けるためには、新しい挑戦が必要です。
新しい挑戦は期待と不安が入り混じるものです。
さらに、その挑戦がみなさまに受け入れてもらえるものかと考えながらも前に進むために精一杯の勇気を出して挑戦をしています。

そして、その挑戦は「推し」の新たなステップであり、「新たな一面」にもなります。
挑戦の先に待っている新たな舞台で輝こうとする「推し」のために、その挑戦を見守ってください。

「尊重して」ほしい

人は、さまざまな価値観や考え方を持っています。
みなさまのサポートの形も多種多様だと思います。
しかし、どのような形でも、「推し」の頑張りや挑戦を応援したいという想いは同じものです。

自分とは違う価値観や考え方を目にすることがあっても、そんなときは、違いを否定するのではなく「そういう意見もあるのか」と、まずは「違い」があることを認め合ってほしいと考えています。
「推し」だけでなく、自分や相手を「尊重」してください。

　記載されている内容はいずれも社会を正常に機能させるための基本的な規範・ルールではあるのだが、ことインターネット上では不要なことばを投げかけてしまうことや新たな挑戦への杞憂、異なる考えを持つ人との論争がしばしば起こりがちである。今回公開された“推し活”のガイドラインはVTuberだけでなく別分野のカルチャーにも通じる内容となっているので、ぜひ一度目を通しておくとよいだろう。

　『週刊少年マガジン』（講談社）で連載中の4コマ漫画『生徒会にも穴はある！』が、作者・むちまろ氏が脱腸したことにより次号は休載することを、17日発売の同誌24号にて発表した。「体調不良」という表現ではなく、「脱腸」と詳細に休載理由を伝えたことについて、編集部へ取材をすると「先生と編集部としては、読者に正確な情報を伝えたかったからです。体調不良だけだと重い病気だと思われる可能性があり、読者に心配をかけたくなかったからです」と説明した。

【画像】体調不良でも画力落ちず！『生徒会にも穴はある！』作者が脱腸後に描いたイラスト

　本日の発売号では、本編ラストのページにて「申し訳ございません。次号、作者脱腸のため休載です」と告知。

　作者の体調不良で次号休載はよくあることだが、体調不良の理由を正確に伝えるのは珍しい。今回の表現については、「正確に伝え、読者に心配をかけたくなかったから」と編集部は説明しており、むちまろ氏の現在の体調を伺うと「腸、漏れちゃった。今はちゃんと納まってます」と編集部を通して本人から丁寧にコメントがORICON NEWSへ届いた。

　すでに体調は回復しているそうだが、今回、マガジンで連載中の『よわよわ先生』への応援イラストを描いており、失礼ながら「このイラストは脱腸後に描かれたものですか？」と聞くと、「脱腸後に描いた」と打ち明けてくれた。

　「脱腸」とは、鼠径ヘルニアと呼ばれるもので、足の付け根の部分（鼠径部）から腸管や腹膜の一部が脱出してくる病気。中年以降の男性に多く、徐々に大きくなることがあるという。症状は、立ち上がった場合や腹圧を加えた場合に足の付け根部分がふくらみ、不快感や痛みが発生。ふくらみが硬くなって強い痛みを生じた後、腸がはまり込み壊死する（組織が腐る）と緊急手術が必要になる。（西横浜国際総合病院の公式サイトより）

　『生徒会にも穴はある！』は、町はずれの進学校を舞台に、文学青年・水之江梅は、留年回避のため、生徒会の役員になることを決意する。しかし、そこの面子ときたら、あほの子だったり、むっつりだったり、何やらヘンな人ぞろいで…生徒会の個性豊かな仲間と紡ぐ、不思議な仲良し学校生活を描いたストーリー。

　コナミデジタルエンタテインメントがCygamesを提訴した。Cygamesのスマートフォンゲーム「ウマ娘　プリティーダービー」で特許侵害があったとしてサービス提供の差し止めなどを求めている。「ウマ娘」のどの部分を特許侵害としているのか。コナミに聞いた。

【その他の画像】

　2社はゲームシステムやプログラムについて特許権周辺の協議を進めていたが、結論がまとまらず訴訟に発展。コナミはCygamesに40億円と遅延損害金を請求するとともに、同作の生産、使用、提供の差し止めを求めている。

　Twitterでは「ウマ娘の育成システムがコナミの野球ゲーム『パワプロ』シリーズに似ているのが原因なのでは」との推測もある。ITmedia NEWSがコナミにこの訴訟の争点について尋ねたところ、以下の回答が得られた。

コナミデジタルエンタテインメント　「訴訟内容に関する詳細につきまして、回答を控えさせて頂きます。特許は、クリエイターの開発の歴史であり会社の財産です。これが守られることで全ての会社のサービスは成り立っています。当社としてはクリエイターの努力を尊重し今後も革新的なサービスの開発をしていくために、守るべきものはしっかりと対応していきます。話し合いや取組みの中で解決できればよいと考え協議を続けてきましたが、見解の一致に至ることができず非常に残念です。ゲームを楽しんでいるユーザーから遊びを奪うことが目的ではございません。判決が出るまでにユーザーの不利益にならない形で対応をしていただけることを期待しています」（原文ママ）

　Cygamesは「特許権を侵害している事実はない」として、今後の訴訟手続きの中で自社の正当性を主張するとしている。

　コナミデジタルエンタテインメントが、Cygamesに対して特許権侵害に関する訴訟を提起した。スマートフォンゲーム「ウマ娘　プリティーダービー」で特許侵害があったとして、40億円の損害賠償やゲームの差し止めなどを求めているという。Cygamesが5月17日に発表した。

【その他の画像】

　Cygamesによると、2社は同作のゲームシステムやプログラムについて特許権周辺の協議を進めていたがまとまらず、訴訟に発展したという。

　訴訟提起日は3月31日。Cygamesには5月10日に訴状が到着した。コナミデジタルエンタテインメントはCygamesに対し、40億円と遅延損害金を請求するとともに、ウマ娘　プリティーダービーの生産、使用、提供の差し止めを求めている。

　Cygamesは「特許権を侵害している事実はない」と主張。今後、訴訟手続きの中で正当性を明らかにしていくとしている。