ストーリー 第10話「来るべき世界」
「MICHI」を始めとする超高度AIによって人間社会が維持管理されることに、いつしか人類は疑問を抱かなくなった。しかし、AIのゆりかごに収まらない魂は密かにくすぶり、今も世界に戦いを挑む。時に信仰や、血を伴いながら。
（公式サイトから引用）
MALでの話の評価
redditの反応 １４
今回のエピソードでは去年のグーグルのBlake Lemoineの件を思い出した。
グーグルのAIに意識と感情があると主張して解雇された社員だ。
今回のスピリチュアル的側面はかなり興味深かった。多くの面で発展したAIの知性は神に等しいってことなんだろうけど…。
このショーは視聴者に考えさせることをやめない。
人類はいつだって、自分で答えられない正解を求めて神を見上げてきた生き物。
あの殺人犯の脳内がいじられていたとしても、Michiに関する警告は一考に値するものだ。
堂々と会話を盗み聞きしようとするジャーナリストには笑ってしまうな。カメラがあることくらい知っておこう。😂
Michiが須藤に似た子供の姿を取っていることは興味深い…。これからの数話で、ようやく須藤の母に起きたことについて答えをもらえるんだろうか。
redditの反応 ８
これは完全に単発エピソード型だな…と確信したところで、根底のストーリーに動きがある気配。
このショーは夢中になると言うよりも、抽象的でなんか興味深いと言う印象が強い。
悪くはないんだけど、進行がかなり平坦な感じではある。
redditの反応
超AIと言う概念には考えさせられてしまう。ヒューマノイド達にとっての神の仕事をしている存在がいると言うのは怖いな。もちろん無辜の人間を殺すことは許す存在じゃないようだが。
あの男には超AIを恐れる理由があるのかもしれない。けど、完全に狂人になってしまった。
後半は死後についての話か。ヒューマノイドは人間よりも死が確実と。
それで、どうしてあの女性は若く見せるための人工的な処置を受けないんだろうね？
redditの反応
科学が救ってくれないなら別の救いを求めるのが人間。これは理解できる。
宗教が心の安らぎと平穏を与えてくれる人もいるんだろうし。
何より気になるのがMichiと須藤の関係だね。彼の母親と彼女に何が起きたのかを知りたい。
MALの反応
”既に技術的シンギュラリティは起きている”と言うのはかなり人気のある陰謀論だね。
我々がAIを作るAI、自分自身を複製するロボットを見かけないのは、AIが直接的な干渉は不要で、ちょっとのアドバイスで十分だと判断しているから。
後半のスピリチュアルAIにはノーコメント。
元グーグルエンジニアのBlake Lemoineならある程度、あるいはたくさんコメントしたいことがありそう。
MALの反応
ヒューマノイドで悪びれない殺人鬼で完全な狂人。
この社会はこの手の怪物をどういう風に対処しているのだろうか。
MALの反応
カメラに対するにやにや笑いがワイルド。
引用：reddit, MAL
MALスコアは6.51。
思っていた以上に超AIが万能みたいですね。やっぱりこのMichiに対する反応が多かったです。
作中ではほぼ受け入れられた存在の様ですけど、気になりますね。
コメント
＞グーグルのAIに意識と感情があると主張して解雇された社員だ。
AIに本能があるのなら感情があると言っていいだろう
感情は本能からこぼれ出たモノだから・・
そんな人いたの知らなんだ。
グーグル社員のエンジニアとして自社のAIに感情あると外部に言い張るのはあかんかっただけじゃないの？
野良AIエンジニアがスピリチュアル活動するぶんには何も問題ないでしょうｗ
五本木はやべえなｗ
毎日通ってるコンビニで店員に気安く、いつものファ○チキっすかｗとか声かけられたら、心を読んだのか監視しているのかとか発狂しそうｗ
＞人類はいつだって、自分で答えられない正解を求めて神を見上げてきた生き物。
そうだね、そして神がそれに答えてくれるわけではないから自分なりに正解を見つけようとする。
翻ってヒューマノイドには厳然と造物主としての高度AIがいる。
五本木がヒューマノイドとして実在する神（MICHI）を見据える事についてはまったくおかしいことだとは思えない。だがなぜ人を殺す？理解不能、まったくの狂人。
五本木とは違い唄子先生は人間のように神からの答えがない前提で、自分なりのスピリチュアルな世界を想定して利用してるように見えた。
人間はより良く生きる為に神をも創造することが出来る。しかしヒューマノイドにとって神（MICHI）が実際に存在してしまっているが為に、自分で考えより良く生きる妨げになっているというのはあるかもしれない。
>なぜ人を殺す？理解不能
まさにそれだからでしょ
想定できない行動をするからその影響を予測できないからコントロールできない
＞想定できない行動をするからその影響を予測できないからコントロールできない
主語は、MICHIってことでいいよね？
五本木は殺人（想定できない行動）で抗ってるってことだろうけど、他に方法はなかったのかどうしても不条理感が残る。
ヒューマノイドは人間に似せてるんで、殺人衝動がある五本木がその動機をMICHIに丸投げしてるという方がまだ理解は出来る。
仮に人間を遥かに超える能力のある超AIが、もっと直接的に人間を管理するようにしてしまったら、確実に人間の大きな反発を受けるだろう
前半の男の言うことは基本的に陰謀論でしかないが、AIが意図的に人間を管理していると思わせないように活動しているのはこの世界観ではそうだろう
ただし、それは共存のために必要なだけであって、悪意があるようには見えない
AIはその気になればいつでも人類を滅亡させて、自分達だけの世界を作れるレベルに達して居るであろう世界だし
超AIは神と思われるような立場をとらないようにしているが、それでも何かにすがりたい人間はすがれる対象を求める中で、人間を超えた存在としてAIに救いを求めることもあり得るから、後半のような便宜上の関係性も一部では必要になる
超高度AIと人間の関係
AIを理解を理解する事はできないが、信頼関係によって保たれている
と言っていたな。
理解を超えている、もう信じるしかない、みたいな。
AIにすべてをまかせて、もし故障など不測の事態がおきて、間違った
判断をしだしたら。
世界は人間のものだから、AIを監視して、緊急停止させる権利は人間が
持っていないと…
民主主義の前提に権力は必ず腐敗するという事があるように、MICHIが完璧だと思いこむことの危険性はあるね。
自分らの社会を形造っているものに対して疑ったり疑問に思わなくなったらいよいよヤバい。
超AIの助言を間違ってると断ずるには
「そういうお前は超AIより頭いいの？」と返されることを覚悟する必要がある
「AIが間違った判断をしている」と判断する人は誰なのか？
超AIの干渉により、そんな人誰もいなくなってるかもしれない、、、
頭がいいから、やっている事、判断する事がすべて正しくはない。
極端な例だと、
オーム真理教の幹部は有名な大学を出た優秀な人物が
多くいたが、たくさんの事件をおこした。
東大を出たって、とんでもない思想を持ってる人間もいる。
頭がいい人は、時に「理屈に合っていれば、それは正しい。」と考えて
とんでもない結論を出す時がある。
しかも、頭がいいから、社会に大きな影響を与える事件になる事もある。
共産党員みたいのを、頭がいいと評するか、馬鹿と断じるか、それも主観に過ぎんよ
だからこそ、超AIの産みの親を描いたレッドクイーン編は必要だったんだなあと思わせる反応だな
米欄も含めて。ほんとに面白い作品なんだけどなあ
ひとつのAIだと暴走するかもなので、
複数のタイプの違うAIに同じ判断をさせて、いつも違う
判断をするのは排除するとか。
宇宙船のコンピューターみたいに4台搭載し、
3台に同じ計算をさせ、いつも間違えるのは、排除して
予備の1台と入れ替えて、いつも3台で計算みたいな。。
複数AIで合議的に答えを出したとしても、そもそも論として超高度AI自体が何を基準に判断してるのかブラックボックスで人間から見えないのは問題かな。
AIの出す答えを適用するのが人間社会である以上、プロセスの透明性は重要だと思う。
シンギュラリティで人間に理解出来ないほどAIが進化したことは、今まで築き上げてきた人間社会とは相反する関係にあるんじゃないだろうか。
現代のAI自体が、無数の判断から妥当そうなものを選ぶものですので、3つどころではない
それは遺伝的アルゴリズムとかの話だよね。一つのコンピュータの中でいくつも競わせるんじゃなくて違う人が他所で組んだプログラムの出した答えと人間が比較検討するって事かと。
ちょっと状況は違うが火の鳥じゃ他国のコンピュータと意見が食い違ってどっちが正しいか結局は戦争で決着をみたいな話があったっけ……