カメラとロボットアームからはじめよう
ーーさっき将棋はターンベースだから、手数が少ないという話がありましたね。会話もまたターンベースだといえますが、会話だけに特化した人工知能で色や恐怖といったものの理解まで到達させることはできますか？
三宅:
今のところは到達できないですね。というのも文脈が読めないから。
北山:
言葉の感じみたいなものはいるんじゃないですか？ でも、そのためには身体がないととれない。
三宅:
たとえば「美味しい」という感情は、言葉ではいくらでもいえますが、人工知能は物を食べたことがないので、理解できないわけです。だから、すべての問題は、人工知能が世界を体験できないところにあるんですね。それはクオリアがない世界で生きているから。そこはトートロジーなんですが、世界を体験できない以上、どんな言葉も意味をなさないんです。
北山:
仮にロボットを作るのは難しいとして、カメラを1個だけおいておけば、そこから体験はできるんでしょうか？ 視覚だけだと弱かったら、カメラとロボットアームを1個つけるくらいで。
三宅:
知覚と運動をロボットが対応づけられたらできる。
北山:
人間ってたくさんセンサーをつけてますが、そんなにいらないので。カメラとロボットアームだけでも、体験のシミュレーションはできると思うんです。そこから始めれば、意外と僕らでも作れるかもしれない。
三宅:
たとえば緑色の物体が柔らかくて、赤色の物体が硬いという体験を、カメラとロボットアームとで連動させれば、見ている主体ができる。カメラって主体になれなくて。映像素子で光の情報を受け止めているだけだから。あれは知能じゃない。そこで視覚と触覚が繋がっていれば。ピンク色の物体をつかんだら、ぷにゅっとなって、緑が普通で、赤が硬い。そうしたら、そこでクオリアができるわけです。
北山:
アクションする部分もいるわけですね。
三宅:
そうそう。これは、我々は紙だと思っていて、たぶん軽いだろうなと思っているけど、実際は鋼鉄でできているかもしれない。おお、重いとか。
北山:
学習していく。
三宅:
間違っているクオリアを作っちゃうこともある。でも、そこは経験で補正していく。
北山:
はい。
三宅:
ぷにゅっとなると思っていたら、重かったりするわけですよね。ここで、ぷにゅっとなると思っているのは、我々がぷにゅっとした経験がたくさんあるわけで。そんな風に紙質を視覚で判断して、そこからクオリアができる。
北山:
簡易版でも体験はさせられそうですよね。ゲームの中でもできなくはない。ちょっと夢が広がりますね。
三宅:
ただ、腕も外側から制御していたら、あまりクオリアは作れないですよね。
北山:
だから、内部の情報伝達装置なんかも含めて作らないといけない。
三宅:
そうそう。内臓がない以上、食べ物のことばはすべて無意味ですよね。お腹が痛いって言ったとき、AIが「わかります」と答えてきたら、いや、お前にはわからないだろうとツッコんでしまう。お前、お腹が痛くなったことないだろうって。
北山:
はいはい。
三宅:
りんごは美味しいとか、いくらでも言葉では言えるんですけど、りんごのシャリシャリ感とか、甘酸っぱい果汁の感じだとか、そこまで理解することはできない。
北山:
やっぱり体がほしいですね。
三宅:
ただ、舌のセンサーを入れればそれができるかというと、どこまでいっても情報だから。そこから経験にするということは、どういうことなのかという問題が出てきます。
北山:
なにかメタAIを作るとして、PCの状態を全部、入力情報にしてしまうとか。変数を代入することとか。ゲーム全体を体験に見立てたら、体験みたいなのが生まれるんですかね？ゲームっていろんな変数が変わっていくじゃないですか。
三宅:
それを内部のダイナミクスとして抱え込んで、自分自身の存在の一部に内面化して、といったところまで作れたら、たしかにそれは何らかの人工知能が作れるかもしれない。人工知能って体の内部と外部を結びつけるものだから。
北山:
なんか、できそうな気がしてきました。
三宅:
できるかもしれないけれど、今の人工知能の流れはあきらかに逆に行っているんですよね。定義された問題に対して、エレガントに答えを導き出すのが今の人工知能。そんなふうに最短を求めるのが今のコンピュータサイエンスだから。コンピュータサイエンスの中に人工知能がある限り、人工知能は作れない。
北山:
ほとんどの人はそうですもんね。
三宅:
実際にそっちのほうが世の中の役に立つから。でも、それは人工知能とは言い難い。
北山:
ツールみたいなもんですよね。
三宅:
でも、そういうとうるさがられるから。
北山:
はいはい。
三宅:
人工知能には広い意味での人工知能と、人間的というか、狭義の意味での人工知能という2種類があるんです。広義の人工知能を作りたい人はたくさんいるけど、狭義の人工知能をめざす人は非常に少ない。
北山:
僕は狭義の側を作りたいんです。20年くらいずっと考えています。
三宅:
ただ、本当に狭義の側を研究している人たちは、それが世の中の役に立たないことも知っていて。
北山:
だから大学の先生とかしか、いないかもしれませんね。
「ためらう」って実は知的な行為？
ーー人間のクオリアと猫のクオリア、鳥のクオリア、トカゲのクオリア、虫のクオリアという具合に、どんどん減らしていくと、限界があるんでしょうか？ 少なくともライフゲームにはクオリアはありませんよね。そんなふうにクオリアの境界という概念が、今日のテーマの一つだったようにも思いますが……。
北山:
今日の話でいうと、虫くらいならクオリアがありそうですね。
三宅:
あると思う。だってメスが発するホルモンに吸い寄せられるわけだから。こっちにかわいいメスがいるって。
ーー自然界にある、ものすごくシンプルなクオリアですら、まだ我々は作れない。
北山:
作れてないですね。
三宅:
虫がフェロモンに吸い寄せられる的な、反射的な行動までは作れる。ゲームキャラクターも反射で動いているわけだから。敵を見たら突進するとか。
ーー先程もカメラとロボットアームだけという話がありましたが…
三宅:
クオリアがあると思考ができる。クオリアがないと反射だけになる。
北山:
それにクオリアがあると、エピソード記憶として、自分の思い出として、記録として保存できる……前野隆司さんはそんなふうにも説明されていますね。
三宅:
記憶領域ができますね。虫はたしかに少なそうだけど。どこに境界があるかといわれると、たぶんそれは物理的に充足している…たとえば微生物はその行動が環境におもいっきり支配されていて、主体的な知能と呼ばれるものは本当にわずかだと思いますが。それからどんどん、物理世界から自立していく中で、どこかの臨界点があるんでしょうね。
北山:
植物みたいに動かないものにはクオリアはあるんですかね？
三宅:
あるという人もいるし、ないという人もいる。たとえば植物の成長を録画して、早回しして再生したら、日光のある方に成長していくことがわかりますよね。
北山:
動いてないこともない。
ーーあれは反射ではない？
三宅:
あれを反射として見るか、知能として見るか、議論が分かれるでしょうね。
ーーそういえば小説「レンズマン」のキムボール・キニスンは、知的生命体からミミズみたいなものまで、その思考や行動を、レンズを通して制御できるんですが、植物は制御していませんでした。
北山:
自ら動いたり、外界の情報を吸い上げるような生物じゃないと、あまりクオリアは役に立たないような気もしますね。だから植物にはクオリアがないか、あってもごくごくわずかという。そもそも脳がないですからね。
三宅:
この前、ある人工知能の研究室で話をしてきたんですが、そこでは「ためらい」について研究されているんですね。我々が何かしようとしたとき、その行為に対してためらうことってありますよね。ためらうというのは、極めて高い知的活動なんです。というのも反射で動いている生物はためらわないから。
北山:
そうですね。
三宅:
ためらうというのはどこから生まれるのか。その研究者がいうには、今は「これとこれ」はしない。たとえば1から10までの行動があって、どれかを選ぶというのはポジティブな行為ですよね。でも、あるときは今、動いちゃいけない。今、食べちゃいけないといった具合に、否定から入る。そうすると、残りの8個のうちから、どれかをやればいい。これがためらいになるわけです。つまり、否定から意思決定に入ると、8個のうちどれでもよくなる。それがためらいになるというんですね。
北山:
なるほど。
三宅:
つまり、ふだんAIを作っているときは1から10までの行為に対して、それぞれ評価値を決めて、上から順番に行為させるわけです。それだとためらいませんよね。
北山:
どれか選ぶというわけですからね。
三宅:
でも、今わかっているのは、これとこれはしちゃいけないというふうに、ネガティブから入ると、行為の選択がためらいになる。
北山:
それは予測できているということではないんですか？
三宅:
そうですね。各々の可能性に対して結果が見えているというわけですよね。でも現実世界には完全に結果が見えないことがたくさんあって。その研究室では鳥を観察しているんですね。自分の縄張りに他の鳥が入ってきたときに、攻撃する。普通の行動です。でもメスの場合は、求愛行動かもしれない。どっちかわからない。すぐに攻撃すると求愛行動に来たメスを追い出すことになる。でも、普通に縄張りをあらしにきただけかもしれない。
北山:
はいはい。
三宅:
そういうときに何をするかというと、攻撃もしないし求愛行動もしない。
北山:
観察するってことですかね？
三宅:
そんなふうにして時間を稼ぐ。そして、観察する。そんなふうにして、自分がとるべき行動を考えている。それはためらうということなんです。むしろ否定から入って意思決定する。
北山:
そういうのもあるんですね。
変わりゆくインディーと、そのアイデンティティ
ーーでも、そういったゲームは今のインディゲームですら本流ではないですよね。世界的にみれば、今のインディーの本流は「お金儲け」にあるわけで。売れ線のゲームをつくることが求められます。
三宅:
そうですね。でも日本は昔、インディーってコンシューマゲームに批判的で、大手メーカーもなにするものぞって感じでしたが、昔ほどアイデンティティとしてコンシューマと距離を置くことはなくなって。
ーーそれはいいことじゃないですか。
三宅:
いいことなんですけどね。ほんとに昔は少し怖いくらい、いい意味でコンシューマに対する対抗意識があって。でも時代は変わって、今のインディゲームのアイデンティティはまた違うでしょうね。自由に作っているというのがアイデンティティかもしれないけれど、売れ線を狙うとそうも言えなくなる。
ーーみんなUnityで作って。
三宅:
それで、すぐにNintendo Switchとかにのせられて。
ーーそれは、それでいいことですけどね。ただ、Unity的な文脈でいうと、そういった新しい概念やフレームワークが一般化してきたら、自分たちのエンジンにとりこんじゃう。たとえばクオリアがDirect Xで実装できるようになったら、クオリア機能をエンジン側に追加実装しちゃう。
三宅:
でも、正直にいって技術系にチャレンジしているインディーって、きわめて少ない。僕が最近、ちゃんと追えてないだけかもしれないですけどね。コミケは回っているのですが。よりコンテンツよりになりましたね。
ーーそういえば、『Spore』を手がけたクリス・ヘッカーが一時期、人工知能を使ったスパイゲーム『SpyParty』を作っていましたよね。
三宅:
出ましたね。技術的に本当に面白いチャレンジで、話題にはなりましたが…。
ーーインディゲームといっても、そんなふうに突拍子もないゲームは、なかなか出にくくなっている。
北山:
出にくいですね。
三宅:
世界があって、キャラクターがあって、操作があって……。その関係性をいじれるところから作れるのが、インディーのいいところだと思うんですが、そこはすでに決まっちゃっていて。底上げされたところからゲームを作るのが一般的だから。チャレンジできるのがインディーのいいとこだと思うんですが。
北山:
インディーのチャレンジは減っているかもしれませんね。みんなお金が好きというか。
三宅:
今のインディーはどこにアイデンティティをおいているんだろう。
北山:
自分のゲームを作っている感じはありますね。やっぱり何百人ものチームで作っていたら、自分のゲーム感は減っていくと思うんですよ。
三宅:
コンシューマの大規模開発は職業で細分化されているから。そこはむつかしい。
ーーシナリオライターでもフレーバーテキストだけ大量に書いている人は、自分がこのゲームのシナリオを書いたとは言いにくい。
三宅:
「誰が作った」というのが言いづらいのが今のゲームの問題点かもしれない。
ーーそれは世界的な潮流かもしれないですね。
三宅:
一般的な傾向として、プロデューサーがメディアに出てきて、自分が作りたいゲームを作ったという見せ方は、ポジショントークかもしれないけれど、すごく重要なことだと思うんです。それによってプレイヤーも、どこかの会社が製品を作っているんじゃなくて、人間味が感じられるようになる。
北山:
僕も自分でゲームを作って、自分で売っていると、めっちゃ売れることもあるし、全然売れないこともあるし、反応がシャープなんで。
ーーお客さんとの関係性の中にインディーという存在があると。
北山:
それもあるかもしれないですね。実際に商業ゲームだと、文句を言われても自分事じゃないかもしれないですし。お金の動きもシャープですし。
ーー自費出版もそうでしょうね。
三宅:
いろんなことがダイレクト。
北山:
良くも悪くも。悪いのもダイレクトにほしいという。なんか会社勤めをしているときって、そのへんがぼけてたんですよ。わからないこともいっぱいあったし。
三宅:
正確にどれぐらい儲かっているか一般的にはわからない。
北山:
そうですね。でも自分で出したら、そのへんがシャープでいい。
ーーでは、今日はこんな感じでしょうか。他に聞きたいことはないですか？
北山:
いっぱいあるんですけど、また呼んでください。いつでも上京しますんで。
◆対談後記
北山功
実は１年以上前から、次に三宅さんと話すことがあった時のために、人工知能と哲学について勉強して、準備していたんです。自分のなかで、自分の人工知能観について行き詰まりを感じていたので、三宅さんにぶつけてみないと進めない感じがしてたんです。その甲斐もあって、三宅さんからいろんな理論を引き出して聞けたように思います。三宅さんが他の記事で書かれているゲームのAIの作り方と、今回聞けた理論の幾つかが一致しているのに驚かされました。理論が理想に終わらす、ゲームAIの実装まで至っていることは、とても素晴らしいと感じました。また三宅さんと対談したいです！
三宅陽一郎
北山さんとはずっと話したいと思っていました。ずっと、というのは、もう7～8年のことです。神奈川電子研究所のゲームはいつも驚かされることが多く、気が付くとファンになっていました。きっとがちがちの神経質な技術者が作っていると思っていたのですが、北山さんは大きなビジョンを持ったおおらかな方で、その一方で深い思索的な面を持っていて、出会ったときに私が話したいと思っていたのは、こういう人だと思いました。次々とリリースされるゲームを横目で見ながら、すごいなあ、と思っていたのですが、今回、小野さんの計らいで直接深くお話することができて、たいへん嬉しいです。ありがとうございます。
