« きらり「自動運転 地域はどう変わる?」2018.5.31 | トップページ | 7/5(木)10.05-10.15NHK総合テレビ(生放送) くらし解説「人と共存!愛されるロボットの条件は?」 »

人工知能(AI)とどう向き合うか

皆さん、こんにちは。室山です。私は、NHKで科学番組のディレクターやプロデューサーをやり、その後、解説委員になりました。マスコミの人間ですので、専門家のように深い話はできませんが、いろいろ取材をした中で、なるほどと思うことを並べてきましたので、一般人の感覚で取材した結果をお伝えしたいと思います。

 

AIの現状は?

  「人工知能にどう向き合うか」。先ほど、頭取がワールドカップの話をされました。人工知能の研究では、2050年のワールドカップに人工知能搭載のロボットを出して人間に勝つというのが、ロボット工学者の夢で、ロボカップという組織が世界的に立ち上がって、いろいろな所でマシンがサッカーの練習をしています。だんだん力をつけてきて、最近のパスは非常に鋭いものが出てきています。ロボットがグループを組んで、そのグループで声を掛け合って勝手に練習をしています。だんだん学習して強くなっています。

 NHKAIに関する多くの番組を作っていますが、それを見ると、アメリカでは犯罪捜査に使ったり、犯罪を予想したり、ずいぶん利用が進んでいるようです。日本でもAIを使って、タクシー会社が、乗客がどこに多いかを判断して、売り上げを伸ばしているところがあるそうです。マスコミの世界でも、AIを使った経済記事(株など)はもう始まっています。ある番組で、ベテラン記者と競争させたら、圧倒的なスピードでいっぱい書くので、とてもかないません。記者は、「いや、AIには含蓄のある記事は書けないよ」と言いますが、果たして私たちが含蓄のある素晴らしい文章を、いつも書いているのかということが逆に問われます。

 

AI誕生は人間進化の必然?

 いずれにしても、AIは人間の脳が作ったもの、人間が作ったものです。私たち人類(ホモサピエンス)は、20万年ぐらい前に姿を現しました。38億年の進化をへて、人間は二足歩行で脳を大きくしてホモサピエンスとなったのです。進化は生物の多様化の歴史。あるものは空を飛び、あるものは海に潜り、人間は二足歩行で重い脳を支え、文明を作って生き延びてきました。 この部屋にあるものは、私たちの体とか空気とか水とか以外は全部人工物で人間が作ったものです。人間の自己家畜化という言葉を使う人もいますが、そのようなコントロールした安楽な環境、都市を自分でつくって生き延びてきて、今、とりあえず地球の支配者(ほんとでしょうか?)となったのです。

 さて、人間が作り上げた現代科学文明は、一言で言うと、人間能力を拡大する歴史でした。例えば、見る能力は望遠鏡とか顕微鏡とかを作ることで拡大してきました。話す能力は、拡声器から始まって放送、通信で拡大。宮崎の町で、私がいくら大声で叫んでも100人に届くのがせいぜいですが、放送では視聴率1%で120~130万人が見ています。少しささやいただけで視聴率が10%なら1千万人以上がその声を聞くことになります。これは、生き物としては異常は状況です。そしてついに、考える脳の能力をコンピューターで拡大し、その文脈で、AIが生まれたのです。

その意味では、人工知能が出てきたのは、人間進化の必然といえるのかもしれません。

 

●脳はどうなっているか

 ではAIを生み出した人間の脳はどのようなものでしょうか?人間の脳を縦割りにすると脳は3層構造になっています。「脳の中には3匹の動物が居る」とよく言われます。一番奥の所にワニの脳(生存をつかさどる:爬虫類が共通して持っている脳)、その外に馬の脳、(喜怒哀楽をつかさどる:ほ乳類が共通してもっている脳)があります。そして、その外に人の脳、大脳皮質とか人間特有の領野(知性をつかさどる)が広がっています。脳は、進化の中で、建て増し建て増しで大きくなってきたのです。人間の脳は、この3つの要素が同時に動くシステムです。

 

 一方、AIは脳の、知性の一部を代替しているだけです。AIには、人間の生きる悲しみとか苦しみとかは分かりません。分からせるようにプログラミングすれば分かったような振る舞いをするかもしれませんが、基本的にAIは、人間の知能の一部を代替したにすぎません。

 

AIはどこまで進化したか

 AIの応用は、いろいろな分野に広がっています。すでに、囲碁とか将棋とかチェスでは、圧倒的な強さを持っていて、もうかないません。最近の将棋の若い人はAIを使って、そのプログラムで練習しているみたいですから、今までよりもすごい手を打ってくると聞きます。また、病気の診断で、MRIを解析してがんを発見したり、新しい薬をサジェスチョンしたり、専門家の先生がびっくりするようなことを時々やってのけます。また、自動運転にも取り入れられています。

 このようにいろいろ多岐にわたってAIの応用がされているのが現状です。一つの分野だけがどうこうなるのではなく、私たちの社会全体のありとあらゆるところが変化しています。

AIの進化のスピードは予想を超えています。専門家に聞くと、複雑さでは、碁はチェスや将棋と比べ物にならないので、「あと10年ぐらいは人間にかなわないだろう」と思われていましたが、あさりと勝ちました。AIの先生もびっくりしたぐらいの勢いです。

 AIは、ゲームのような限られたフィールドでの情報処理は圧倒的に強いです。その適応範囲は、最近須戸h氏ずつ拡大しているようにも見えます。

芸術は人間hしかできない作業だと思っていましたが、芸術の分野でも似たようなことが始まっています。たとえば、レンブラントが描いた本物の絵をAIにたくさん見せて学習させると、レンブラントが書かないような絵も「レンブラント風」に書くようになります。素人では見分けがつきません。この方法を使えば、

例えば、サザンオールスターズの歌をいっぱい聞かせてサザン風に「宮崎の歌」を作ってくれといえば、作るでしょう。モーツアルト風に「宮崎の音楽」を作ってくれといえば、たちどころに作ります。AIが作った音楽をきいてみると、実によくできています。もちろん著作権フリーです。またAI同士の会話というのを聞いてみると、「神について」という会話をものすごいスピードで展開します。AIは神について何者かはわかっていませんが、含蓄のある議論を展開するのです。しかし、AIは、自分が何をやっているのか、なぜそれをするのかは理解してはいないのでしょう。

 なぜこのようなことが可能になったのか?

今までのコンピューターと今の人工知能は何が違うかというと、今までのコンピューターはいちいち人間が何に注目すればいいかを事細かに指示して動いていましたが、AI(ディープラーニング)の場合、人間が本来やっていた、意識をここに向けてこのようにしなさいという指示を人工知能側が探っていきます。いちいち細かく言わなくても、自分で自律的に考えていろいろなことをやっていきます。新入社員のときに、いちいち言ったり怒ったりしないと動かないのと違って、一言言えばさっと動く社員のようなものです。

 

 

●脳とAIの違い

 では、人間の脳と人工知能は何が違うのか。まず人間の脳は生き物です。38億年の進化の中で生きるためにできあがったシステムです。人工知能は生きていないので、「死に物」です。これが決定的に違う点です。

 これをもう少し見ていきます。AIは脳の一部を再現したもの。一方、人間の知能は脳の働きの一部。人間は、別に知能がなくても生きていけます。昔から人間が生まれてどんどん進化していく中で、生きていくために脳ができました。生き延びるために情報を処理していく結果、脳に知能が生まれた。

 また、AIは高性能のコンピューターとビッグデータが必要ですが、人間の脳はビッグデータがなくてもOKです。例えば、子どもが成長していくときに、別に赤ちゃんの脳にビッグデータを接続していなくても、母親とのやりとりの中でいろんなことを学習して、意識を持って判断して成長していきます。

 何でそんなことになるのか、人工知能の専門家に聞いたら、「分からない。生きている神秘とでも言うのかな」という返事です。どうして人間の脳がそれをできるのか分からない。あとは、私の個人的な意見ですが、生き延びるために遺伝子の中に「生き延びていけ」という何かメッセージがあって、それを満たすためにあの手この手でいろいろなかたちで行動が進化してきたわけなので、ビッグデータなしでも何とかなるのは当たり前だという気がします。

 また、人間の場合は、未知なるものに対して挑戦するときは、すごいパワーを出しますが、AIは多分使えません。

 さらに、AIは、限られたルールで、ゲームなどですごい能力ですが、人間の脳はどんな分野もOKです。だから、特定のところではAIに負けますが、何でもできます。例えば、将棋に強いAIを自動運転に搭載しても、車の運転はできません。一つのことに特化していて、すごい能力です。だけど、人間については、車を運転する人は宮崎銀行で働くこともできます。そういうふうに汎用性があって何でもできます。これが人間の脳なのです。

 最後に、人間の脳そのものが、実はまだよく分かっていません。例えば、無意識の世界とか、人間の意識のメカニズムとか、まだよく分かっていません。まるで底なし沼です。研究しても研究しても謎が出てきます。このような全容不明の脳を持った私たち人間が、今、AIと向き合っているわけです。合理性の固まりのようなAIとどのように私たちが付き合っていくのかが問われています。

 脳とAIの違いをもう一つ示しましょう。

「He saw a woman in the garden with the telescope」。

この英文を翻訳するとどうなるでしょうか。普通、人間がこれを訳すと、「彼は望遠鏡で庭に居る婦人を見た」となります。だけど、もう一つの訳し方があって、「彼は望遠鏡を持った婦人が庭に居るのを見た」と訳せないこともない。こういう問題が実はAIには難問です。

 人間から見ると、望遠鏡で見ているのは大体男だろうとか、庭に居る美しい婦人だろうとか、何となく分かって選択します。それは、自分の生活の中でいろんなことを体験して、こういう場合は普通はこうだろうという、一種の暗黙知のようなものがあります。AIはそのようなものがありませんので、同列に考えて、こういうときにどっちなのか分からないわけです。

 

●自動運転の現状は?

 AI研究が急速に進んでいるのが、自動運転の開発の分野です。

1994年に名古屋で中華航空機のエアバスが墜落した事故がありました。240人ぐらいの人が亡くなったこの事故は、実は、コンピューターと人間の判断が対立した最初のケースだと言われています。当時の事故を起こしたエアバスは、最後の判断はコンピューターがやるという設計思想でした。

 名古屋空港に着陸するときに、「ゴー・アラウンド」で着陸やり直しの状態に入ったときに、コンピューターは、「機首を上げて対応しろ」と言いましたが、機長は、「機種を下げるんだ」と、判断がぶつかって墜落したのです。最終判断を人間とコンピュータのどちらに任せるかが浮き彫りになった事例です。

  実は今、自動運転の世界で似たようなことが起きているような気がします。システムで自動走行しているとき、最終判断は人間とコンピュータのどちらがやるのか?事故責任につながる問題が議論されています。

 

●自動運転の5つのレベル

 自動運転の開発はどこまで来ているか説明します。通常、自動車は、ハンドルで横方向に、アクセルとブレーキで縦方向の動きをします。この二つの動きがどれだけ自動化しているかでレベル(5段階)が決まります。

 レベル1は、一つが自動化されている場合。例えばACC(自動追尾)とか、自動ブレーキとかこれに当たります。 レベル2は、この二つの要素が両方とも実用化されているもので、今、これも市販されています。これは、アクセルやブレーキを踏みながらハンドル操作して、車線を越えて追い抜きができるレベルのものです。 レベル3は、この二つの自動化がさらに高度化した状態で、2020年のオリンピック、パラリンピックをめどに実現されます。レベル4は、無人運転が可能ですが、場所、時間、速度など限定条件があります。これが、2025年めどに、日本ではやれると言われています。

 レベル5は、いつでもどこでも完全無人で行くことができます。このときは、もう運転手はいないので、運転免許証も不要となります。

運転する主体はレベル1とレベル2はドライバー。レベル3からレベル5になると、システムが運転主体です。

 しかし、レベル3は、システム運転ではありますが、AIで対応できない状況が生まれた時、人間に運転を代わってもらう、権限移譲して代行運転を求めてくることになっています。

 自動車メーカーは、基本的に、レベル1から5に向かって、段階的な開発を目指しますが、IT企業は、一気にレベル4、レベル5の挑戦する戦略をとっています。この2つの考えと戦略が、自動運転をめぐる世界的な競争の大本となっています。

 

●2020年~25年の日本

 これは、先日、政府が出した大綱ですが、2020年から2025年の頃の日本社会のイメージをまとめています。一般道路は自動運転はレベル2までですが、高速道路ではレベル3までのバス、自家用車、トラックが走っていると言われています。

 そして、トラックの隊列走行もやられているだろう。1台の車に追随してたくさんのトラックが続いて流通を効率化するようになっている。

さらに、一定の限定地域でバス、公共機関のレベル4が実現している。運転手が居ないバスが、客を乗せて、一定のコースをぐるぐる回っているのです。このシステムは限界集約や、高齢化、過疎化に悩んでいる地域で有効です。

ラストマイルと言います。家から通常のバス停まで出てこられない高齢者が乗れる、時速5キロとか10キロでゆっくりぐるぐる回る自動運転システムで、石川県の輪島などで、活発に実証実験しています。

 

●自動運転の法律的課題

 自動運転の課題はいろいろありますが、根底に、人工知能と人間の関係性をどうするかという問題があります。法律の問題もその一つです。例えば、レベル4とかレベル5の無人状態で走るシステムに乗っている人が居て、誰かが来て事故を起こしたとします。今はドライバー責任ですが、この場合は誰の責任になるのか。造ったメーカーなのか、乗っている人なのか、関連する人間がだんだん複雑になってきて、事故責任がどこにあるか、まだ何も決まっていません。

 また、ナビに従って、あるはずの道に行こうとしたら道がなくなっているときは誰の責任になるのか。 走っているときに、車線が消えて、コースが読めなくなって事故したときは、誰の責任になるのか。いらいらした人が割り込んできたときの責任はどうなるのか。さまざまなケースが出てきますが、法律ではまだほとんど何も決まっていません。

 アメリカで実際にあったことですが、交通警察があまりにも遅い車が居て、渋滞がひどいので、先頭を走っている車を捕まえたらグーグルカーだったというのです。人間社会は場合によっては、法律をフレキシブルに考えて、全体の整合性を取るような融通無碍なところがありますが、自動運転はまじめですから、必ず法規は守ります。そこで渋滞が起きたのです。

 こんな事故もおきました。例えば、グーグルカーが右折する実験をしているとき、進行方向になぜか砂袋が落ちていました。グーグルカーはぶつからないように左にハンドルを切りましたが、後ろから来たバスが追突して事故になりました。グーグルカーのほうは、何でこれでぶつかるのか、前方を見て減速しないバスのほうが悪いと主張しました。

しかし私たちは、大型のトラックやバスというものは、往々にして普通の乗用車よりも止まりにくいことを知っています。宮崎交通のバスの運転手は優秀ですが、人によっては非常に傲慢(ごうまん)な運転手もいることをグーグルカーは知らなかった。つまり、人間社会を知らなかったということになります。

 日本のアンケートですが、「もしも、あなたが公道の上に居る自動運転車に出合ったらどうしますか」の質問に対して、自動運転だから怖いから近付かないが4割強、残りの4割近くが、興味を持って追走したり接近して観察してちょっかいを出すと回答しています。人間はこのようにいいかげんというか、好奇心や、下世話な気持ちも持っています。実は、それが人間が進化してきた源泉ですが、AIからしたら、信じられないことかもしれません。ある意味、いいかげんというか、焼酎で言うと、乙類焼酎のような、いろいろなものが混じったような行動を取る人間という生き物の中に、合理性の固まりである自動運転車が入ってくることで、様々な問題が発生するのです。

 

●レベル3の壁

 自動運転のレベル3に大きな壁があることも言われています。

 つまり、システムが運転していて、急に「運転を代わって」と言われたときに、乗っている人間は気が緩んでいますので、対応できるのかという問題です。その場合、パニックになって事故が起きる可能性があります。

 この状態は、よく考えると変です。ハンドルも触らず、アクセルも触らず、ずっと座って前を見ている人、いざというときだけ、すぐに交代できる人は、私から見るとプロ級の人のように思えます。もともと自動運転車は誰でも乗れるのが売り物なのに、レベル3だけ、それができにくいという矛盾があります。

 そういうことも含めて、いま、模擬裁判というものが各地で行われ、プロの検事や弁護士がまじめに議論して、法律的な課題を抽出する動きが出ています。傍聴していると、普通の裁判では考えられないようなケースが出てきます。

 例えば、制限速度50キロの道路上を、自動運転車が50キロの制限速度で左方向に走っています。後ろから時速60キロでダンプカーが追い上げてきている。対向車線は渋滞。その陰から自転車が飛び出してきたようなケースです。まず自動運転はシステムが衝突を避けようとして自動ブレーキをかけます。しかし、計算上自動ブレーキは間に合わないと判断。左にハンドルを切ったとき、後続のダンプカーにぶつかって、後部座席に乗っている人が死亡。その遺族がメーカーを提訴したという事例です。

 自動運転車は常に制限速度を守ります。自動ブレーキをかけようとしたけれども、衝突がさけられないので、50キロの制限速度を守りながら左にハンドルを切ったわけです。このとき、もしも乗っている人がプロだったらば、ひょっとすると80キロほどに加速して切り抜けたかもしれません。そういうことができないこともないです。しかし、AIはまじめに50キロを守りながら左にハンドルを切ったため死亡事故が起きた構図です。ところが問題が一つありました。自動運転車は、衝突の0.8秒前に、運転手に運転代行を求めていたのです。

 メーカー側は次のように主張しました。自動運転車は法規を守る。しかし例え0.8秒前まででも、人間にバトンタッチしたら、超法規的な行動で切り抜けてくれるかもしれないので、その可能性に賭けたというのです。模擬裁判は、結局、原告勝訴に終わりました。

 実に奇妙な議論。しかし、これはレベル3という状況の中で起きうる物語なのです。このレベル3を、乗り越えることができるのか?その問題をめぐって、専門家たちの議論が続いているのです。

 この問題をクリアするためには、このシステムがいつもドライバーの状況をチェックするHMI(ヒューマンマシンインターフェイス)が必要になってきます。運転手の健康状態はいいか、判断はちゃんとしているか、お酒は飲んでないかと、いつもコンピューターがドライバーを観察し、この人なら30秒前に一度アラームを鳴らして、そのあとに何かすれば対応できるとか、人馬一体状態を作り上げる試みです。モーターショーなどでいくつかの研究成果が公表されていますが、正直、まだちゃんとしたものは出ていません。

 

●究極の問題「トロッコ問題」

 最後に「トロッコ問題」と呼ばれる究極の問題があります。

 例えば、無人運転車が走っているときに、ある危機的状況が発生し、右に行っても左に行っても誰かが死ぬ。急ブレーキをかけても中の人が死ぬ。そのときにどうするのかという問題です。

結局、生命の選択を事前にインプットしないといけません。それについては社会的合意が必要になるのです。

 このように、人工知能時代というのは、私たちが、通常議論しないきわどい問題も、表に出して、事前にルールや方向性を決めておかなければならない側面があります。私たち社会が、その命の選択を、合意の中で決めることができるのかが問われています。

 

AIは雇用を奪うのか?

 人間とAIは本当に共存できるのだろうか。雇用をめぐる課題もあります。AIやロボットの進化で、現状の仕事の半分が取って代わられるという報告もあります。結論から言うと、ホワイトカラーであっても、定型型の仕事(やることが決まっている)は、消滅しやすい。 人間相手の仕事のような、定型化されにくい仕事は残りやすいといわれています。しかし、消える職業の一方で、AIの出現に伴って新しい雇用も生まれるので、全体としてどうなるかはわかりません。一つ言えるのは、既存の仕事の多くはなくなるだろうということです。

 

 

●人間はどう生きるべきか?

 人間しかできない仕事とは何か?未知の要素が多く、非定型で、創造性に満ちた仕事ということになります。 そういう中で、AI社会が到来した時、人間は本当に幸せな生き方ができているのか。そういうときの経済社会はどうなるのか。仕事をしてお金をもうけることではないシステムがあるのか、ないのか。議論すべきことは山ほどあるのです。

 AIにはビッグデータが必要です。健全にAIを育てるには、正しいビッグデータを与えないといけません。例えば、テロ集団がAIにある特定のビッグデータを与えると、それに基づいたものができてしまいます。ビッグデータをどうするか、どう管理するのかが大きな問題です。

 わたしは、日本らしいAIができたらいいと思います。日本にあるビッグデータ、和食とか伝統技術とか文化とか、日本にしかないそういうものをいっぱい反映させたAIが生まれるといいと思います。また、日本はロボット技術が優れているので、今後「動く人工知能」の時代に入るとき、これが日本の成長戦略の肝となりうるかもしれません。

 結局、人間が幸せになれるかどうかが重要です。よく切れる刃物が、人を生かすメスにもなるが、人を殺めるドスにもなる。AIという非常によく切れる道具をどの方向で使うかが問われています。

人間はいったい何者なのか。人間の幸せとはいったい何なのかということを、もう一度深く掘り下げて考えておかないとまずい時期が来ています。そのうえで、きちんとAIに向き合うことが重要です。

さて、あなたはどうしますか。あなたの会社はどうしますか。あなたの社会はどうしますか。宮崎はどうしますか。日本、世界のあらゆる所で同じ問いが投げ掛けられていると思います。

 時間になりましたので、これで終わります。ありがとうございました。

(終了)

|

« きらり「自動運転 地域はどう変わる?」2018.5.31 | トップページ | 7/5(木)10.05-10.15NHK総合テレビ(生放送) くらし解説「人と共存!愛されるロボットの条件は?」 »

シンポジウム、講演活動」カテゴリの記事

コメント

コメントを書く



(ウェブ上には掲載しません)




トラックバック


この記事へのトラックバック一覧です: 人工知能(AI)とどう向き合うか:

« きらり「自動運転 地域はどう変わる?」2018.5.31 | トップページ | 7/5(木)10.05-10.15NHK総合テレビ(生放送) くらし解説「人と共存!愛されるロボットの条件は?」 »