夕食会・午餐会感想レポート

6月10日夕食会

6月10日の夕食会時に実施された長尾真先生による「AIと人間の共存・共栄を考える」という講演を興味深く聴かせて戴きました。

私が会社生活を始めた頃は、まだ給料計算を手作業で行っていましたが、先生のお話しでは、米国を中心に、コンピュータを計算だけでなく人間の知的能力を実現できる道具としてAIの研究が始まり、40年程前にはチェスなどで人間に勝てるまでになっていたとのこと。最近では、将棋や囲碁もAIが人間を上回る状態で、いよいよ実用の時代に入ったと思われます。

高齢化時代、就中、独居老人が非常に多くなってきたこの時代に、ロボットが話し相手になってくれる時代が近づいているのではと思います。

先生の話でも、論理・知識の領域では既に人間を凌駕するまでになってきているようですが、介護ロボットなどを頭に置いて考えると、人の心を和ませ得ることが大事であるとのこと。しかし、その為には、人間のその時々の心の状態を適切に推測できなければなりません。

人間同士の会話の場合“口で友好的に話していても、心の中で毒づいている”といったこともあり、AIが本当に人間の心を読めるようになるのは何時頃到来するのかと思いながら聞かせて戴きました。

最後に質問の時間があり、AIが人間の表情からその心を読めるようになるのは何時ごろになりそうか質問したかったのですが、時間が無いとのことで聴けませんでした。

これまでの進歩のスピードから考えると、私の生きている間には無理としても、孫達が高齢者になる頃には、人間の心が正確に読めるロボットが独居老人の生活同伴者になっているかも知れないなと思いました。

（京大・経　鶴谷緑平）

AI（人工知能と翻訳されている）と言う言葉があちこちで氾濫しているが、一般的にAIと言われているのは「AI技術」の事であり、「真の意味での人工知能」とは峻別しなければならない、従ってAIが神に代わって人類にユートピアをもたらすことはないし、その能力が人智を越えて人類を滅ぼしたりすることもない。「真の意味での人工知能が人間の能力を越える地点」を意味するシンギュラリティーが到来することもない。囲碁を嗜む筆者もコンピュータ囲碁プログラム「アルファ碁」がプロの棋士に勝ったと言う事を聞くと、愈々AIが人類に勝ったかと誤解してしまうが、「真の意味での人工知能が人間の能力を越える」こととは別次元の話で、偶々限られた部分でコンピュータが人間に勝ったというだけである。このような認識をもっていたのでこの講演は非常に興味があった。

講師の長尾真氏は京都大学総長も歴任された京都大学電子工学科を卒業された技術系の方であり、冒頭「私は技術屋なので社会学的な観点からの話は出来ない」と仰っていた。世界の種々の現象は基本法則、固有法則で説明されてきたが、もっと精度を上げることや、法則では説明できない事象については、膨大な過去のデータから経験的に学び、未来を予知しなければならないとして「ビッグデータ」の必要性を説き、できるだけ多くの関連データを与えることによってAIは賢くなる、と強調された。AIは論理・知識の分野では、目的を明確に与えられれば、学習によって人間を超えることが出来る。従って①人の心に関係しない仕事、②創造的でない定型的な仕事では、AIは人間の仕事を奪ってしまうことが十分に考えられる。長尾氏は、このことに対する対策として、AIの導入によって得られる利益の一定割合を税として徴収し、失業者に対する「ベーシック・インカム」の財源とし、「ワーク・シェアリング」制度を作り、それに参加する人達に「ベーシック・インカム」を分け与えることを提案されている。

冒頭に書いた筆者の関心事項については、AIが人類を滅ぼしたりすることもあり得ない訳ではなく、工学的観点から、「AIに対して義務・制約を課すこと」として、いくつかの事項を述べられている。人間性の尊重、人間を支配する可能性の排除／人が危険と感じることをさせない／AIが社会的格差助長の原因にならないように配慮／紛争、戦争への利用についての禁止等々。これらを社会のコンセンサスにし、これらの義務・制約をAIシステムに装備することを国際的に義務化する必要があると説かれる。筆者は知らなかったが、国際的にあちこちでAI倫理のあるべき姿が議論されるようになってきたとのこと。例えば、総務省AIネットワーク社会推進会議／米国電気電子学会／欧州委員会／OECD・AI専門家会議等。まことに結構なことだと思った。

（東大・工　加藤忠郎）

地球上70億の人間のかなりの割合の人々の意識がGAFAを代表とする一握りの企業のサービスを通じて、表現され、拡散され、選別され、加工され、蓄積されるなど、何等かの形で影響を受ける時代となった。しかもびっくりするほどの短期間で！ネット上で一冊本を買うだけで、もう同じ画面で自分の好みに合う書籍やそれに関連するグッズが推薦されてくる。悔しいことに、それらがかなり好みに合っていると認めざるを得ない。自分の意識ってこんなに簡単に把握されてしまうものなのかと、圧倒的な情報技術の成果に自分を小さく感じてしまうことが多くなった。人口知能がさらに賢くなると、人間の多くの仕事が奪われるのは確実だが、それどころか、ちょっとしたことにワクワクすることや、人間の自尊感情が減ってゆくばかりになるのではという後ろ向きな感覚があり、もっと前向きな展望が持てないものかと、この講演を拝聴することにした。

データに置き変えられる仕事は量、速さ、正確性で人間は機械には全く歯が立たない。では人間の仕事としては何が残るのか。あるいはどのような仕事が新しく創られるのか。社会制度や生活そして人間の意識はどのように変わっていくのか。そこが聞きたかったので、若い技術者よりアナログ時代のこともよく知ってらっしゃる戦前生まれの長尾先生なら、より文明俯瞰的なお話をしてくれるのではという期待があった。しかし、冒頭で「技術的な話しはしますが、社会学的な意味あいについてはあまり言えることが・・・」と遠慮がちに言われたので、「そこが聴きたかったのにぃ」と残念に思った。だがよくよく考えてみれば、そこは正しい解が一つに決められるような領域ではないわけで、むしろ先生の専門性の高いお話を伺った後で、こちらが考えることだなと思い直した。

結論として思ったことは、機械がどれだけ進化しても、「価値そのもの」を感じることはできなさそうだということ。市場価値とか歴史的価値とか頭に何々とつければ判断基準とデータが揃うが、実存的な価値はインプットのしようがなく機械が感じることはないだろう。だから人間は生きてる価値を感じることに意味がある。だとすれば、「実用」世界の仕事はすべて機械装置に任せて、人間は実用と関係のない存在価値というやつを大切にすることが仕事になるはず。そこでベーシックインカム！ロボットやAIなどの自動装置による収益に相当の税金をかけて財源にして、実用と関係のない“仕事”をする人々の生活を支える。さて、自動装置の所有者たちは、その収益をそのために提供してくれるだろうか？狭い意味の資本主義の枠組では限界がある。これからの文明社会に関する捉え方に何らかの根本的転換が必要なことは確かだ。さて、それはどこからいつやって来るのだろう。明日の朝、起きたら何かひらめかないかなと期待する毎日である(笑)。

（東大・文　青木安輝）

AIは「膨大なデータ」を、ルールに従った評価により目的とする問の解答を導くものである。その評価のためには、適切な切り口によるビッグデータの収集とそれを分析する手法が必要である。即ち、現在のAIは偉大な計算機ではあるが、人間のような「自分で考える能力」はない。

先生の講演の中で「介護ロボットの対話能力は？」という件(くだり)があった。「介護ロボットは人を和ませる応答が出来なければならない」との説明、つまり「介護ロボットは感情を持った対応が出来る」ということである。その結果、「介護ロボットは心を持つ」。被介護者と心を通わすために、「被介護者との対話の中で考える能力を身につける」と言われた。ただそれは、「心モドキ」の可能性がある。日々相手のことを思い、ときに緊張し、どう言うべきか迷いながら対応する人間と同様とは言えない。「生きた」介護ロボットを創るためには、「これまでの介護者と被介護者の人生の集大成」のインプットが不可欠だが、一片の会話の分析で心が隠(こも)ることは出来るだろうか？「素晴らしいけど、よく出来たロボットね」と言われる可能性がある。

更に「AIは論理・知識の領域では人間を凌駕する」とは本当だろうか？人間は、相手若しくは環境に対応し、それまでの経験を瞬時に総動員して考え、次に取るべき行動に移行する。それが全て正しいとは言えないが、人間らしい。「人間は間違う」故に、「AIは論理領域では人間を凌駕する」とはいえない。

もちろん人間を越えるAIをつくることのみがAI研究の目的ではない。「AIは人の心を理解出来るか」という問はAI研究のひとつの目的だろう。私はある医師と「AIによる医療措置は出来るか？」という議論をしたことがある。当面の結論は「緩和ケア」（ex.呼吸困難状態になった際人工呼吸器を使うかどうか？）というような医療はAIには任せたくないということだった。もちろん予めルールを決めておいて、判断はそれに委ねるということであれば、AI治療も可能だろう。ただ人の命の存続をAIに委ねていいか？技術的に出来るとしてもAI研究者のみならず多くの関係者が参加した議論が必要だろう。

当初の私の関心は、自らの業務である国家試験問題の作成・採点をAIで出来ないか？ということだ（採点だけでも）。それには通常の意味のビッグデータとは異なる大量の電気等に関する知識の集積が不可決だ。一人の識者の一生の経験の集大成でもある。費用対効果は別として、いずれかの時点でこういうことも、機械が行う時代が来るかも知れない。そのときには「人とは何か」を考え直さなければならならない。

（東大・工　上林　匡）

長尾先生のAIと人間の共存・共栄に関する講演は、今後の人類社会に与える影響を考える時、実に興味深かった。1956年にダートマスの会議で、コンピューターは計算だけでなく人間の知的能力を実現できるとして人工知能と言う名が付けられた。以来紆余曲折を得て今や60年余りが経過したが、2045年には人工知能は人間の脳を超えるシンギュラリティ（技術的特異点）に到達するとさえ言われている。科学技術の目覚ましい進歩は、不可能を可能にし、生命を守るだけでなく、寿命を長くし、我々の生活を飛躍的に便利にすることに貢献した。反面、天才的科学者と呼ばれた人たちの研究成果が後世の人々の命にかかわる大きな暗い影を投げかけることにもなった。原子力開発は最たるものだろう。膨大なエネルギーを効率よく生み出す反面、大量破壊兵器を生み、原子力発電所の事故は人が住めない地域を創りだし、核燃料廃棄物は抜本的処分方法もいまだに不明である。

人間の進歩に対する欲求は果てることがないし、それを利用した個人的・国家的欲望の追求も果てることがない。AIの負の側面を最小限にし、人間社会に役立つことを目指し、OECDや各国政府によるAIの開発や運用に関する指針作りや原則を策定することは既に進められているのでそこに期待したいと思う。

地球での持続可能な我々の営みを創っていくには課題はあまりに多いし、我が国においても人口減少、急速な少子高齢化による労働力人口減の危機に直面している。これを解決する手段の一つとしてAI、IOTの技術に期待がかけられている。農業用機械の自動運転化、畜産の生産効率化、工業生産の更なる効率化、高齢者も安心して乗車できる自動運転車の実現、多言語対応の翻訳機、様々な分野での期待が膨らんでいる。翻訳機はコミュニケーションを促進し、他の国の人と相互理解に役立つことだろう。外国人労働者が増える今後の社会を考えた時、不要なトラブルを避けるためにはコミュニケーションが欠かせないので、とりあえずは安価で性能の良い翻訳機に期待したい。もはやこの動きを止めることは不可能である。

さらに多様な判断ができ、エネルギー消費が極端に少ない能に似せた新型AIの開発も進んでいると聞く。そうなると次は人間の心の解明も進んでいくことだろう。

ただAIを装填した覇権国のロボットが、ロボットを持てない国の若者を殺戮する。そして少子化の進む我が国が、そのような兵器ロボットをアメリカから大量に購入するような事態だけは実現してほしくないと思う。

いっそのこと利己主義で自分の欲望のみ優先させる心を取り除いたAIの出現を望む。そのようなAIが各国首脳となり、世界会議を日本で開催している姿をつい夢見てしまいたくなるのは愚かなことだろうか。

（北大・教育　牛島康明）