第334回国際政経懇話会
「人間は進歩した人工知能とどう付き合っていくべきか」
令和3年3月29日(月)
公益財団法人 日本国際フォーラム
グローバル・フォーラム
東アジア共同体評議会
第334回国際政経懇話会は、松原仁 東京大学教授を講師に迎え、「人間は進歩した人工知能とどう付き合っていくべきか」と題して、下記1.~5.の要領で開催されたところ、その冒頭講話の概要は下記6.のとおりであった。その後、出席者との間で活発な質疑応答が行われたが、オフレコを前提としている当懇話会の性格上、これ以上の詳細は割愛する。
1.日 時:2021年3月29日(月)14:00-15:30
2.開催方法:オンライン形式(Zoomウェビナー)
3.テーマ:「人間は進歩した人工知能とどう付き合っていくべきか」
4.講 師:松原 仁 東京大学教授
5.出席者:37名
6.講話概要
(1)人工知能とは何か
専門家の間でも「人工知能とは何か?」という点についてのコンセンサスは存在せず、定義もない。何ができれば「知能」と呼べるかは人間の場合においても漠然としており、定義は困難である。むしろそうした「知能」を定義することが人工知能(AI)の目的ともいえる。工学的には、人間のような知性を持った人工物を作ることが目標であり、科学的にはコンピュータを題材として知能について研究するという目的がある。知能には、言葉を扱える能力(自然言語処理)や、目で見たものを理解する能力(画像認識)、耳で聞いたことを理解する能力(音声認識)などの側面がある。鉄腕アトムのような、客観的に「知能を持っている」といえる存在が生み出されたとき、我々ははじめて知能を定義できるかもしれない。しかしこのレベルにはまだ程遠い。そもそもコンピュータは知能、あるいは心や感情を持てるのか。これについても、そもそも人間の場合でも知能・心・感情とは何かが曖昧なため、答えを出すことが難しい。したがって人工知能研究は人間とは何かを知ることを目指していると言い換えることもできる。
(2)歴史的経緯
人工知能は1950年代にはじまり、これまでに3度ブームが訪れた。何度も到来したということは定着しなかったということでもある。現在、スマホやAIスピーカーの音声対話、ショッピングや乗り換えの提案、運転支援、個人認証、囲碁・将棋AIなどの実用例があるが、特に画像認識技術が向上したのが今回のブームの特徴。囲碁・将棋の例では人間を超えたともいえるが、これはルールが明確かつ範囲が限定されているため。そうでない場合はまだ人間がはるかに優位である。
1940年代にコンピュータのひとつの原型が出現した。その後、数値だけでなく記号や概念も処理できるとする議論が生まれ、50-60年代には人工知能研究が開始した。1956年にAIという名称がつき、最初のブームとなった。しばらくはブームが沈静化(冬の時代)したが、80-90年代には人間の専門家(特に医師)の代わりをするエキスパートシステムが登場し、第二次ブームとなった。日本にAIが入ってきたのもこの時期だった。しかし、ハードウェア性能の制約もあり、2度目の冬の時代が到来した。そして2010年以降に第三次ブームとして、ディープラーニング(深層学習)が登場した。
人工知能研究は、特に軍事が牽引している。1990年ごろの湾岸戦争では米がAIを利用して、コストや犠牲者を抑えて勝利することにつながった。この時期の日本には同様のモチベーションがなかったため、差が付いたと思われる。次第にドローンや装甲車もAIと結びつき、また情報セキュリティにおいては攻守ともにAIが利用されている。AI技術においては米が常にトップで、英仏独日などがこれに続いていた。しかし近年中国が急速に台頭し、日本は3位グループに落ちた。国際会議においても、最近は中国系が席捲している。日本が立ち遅れている背景には、学問分野として確立されていなかったために研究者らに嫌われたという理由がある。また、見えないもの(ソフトウェア)の価値が低く評価されていたという理由もある。さらに第二次ブームがビジネスにつながらなかったという点もある。そして当時はAI専門家の待遇も悪く、魅力に欠けていた。
近年のAI技術革新は目覚ましい。身近な事例では、機械学習からAIがつくった俳句が高い評価を得たり、手塚治虫がつくりそうなキャラクター、シナリオを生成したりすることもできる。社会実装もできるようになり、バスより便利でタクシーより安い公共交通を実現するベンチャー企業も立ち上がった。この企業ではスマホアプリを通じた乗り合い交通のマッチングシステム等を展開しており、すでに複数自治体で実運用されている。
(3)ディープラーニングとその応用
2006年にヒントンが提唱したディープラーニングの基礎は、多くのデータからそのデータに内在する(人間には取り出しにくい)傾向を取り出すことができるということ。パフォーマンスはいいが、なぜその答えになったかの説明が難しい点など、まだ課題はある。ポジティブな成果としては、ディープラーニングは特に画像認識が得意で、2012年頃を境に精度も格段に向上した。画像認識では「畳み込みニューラルネットワーク」(Convolutional Neural Network: CNN)のモデルが一般的である。人間の表情を読み取ったり、本人確認したりする技術に応用され、医療画像診断では人間の検査よりも正確な結果を出せるようになった。しかし問題点もある。例えば実在しない人の顔写真を生成することも可能だが、悪用の危険性がある。またAIがいかなる特徴をとらえて学習しているかがわからないという側面も重要。さらに顔認識システムでは白人男性のほうがより正確に認識されるなど、CNNが世の中のバイアスを無意識に学習してしまう場合もある(データセットの問題)。さらに「敵対的サンプル」と呼ばれる細工により、CNNを騙すことも可能。ポイントは、人間とは違う視点を持っているという点。
最近では米の研究者が、「顔写真だけで支持政党がわかる」という論文を発表した。人種・性別・年齢が同じグループでは71%の正解率だった。また顔写真だけで性的嗜好もある程度わかるとする研究もある。骨相学は科学的に否定されたはずだが、仮説としては表情や顔の向きが関係している可能性がある。無論、これらには差別を助長する目的があるわけではなく、こうした技術によって「こういうこともできてしまう」ことを啓発するという目的があった。
(4)まとめと展望
まとめれば、人工知能が得意/不得意、また特徴は次の通りである。①定型的な作業は得意(データが多い場合)。②否定形的な作業は苦手(データが少ない場合)。③人間にとっての意味は理解できていない。④ルールが明確なことは得意(不明確なものは苦手)。⑤範囲が限定されていることは得意(非限定な場合は苦手)。⑥理性的なことは得意だが感性的なことは(現状は)苦手。しかし、感性的な分野においても成長途上にあり、創造性は人間だけの能力ではなくなりつつある。また近年では外国語の機械翻訳のレベルが格段に向上した。平均的な日本人の能力をおそらく超えた。リアルタイムでの文字起こし+翻訳の併用もAIによって可能になりつつある。
棋士の藤井聡太氏は、日ごろからAIとの対戦に親しんできた、いわば「AIネイティブ世代」である。こうした事例からも、すでに人工知能が人間から学び、人間が人工知能から学ぶという時代が到来していることがわかる。そこで重要なのは、人間と人工知能で役割分担をするということ。「人間+人工知能」(例えばスマホを持った人間)のモデルを通じてより賢くなることができ、2者を併せて考えることで人間の概念は拡張されていく。しかし、倫理的側面も重要である。人工知能を良いものにするのも悪いものにするのも人間次第である。すでに悪用はされるようになっており、これにどう対抗するかを考えることが急務である。また進化した人工知能を人間が受け入れるにはある程度の時間が必要であろう。
(文責、在事務局)