• このエントリーをはてなブックマークに追加
2017年06月19日 13:41

【技術の先端】人工知能の判断を明確化して自動運転の安全・安心を(前)

九州工業大学 大学院生命体工学研究科 人間知能システム工学専攻
准教授 我妻 広明 氏

 2020年の実用化を目指して研究が進む「自動車の自動運転」。さまざまな技術が用いられているなかで、とくに注目されているのが、ドライバーの代わりに自動車を操縦する人工知能(AI)技術だろう。現在、自動運転を普及させるうえでの課題の1つとされているのが、AIによる運転時に事故が発生した場合の原因把握の難しさだ。この課題に対して、産業技術総合研究所・人工知能研究センターと九州工業大学は共同で、自動運転時にAIがどのような判断を行ったのかを記録するシステムの開発を進めている。この研究に取り組んでいる我妻広明准教授に話を聞いた。

人工知能はブラックボックス

 ――現在、我妻先生が取り組まれている研究について、簡単にご説明をお願いします。

我妻 広明 准教授

 我妻氏(以下、我妻) 自動運転技術が実用化に向けて動き出していますが、技術的な問題を解決しても、社会インフラとして受け入れられるには「安全・安心」を確保する必要があります。安全は「部品が壊れない」など物理的なことで、安心は「道具を信頼して使える」という心理的なものが大きいです。ですから「人が運転していない自動車」が道路を走ることに対して、法整備も必要ですが、最終的に社会に受け入れられるには安全・安心が担保されていることが必要不可欠です。そして、何か不具合が発生したときに「なぜ起こったのか」「どこが問題だったのか」を可視化する必要があります。不具合の理由がわからないものは安心して使えないですよね。

 AIの話のなかで「ディープラーニング(深層学習)」や「機械学習」という言葉を聞いたことがあると思います。これは大量のデータ(もしくはビッグデータ)を学習アルゴリズムに入力し、訓練を施したコンピュータが、データの統計的傾向を算出し、学習後は情報を自動的に分析できるというものです。
 たとえば、Amazonで買い物をすると「こちらはいかがですか」とオススメする推薦システムがありますね。これは膨大な購買データから共通項を抽出して「傾向から、あなたはこれに興味があるはずだ」といっているわけです。
 こういったものを「データ駆動型AI」といいますが、実は内部でどういう理由でそれを推薦するに至ったかなど、何をどう意味づけて計算しているかわからない。言わば「ブラックボックス」なんです。

 最近の話ですと、AIが将棋のプロ棋士に勝利していますが、コンピュータ自身は何の意味づけもせず、最適解計算を繰り返しているだけなので、実はなぜ強いのか、どういう戦略を立てたから勝ったのかはわからないんですよ。過去の膨大な棋譜データを学習し、統計的に「この場面ではこの手を打つのが良いだろう」と勝つ確率が高い手を選んでいる。そして、勝ち負けでいうと確かに人間のプロ棋士に勝ってしまう。でも、開発者ですら「なぜそのとき、その判断をしたのか」という説明はできません。

 ――統計から、機械的に最適と思われるものを選んでいるだけなんですね。

 我妻 説明できなくても、将棋の勝ち負けなら問題はないんです。でも、自動運転時に統計的には99.99%正しい判断をしたのに、0.01%の部分で人に対して事故を起こしてしまった、ということがあり得ます。そして、なぜその事故が起きたのかと原因を追求しようしたときには「わかりません」ということになる。これではダメですよね。理由もわからずに人に危害を加える欠陥製品と認定されれば、大量リコールになり、メーカーは大打撃を受けます。ですから、自動運転の「判断」のところにブラックボックスがあるAIをそのまま使うのは、非常に危険だということです。

 実はどの自動車メーカーも、技術的には高速道路上の自動運転化はほとんどできています。料金所から入って出るまでの間なら自動化できるといわれています。でも、一般道だと何が起きるかわからない。事故が起きた際にメーカー責任になるのかどうかも決まっていないため、二の足を踏んでいる状況です。

 ――責任の所在が明らかでないため、一般道を走らせることができないわけですね。

(つづく)
【犬童 範亮】

<プロフィール>
我妻 広明(わがつま・ひろあき)
1967年、山形県生まれ。理科学研究所基礎科学特別研究員、同研究所脳科学総合研究センター研究員を経て、2009年より九州工業大学大学院生命体工学研究科准教授。脳型人工知能・ロボット工学ならびに身体動作支援機器研究に携わる。「NEDO次世代ロボット中核技術開発/次世代人工知能技術」に参加。

 
  • このエントリーをはてなブックマークに追加

     

トップニュース

2019年02月24日 07:02

沈香する夜~葬儀社・夜間専属員の告白(3)

   皆さまは、親やきょうだい、もちろん御自身の葬儀に関してどのように考え、準備をしているだろうか。  近年「終活」という言葉が生まれ、ニュースでは、遺言...

2019年02月24日 07:02

中国企業「友利家具」として挑む家具づくりとは?(後)

  張英氏は「責任感が強すぎる」  武野  彼女は責任感が強すぎるのです。「そこまでやらなくても」というぐらい、四方八方に気をつかい過ぎるんです。そういう...

2019年02月24日 07:01

グローバル市場で成長を続ける 国際物流事業パイオニアの強みとは(3)

  西日本鉄道(株) 国際物流事業本部  執行役員副本部長兼営業企画部長  黒飛 茂樹 氏 サービスの品質向上がシェアの拡大につながる ...

2019年02月23日 07:04

沈香する夜~葬儀社・夜間専属員の告白(2)

   その夜、私が勤務する葬儀場は閑散としていた。御遺体の安置も通夜も葬儀もなく、1人で冬の長い夜を過ごしていた。そのような夜でも、葬儀場内の掃除や機具のメンテナン...

2019年02月23日 07:02

中国企業「友利家具」として挑む家具づくりとは?(中)

  日本人は「細かいことを大きな問題にする」  ―最初から張英さんに会社を任せる考えだったのですか?  武野  もちろんそうです。彼女は...

2019年02月23日 07:01

グローバル市場で成長を続ける 国際物流事業パイオニアの強みとは(2)

  西日本鉄道(株) 国際物流事業本部  執行役員副本部長兼営業企画部長  黒飛 茂樹 氏 海外進出で得た現地知識や経験がシナジーを生む ...

2019年02月22日 17:42

理研ビタミン、わかめの産地を判別する特許技術とトレーサビリティシステムで品質保証体制を強化

   理研ビタミン(株)(本社:東京都千代田区、山木一彦社長)は21日、わかめの主要4産地を判別する特許技術と「トレーサビリティシステム」を組み合わせて品質保証体制を...

2019年02月22日 17:29

福岡市地下鉄七隈線天神南~博多間軌道工事、松本組が7億で落札

   福岡市交通局発注の「福岡市地下鉄七隈線(天神南~博多間)軌道工事」を、15日、(株)松本組が7億3,316万7,000円(税別)で落札した。 【代 源...

2019年02月22日 15:47

TSUTAYAに課徴金1億1,753万円支払い命令~消費者庁

   消費者庁は22日、(株)TSUTAYAに対し、同社が供給する動画配信サービスの表示が景品表示法第8条第1項の規定に違反するとして課徴金納付命令を行った。 ...

2019年02月22日 15:46

ヤマトHD創業100周年でトップ交代、新社長に長尾裕氏

  新社長 長尾 裕 氏  ヤマトホールディングス(株)(本社:東京都中央区)は21日、代表取締役社長・山内雅喜氏が代表権のない取締役会長に就...

pagetop