社会をより良くするAIを実現するために ビジネスで求められる“説明可能なAI”の可能性とは
ディープラーニングの発展とともに始まった「第3次AI（人工知能）ブーム」により、AIに対する認知や期待が高まっている。すでにビジネスへの応用も始まり、製造、流通、小売、物流、交通、金融、都市インフラ、ヘルスケアなど、さまざまな分野でAIは実用段階に入った。
特に日本では少子高齢化や人手不足、停滞する経済の活性化、国際競争力といった社会問題を解決する糸口としても期待されている。このAIブームの勢いを減衰させることなく、AIを使って世の中を本当により良い方向へ導くためには、どのようなアプローチが考えられるのか。
AIの基礎研究を通じて社会の知的生産性拡大を目指す「知能システムエンジニアリング」という新たな学問領域に挑戦する横浜国立大学大学院工学研究院の濱上知樹教授と、IT企業の立場からAIの研究開発に取り組むNECの本橋洋介さん（AI・アナリティクス事業開発本部 シニアデータアナリスト）に、「社会をより良くするAI」というテーマで話を聞いた。
ギャップがあるからこそ、AIの裾野が広がる余地がある
──AIの基礎研究やAI使ったソリューション提供をリードする立場として、AIの現状をどのように見ていますか？
第3次AIブームが到来して5年以上が経過しましたが、現在はこれまでAIとは縁のなかった分野で活用が進んでいると実感しています。
現在のAIブームは、数年前に突如として到来したという印象がありますが、特に短期間のうちに技術が進化したわけではありません。ブームの要因を強いて挙げるなら、かつては大量のデータをためることに制限があったのが、現在は不自由なくデータをためられるインフラが整ったことでしょうか。
ガートナーのハイプ・サイクルで言うところの「黎明期」「過度な期待のピーク期」「幻滅期」を迎えた業界・企業がそれぞれ存在し、盛り上がっている人たちもいれば、期待ほどではなかったとがっかりしている人たちもいます。業界・企業によって活用や期待にギャップが生じているのが、AIを取り巻く現状だと思います。
しかしながら、こうした現状は決して悪いことではなく、ギャップがあるからこそ、AIを利用する裾野はまだまだ広がる余地があるとも考えられます。ちなみに私自身は、AIという言い方をなるべくしないようにしています。なぜなら、歴史的にうまくいった事例はAIと呼ばれなくなるからです。
NECがAIの研究に着手したのは、1960年代までさかのぼります。最初は郵便物の宛名自動読み取り装置のような画像認識・OCR分野の開発からスタートし、さまざまな製品やサービスにAI技術を適用してきました。
海外の郵便事業者にも納入実績があるNECのOCR技術。日本語やアルファベットだけでなく、筆記体の読み取りにも対応している（濱上教授がおっしゃるように、「歴史的にうまくいった事例はAIと呼ばれなくなる」ということに私も同意します。例えば、NECのAI技術は人の部位に例えると「目」が得意分野であり、当社の顔認証技術にも広い意味でAIや機械学習の技術を取り入れています。しかし、もはや顔認証技術をAIと呼ぶようなことはしません。
これは時代によって行ったり来たりしていると思います。AIと言ったほうが売れる時代もあれば、AIと言わないほうがよい場合もあるのです。AIを実装したシステムが使えることに意味がある。まだ人工知能工学と言いませんが、工学となるようにしたいと考えています。そこで私の研究室では、AIという言葉をあえて使わず、「知能システムエンジニアリング」と呼ぶようにしています。
AIの知識、データ流通、認識のズレ、スキル不足……今ある課題は？
―― AIはビジネスにおいても検討段階ではなく実用段階に入っていますが、「金銭的、人的リソースが足りない」ことを課題としている企業も少なくないようです。ビジネスへのAI活用にどのような課題がありますか？
現状のAIには4つの課題があると考えています。1つは事業領域の知識をAIに取り込むことの難しさです。データはすでに大量にあって、“宝の山”のように言われていますが、実はそのデータのほとんどが属人化されていて、データを解釈するのに時間がかかり、ノウハウを提供してもらえないという課題があります。ノウハウを出してもらったとしても、事業に関する背景を技術者が理解していないと使いこなせません。これが、PoC（概念検証）に失敗する大きな要因になっています。
おっしゃる通りです。データを入れたらすぐにAIが出来上がるのではなく、人のノウハウをAIに注入しながら進めることが多いです。これらの知識をどのように入れるか、これが現在のもっとも重要な課題ですね。
そこで注目されているのが導き出された結果に解釈性のある「説明可能なAI」「Explainable AI（XAI）」というアプローチで、NECはこれを「ホワイトボックス型AI」と呼んでいます。NECのホワイトボックス型AIは、現在活用が進んでいるディープラーニングとは異なり、分析モデルが人の理解できる内容に可視化（ホワイトボックス化）されているので、分析モデルに人の経験値を加味して修正、再学習させることで予測精度を上げることが出来ます。
また、毎回ノウハウを注入しなくても、成功事例を他のケースでも転用できるようにすることが大事だと考えます。そのため、NECでは「AI活用マップ」というものを作っており、主要な約40の業界ごとに、10〜20通りほどのAIが活用できる業務を挙げています。これらの用途ごとにカプセル化されたAIが必要だと考えており、データの種類や学習方法などのパターンを転用可能な形で蓄積しています。
2つ目は、データの流通を阻害する構造的な要因があることですね。多くの業界は生産性の高い水平分業が進んでいますが、そのためにデータの流通が分断されています。事業に関わる人々（ステークホルダー）をどのようにまとめていくかが課題となっています。
データの流通を阻害する構造的な要因があることは、私たちも大きな課題だと考えています。
例えば、食品業界には食品製造業、卸売業、小売業がまとまってサプライチェーンを形成していますが、製造業は小売の現場での細やかな販売に関わるデータを保有しておらず、消費者のニーズを詳細に把握できないといった課題があります。そこでNECでは、これらのサプライチェーン間のデータを共有することで、流通量をうまく調整する「需給最適化プラットフォーム」を提供しています。
とはいえ、サプライチェーンが分かりやすい食品業界はまだよいのですが、複雑なサプライチェーンの業界では業種・企業の力関係もあって、ステークホルダーをまとめるのは一筋縄にはいきません。私は国が主導してデータ流通のためのプラットフォームを用意することも必要ではと考えています。
課題の3つ目は、AIについて業界・企業ごとに“認識のズレ”があることです。例えば、業界・企業によっては「AIには勝手に賢くなってほしくない」と考えているところもあります。製品仕様が決まっているのに、AIの判断で仕様を変えられたら困るというわけです。
そもそもAIの導入が向いていない企業もあると思いますね。例えば、AIを使って品質チェックを行うシステムのトライアルを行い、99％の精度を出せたとしても、「本番運用後に97％に落ちたらどうするのか」とおっしゃる企業もいます。
AIが機械学習を繰り返した結果、精度が落ちる可能性は否定できないのですが、それを許容できないのであれば、AIの活用が適しているとはいえません。
さらにもう1つの課題が人材不足です。実はAIのプログラミングだけなら扱える人はたくさんいるのですが、AIを活用したソリューションを提供するには、業界や業務に関する実践的なスキルが求められます。このスキルに技術が合わさらないと、PoCの繰り返しだけで終わってしまいます。
AIを社会に実装するスキルを持った人材の不足は喫緊の課題です。そこで、NECはAIを実装するスキルを持った人材を育成するため、「NEC アカデミー for AI」を開講します。本アカデミーは、AIを社会実装・活用する役割を担う社会人や大学生を対象とし、実際のAIプロジェクトを題材として、AIをビジネスに活用するための実践経験を積むことができます。
これまでNECグループで培ってきた育成メソドロジーをオープンに提供することでAIの社会実装を促進するべく立ち上げました。
信頼できるAIをカプセル化すれば、ブラックボックス型AIも許容される？
――導き出した結論の根拠が見えない“ブラックボックス型AI”は、間違いが許されない領域のビジネスには適用できないという声もあります。そこで、AIのロジックを可視化できるホワイトボックス型AI（説明可能なAI、Explainable AI、XAIともいう）が注目されていますが、これはAIが社会やビジネスに浸透する後押しとなりますか？
いわゆる「説明可能なAI」（Explainable AI、XAI）は非常にホットな領域であり、AI活用の現場では必ず言及されるものですね。これは、AIの説明責任を果たす上で重要な役割を果たします。しかし私は、説明可能になった時点で本来のAIが持つ潜在的可能性、ポテンシャルが失われてしまうかもしれないと危惧しているところもあります。
人は自然現象において説明が難しい事象を受け入れています。例えば、飛行機がなぜ飛ぶのかという原理を正確に説明できる人はほとんどいません。にもかかわらず、私たちは飛行機が飛ぶという自然現象を受け入れ、信用して搭乗します。
ところがAIとなると、「その現象を説明できなくては受け入れられない」という話になります。個人的な意見ですが、AIも自然科学の現象の一部として見てもいいのではないでしょうか。AIがブラックボックスであったとしても、ある粒度で説明可能であればという前提ではありますが。
なるほど。人は機械などの原理を知らなくても自然に使っているために、AIも自然に受け入れるようになる未来があるでしょうね。一方で、今のところのビジネス活用では、性能や挙動が安定していないことが多いため、人が検証しながら用いたり、ノウハウを注入したりすることが多いと感じています。少なくとも今のところは、人とAIが協調しあうためにホワイトボックス型AIが必要かと思います。
また、先ほど話したようにカプセル化された単位のAIに関しては、信頼性が担保されていれば内部がブラックボックスでも良いのかもしれません。
そうした部分を包含するソリューションやフレームワーク、あるいは信頼できる粒度でカプセル化したAIが登場してくると、さらにAIの社会への浸透が進むのではないでしょうか。
人間には処理できない規模の処理をAIに任せることは、今後のビジネスにおける効率化で必要不可欠な存在だ。しかし、AIが論理的思考によって結果を導き出すだけでは不十分で、その結果を導き出した根拠を示すことがビジネスでは求められるのが実情である。
NECは、AIが結論に至った根拠が分かるホワイトボックス型AIというアプローチでも、ディープラーニングのような、結論に至った根拠が分からない“ブラックボックス型”AI並の精度を実現。NECのAIが得意とする画像認識、データマイニング、自然言語処理といった分野は、社会をより良くするシステムの中枢として活躍するだろう。
あなたのビジネスも、AIによってより良い方向へ進む可能性が秘められている。まずはNECの最先端AI技術群「NEC the WISE」に触れてみてはいかがだろうか。
Copyright © ITmedia, Inc. All Rights Reserved.
提供：日本電気株式会社
アイティメディア営業企画／制作：ITmedia NEWS編集部／掲載内容有効期限：2019年3月31日
ITmediaはアイティメディア株式会社の登録商標です。