BizGateリポート/経営

グーグル・リクナビ…AI活用に教訓 導入前の注意点は? AI経営のリスク管理 寺嶋正尚・神奈川大教授に聞く(1)

記事保存

日経BizGate会員の方のみご利用になれます。保存した記事はスマホやタブレットでもご覧いただけます。

グーグル・ウーバー・テスラ・リクナビも使い方誤る?

 ――誰でもすぐにAIを効果的に使えるわけではないのですね。

 「AIはビジネス的に大きな可能性を秘めています。ただ導入を決めた時点では、本当に役に立つかどうかは分かりません。これが従来の社内システム導入と違う点です。AI開発企業と利用する企業が連携して、データを与え学習させることで、時間をかけてビジネスに有効に機能するAIに育てていくイメージです」

 ――成功事例だけでなく、AIシステムのリスクも指摘されるようになってきています。

 「世界的に有名なのは、2015年に米グーグルの画像処理が黒人とゴリラを誤認したケース、18年には米ウーバーテクノロジーズや米テスラの自動運転車の人身事故が起きています。19年の日本のリクナビ問題も、AIシステムの使い方が倫理的におかしいとされた問題でした」

 「機械学習は無限の可能性を秘めています。しかし代表的なアルゴリズムを見ると多くは統計的な手法に頼っています。要は確率です。何億円もする高額なAIを導入したものの需要予測が全く当たらず、結局経験とカンに基づいた従来型の営業の方が利益を確保できる場合だって考えられます。果たしてそれは何億円も資金を投入する価値があったのでしょうか? 何か問題があった時、開発メーカーに問い合わせても入力データに問題があると言われれば、その責任は誰が取るべきでしょうか? 」

 ――導入前のリスクマネジメントを徹底するよう唱えていますね。

 「リスクが現実のものとなってからでは遅すぎます。やはりAIを導入する前に、ある程度のリスクを想定し、対応策を考えておくべきだと思います。まずAI製品、サービスに関わるリスクです。(1)品質、故障(2)安全性(3)信頼性(4)セキュリティー(5)開発企業の事業継続性――を考える必要があります。システムを導入したもののAI開発企業が倒産してしまってサービスが受けられなくなるケースは米国でも起きています」

 「実際の運用面では(1)情報漏洩(2)責任の所在(3)AI生成物などの知的財産権(4)人材の採用・配置転換(5)プライバシー侵害(6)既存システムとの連携性(7)代替可能性(8)費用対効果――などのチェックは欠かせません。さらに法的視点などからみた(1)アカウンタビリティー(2)倫理に関わること――にも注意を払っておくべきでしょう。AIが便利であればあるほど問題が生じた時の対処方法を学んでおくべきです」

(聞き手は松本治人)

閲覧履歴

    クリッピングした記事

    会員登録後、気になる記事をクリッピングできます。