やがて「スマホのようなAI」が現れる

── DataRobotが考える現在のAIの最大の課題は何ですか。

 数年以内の最重要課題はAIの「信頼」を高めることです。AIの活用範囲はどんどん広がり、医療や航空管制といった重い責任をともなう分野にも導入が進んでいます。しかし、私はいまのAIが命を預けられるほどの信頼性を備えているとは思えません。新型コロナウイルスの感染拡大に際しても多数のAIモデルが作られましたが、それらの予想はすべて間違っており、人命を守るための有効な政策立案のチャンスが失われました。こうした重大な局面でも判断を任せられるレベルまでAIの信頼性を高めることが現状の大きな課題です。

 そのためには「信頼」をエンジニアリングで構築しなければなりません。DataRoobtには「AIトラスト」と名付けたチームがあり、ラーニングやモデル構築だけでなく、導入後のモニタリングや健全性チェックなど、AIのライフサイクル全体の信頼性を追求しています。そして「自分の家族がグランドキャニオンに吊されていたとして、命綱のコントロールを任せられるほど信頼性の高いAIをつくろう」と話しています。

── ガバナンスやリスクマネジメントの視点も重要ですね。

 DataRobotでは、すでに<MLOps>という製品にガバナンス機能を盛り込んでいます。モデルが正常に機能しているか、予測精度が落ちていないかを監視・改善することに加え、モデルのガバナンスの適切性もチェックしており、もし反応の遅延やSLA(サービス水準合意)違反があれば、すぐアラートが出るようになっています。データについても同様で、モデルが使っているデータフィードに問題がないか、モデルに合ったデータが使われているかなどを常にチェックしており、モデル構築時のデータと実際の予測に使っているデータの質にズレ(データドリフト)が起きていればすぐ兆候を検出します。

 モデルが出した予測が正確だったかどうかの検証も大切です。予測と結果を突き合わせ、結果が思わしくない場合はすぐにモデルを修正します。環境変化に対応するためには、モデルを自動的にアップデートする仕組みを作り上げることがとても重要なのです。

── このまま進化を続ければ、未来のAIはどのようなものになるでしょうか。

 初期のコンピューターは、広い部屋を埋め尽くす巨大な機械の塊でした。それがいまでは、手のひらに収まるスマホひとつで何でもできるようになっています。いまのAIは初期のコンピューターのようなもので、まだまだ黎明期です。しかし、いずれ誰でも使えるスマホのようなAIが生まれるでしょう。そんな未来を実現するために、AIがみずから学び、必要に応じて人間に助けを求める謙虚さを持ち、それゆえに信頼できる。そんなAIをつくることが、私たちの最大のチャレンジです。

  DataRobotはAIシステムを自動化するマシンを開発しているという点で、他のAI企業とは異質です。個別のユースケースに対応するだけでなく、AIシステムそのものを構築し、自動化する仕組みづくりに力を入れているのです。新型コロナウイルスのも影響もあり、未来志向のAI投資の気運が下がっていることは残念ですが、それでもなおAIは世界で期待されており、そのために私たちが果たすべき役割は大きいと思っています。