AINEWS

劣化する予測精度、ポンコツAIに陥る2パターン

AIシステムは運用開始後に精度が劣化していく場合がある。最初は問題がなかったのに、だんだんポンコツAIシステムになっていくパターンだ。予測精度が劣化する典型的な原因2パターンを取り上げる。

AI(人工知能)の業務システムへの適用が増えるにつれ、当初の期待とは程遠い「ポンコツAIシステム」を多く目にするようになっている。ポンコツAIシステムに陥るのを避けるには、AIシステムを意識した開発プロセスを採用する必要がある。
ある電力会社では、AIを活用した電力需要予測システムを運用していた。ところがある日、急激に予測精度が劣化する現象が起こった。その日に特別な事象が発生したわけでもなかった。気付いたら、間違った予測ばかりを出力するシステムになっていたのだ…