853.ブラックボックス（2018.1.22掲載）

　私が学位を取った時の論文は、平たく言うと「かび付けでかつお節の香りが変化するのはなぜか」という内容だった。 　具体的には、燻製で形成されたかつお節香り成分の構造が、かびによって変化する反応を検証し、枯節の香りを明らかにした有機化学的研究。微生物変換反応というジャンルかな。 　研究がひと区切りついた後は、香り成分に関わらずかびにさまざまな化合物を与えて、その反応を論文にしていった。とりあえず「エサ」を与えれば３週間後に何らかの結果を出してくれるわけで、かなりおいしい実験系だった。 　実験において、かびはいわば「ブラックボックス」。中で何をやっているかは不明だが、インとアウトさえ押さえてストーリーを付けとけばよかった。 　いま、ＡＩ（人工知能）の世界で「ブラックボックス化問題」がクローズアップされている。ディープラーニング（深層学習）を使ったＡＩがどのような仕組みで判断を下したのか、開発者を含め専門家から見てもよくわからないという問題だ。 　コンピューターソフトと棋士が戦う将棋の「電脳戦」で名人を破った「ポナンザ」の開発者、山本一成氏も「黒魔術の影響がポナンザにも及んでいる」と語った。 　ここでの黒魔術は、「魔女が意味不明な呪文とともに材料を鍋に入れると妙薬ができる」というイメージ。 　かびの実験なんてかわいいもんだ。将棋や囲碁も「強ければいい」と考えれば、開発者の想像を絶する「奇手」の意味がわからなくても問題はない。 　これが、自動運転や病気の診断など人命に関わってくると話は違ってくる。 　安全と安心を担保するために、ＡＩの判断過程が見えるようにする「ホワイトボックス化」が必要で、各企業が取り組みを開始しているのだ。 　２０１４年に天才物理学者ホーキング博士が「完全な人工知能を開発できたら、それは人類の終焉を意味するかもしれない」と語った時、あまり実感はなかった。 　しかし、開発者の理解を越えて賢くなるわけだから、「終焉」もあながち大げさではないのかもしれない。 　ＡＩの暴走を止める黒魔術をいまから修行するべきではないだろうか。