853.ブラックボックス(2018.1.22掲載)
私が学位を取った時の論文は、平たく言うと「かび付けでかつお節の香りが変化するのはなぜか」という内容だった。 具体的には、燻製で形成されたかつお節香り成分の構造が、かびによって変化する反応を検証し、枯節の香りを明らかにした有機化学的研究。微生物変換反応というジャンルかな。 研究がひと区切りついた後は、香り成分に関わらずかびにさまざまな化合物を与えて、その反応を論文にしていった。とりあえず「エサ」を与えれば3週間後に何らかの結果を出してくれるわけで、かなりおいしい実験系だった。 実験において、かびはいわば「ブラックボックス」。中で何をやっているかは不明だが、インとアウトさえ押さえてストーリーを付けとけばよかった。 いま、AI(人工知能)の世界で「ブラックボックス化問題」がクローズアップされている。ディープラーニング(深層学習)を使ったAIがどのような仕組みで判断を下したのか、開発者を含め専門家から見てもよくわからないという問題だ。 コンピューターソフトと棋士が戦う将棋の「電脳戦」で名人を破った「ポナンザ」の開発者、山本一成氏も「黒魔術の影響がポナンザにも及んでいる」と語った。 ここでの黒魔術は、「魔女が意味不明な呪文とともに材料を鍋に入れると妙薬ができる」というイメージ。 かびの実験なんてかわいいもんだ。将棋や囲碁も「強ければいい」と考えれば、開発者の想像を絶する「奇手」の意味がわからなくても問題はない。 これが、自動運転や病気の診断など人命に関わってくると話は違ってくる。 安全と安心を担保するために、AIの判断過程が見えるようにする「ホワイトボックス化」が必要で、各企業が取り組みを開始しているのだ。 2014年に天才物理学者ホーキング博士が「完全な人工知能を開発できたら、それは人類の終焉を意味するかもしれない」と語った時、あまり実感はなかった。 しかし、開発者の理解を越えて賢くなるわけだから、「終焉」もあながち大げさではないのかもしれない。 AIの暴走を止める黒魔術をいまから修行するべきではないだろうか。
\\\\
|
column menu
|