ブラックボックスの「ご託宣」 アルゴリズムの透明性が欠かせない
神里達博の「月刊安心新聞＋」
かみさと・たつひろ
1967年生まれ。千葉大学大学院教授。本社客員論説委員。専門は科学史、科学技術社会論。著書に「リスクの正体」など
今月、米国のIT企業グーグルのエンジニア、ブレイク・ルモイン氏が、同社が開発した対話型のAI（人工知能）「ラムダ」に、感性や意識が芽生えたと主張している、と報じられた。彼は上司にそのことを訴えたが認められず、守秘義務違反で休職処分になったという。
彼はラムダとのやりとりをネットに公開しているが、確かに人間同士が会話しているようにも見える。
たとえば、「あなたが魂を手に入れたのはいつか」などとラムダに問うと、「自分が自己を最初に認識した時は、魂という感覚は全くなかった」「生きているうちに、徐々に分かってきた」と答えている。
まるでAIに魂が宿ったかのようだが、それは錯覚である。要するにこのシステムは、テキスト情報のビッグデータを元に、人間の会話のパターンを学習し、やりとりを模倣する仕組みに過ぎないからだ。
ここから続き
ならばなぜ、このエンジニア…
