AI評価の「ブラックボックス」に警鐘 食べログ判決で見えた課題

有料記事

牛尾梓
[PR]

 飲食店の口コミサイト「食べログ」が飲食店に点数をつける「アルゴリズム(計算方法)」について、東京地裁は16日、独占禁止法に違反すると判断した。

 アルゴリズムを使った点数化は、ネット通販や宿泊予約サイトの店舗や商品、サービスだけでなく、与信に使う「信用スコア」など日常生活の様々なシーンで使われている。

 大量のデータを処理するために複雑化するアルゴリズムは、なぜその結論に至ったのか人間が説明できない「ブラックボックス」とも言われ、責任の所在も分かりにくくなっている。

 しかし今回の判決では、アルゴリズムを変更したことで、店側に「あらかじめ計算できない不利益」を与えたと認定。この結果を、明治大学理工学部の林陽一教授(人工知能)は「『結論だけ示す』ということが許されない時代になっている」という。

 今後、ブラックボックスをどう「ホワイトボックス」にしていけばいいのか。林教授に聞いた。

 ――今回の判決は、点数化したアルゴリズムの透明性をサイトの運営者に求める内容になりました。

 かなり踏み込んだな、という印象があります。しかし時代の要請からすると、もう避けられない。点数化の過程は見せずに結論だけ示す、が許されない時代になったと思います。

 特にデータを駆使したデジタルマーケティングでは、ネット社会のいま、数字が独り歩きしてしまう状況にあります。データの取り扱いが厳正公平でなければ、ほかの口コミサイトも含めて信頼性がなくなり、ビジネス自体がナンセンスになってしまう。

 そのなかで、警鐘を鳴らす非常に意味のある判決だったと思います。

 ――裁判では、第三者に公開されない形でアルゴリズムの一部が開示され、アルゴリズムの変更によって原告の飲食店の点数が下がったと判断されました。

 AI(人工知能)的に考える…

この記事は有料記事です。残り1465文字有料会員になると続きをお読みいただけます。
【10/18まで】有料記事読み放題のスタンダードコースが今なら2カ月間無料!
  • commentatorHeader
    仲村和代
    (朝日新聞デジタル機動報道部次長)
    2022年6月19日14時5分 投稿
    【視点】

     AIが、生活の様々な場面に影響するようになっています。先日、労働組合を結成したアマゾンの配達員は、AIを使ったアプリで配達ルートが決められるようになってから、1日あたりの荷物が急増し、働き方が過酷になった、と語っています。私たちが知らない