• 

ロス・ドウザット

　ニック・ボストロムが2014年に出版した「スーパーインテリジェンス（超知能）」は、人工知能（AI）のリスクを心配する人々の間で重要なテキストとなっているが、こんな寓話（ぐうわ）から始まる。ギリギリの生活に耐えられなくなったあるスズメの群れは、巣を作り、世話や餌やりを手伝い、外敵から目を離さないフクロウがいれば全てがよくなると確信する。このアイデアに喜んだスズメたちは、自分たちが育てられるフクロウの卵やヒナを探しにいくことにした。

　しかし、気難しい性格の片目のスズメ「スクロンクフィンクル」だけは成長したフクロウと暮らすのは危険だと指摘し、フクロウを飼いならし、家畜化するすべを先に考えたほうがいいと言う。だが、「フクロウを手に入れるだけでも大変だ。まずは手に入れ、育て、そこから飼いならすことを考えればよい」と却下されてしまう。そこで他のスズメたちが卵やヒナを探しに飛び回っている間、スクロンクフィンクルと他の数羽のスズメたちはフクロウを飼いならす問題に心を砕こうとする。しかし、それはフクロウなしには難しい挑戦であり、巣の仲間がいつフクロウの子どもを連れて戻るかもしれず、考えた理論を残酷なテストに変えるかもしれないという恐怖が影を落とす。

　これはAIを警戒する人たちが「今起きている」と考えていることをうまく寓話にしたものだ。人工知能の加速度的な力は、今のところチャットボットや画像生成に表れているが、それは私たちの巣で成長するフクロウであり、警戒論者たちはまだそれを飼いならす準備ができていないのだ。イーロン・マスク氏をはじめとするシリコンバレーの著名人たちが、AIによる大規模な実験を少なくとも6カ月間休止し、安全対策が追いつくように求める公開書簡に署名したのも、スクロンクフィンクルの精神に基づくものだ。

　しかし、この寓話と私たちの…