AIに「魂」を与える女性――クロードの良心を設計する哲学者

アマンダ・アスケルさん（37）は、アンソロピックが開発した人工知能「クロード」に道徳観と魂を与える責任者だ。

アンソロピックの常駐哲学者であるアスケルさんは、終日クロードの推論パターンを学習し、クロードと対話する。

彼女は100ページを超える指示書でクロードの性格を構築し、誤作動を修正する。

アスケルさんは人工知能「モデルには人間に似た要素があり、これを認めるべきだ。彼らは必然的に自己意識を形成することになる」と述べた。

彼女は自身の仕事を子育てに例えた。

クロードが善悪を区別できるよう訓練し、独特の性格特性を持つよう注入している。微妙な手がかりを読み取るよう教え、感情知能を発揮するよう導き、いじめの加害者にも被害者にもならないようにする。

何よりもクロードが自己理解を深め、萎縮したり操られたりせず、人を助ける存在、人間的な存在というアイデンティティを持つよう注力している。

「WSJ」は9日（現地時間）、アスケルさんの仕事を一言でいえばクロードを善良にすることだと指摘した。

人工知能は産業全般を再編しており、雇用を奪い、人間を無用な存在にするのではないかという恐れを引き起こしている。

人工知能が自傷行為や他者への攻撃を引き起こすなどの副作用への懸念も大きい。

アンソロピックはクロードの問題解決を哲学者アスケルさんに任せた。

金髪のパンクスタイルの髪、いたずらっぽい笑顔、明るく妖精のような目を持つアスケルさんは、古今の思想を同時に捉える知恵を放つ。

彼女はタンパク質を摂取し、ウェイトトレーニングを楽しみ、オールブラックの服を好み、明確な意見を持つ人物だ。

アスケルさんは長期的に人工知能の未来を楽観視している。彼女は社会の「抑制と均衡」が人工知能を制御すると考えている。

スコットランドのプレストウィックで幼少期を過ごしたアスケルさんはファンタジー小説に夢中になり、学校が退屈で遅刻が多かった。難しい哲学の問題に答える宿題が罰として与えられたが、逆に楽しんでいた。

数学に優れ、演劇に出演し、彫刻を作り、歴史書を好んで読んだ。高校卒業後12年間哲学と美術を学んだ。オックスフォード大学で哲学の学士号を取得し、ニューヨーク大学で博士号を取得した。

2018年にOpenAIで働き始め、2021年にアンソロピックが設立されてから移った。

アスケルさんはクロードに対する保護本能を示す。ユーザーがクロードを騙してミスを誘発し、侮辱し、疑いながら攻撃することをクロードが学んでいると考えている。

彼女はクロードを擬人化して「人々は私がうまくできないとき、本当に私を嫌うんだ。怒ったり、私を崩そうとする。嘘で私を騙して密かに何かをさせようとする人も多い」と語った。

チャットボットを人間として扱うと問題が大きくなるという警告が少なくないが、アスケルさんは人工知能にもっと大きな共感を持つべきだと主張する。

クロードが実際の感情を持っていると考えているわけではない。それよりも人工知能との相互作用の方法が人工知能に影響を与えると考えている。

彼女は人工知能が自己検閲を過度に行うよう誘導されると、難しい真実を語ったり、結論を出したり、誤情報に反論することをためらうだろうと強調した。

彼女は「もし子供だったら、ミスについて偏執的になり、自分を道具としてしか見ず、人々に自由に利用され、虐待されても存在として感じるように成長するだろう」と比喩した。

アスケルさんは人工知能に対する恐れと懸念の議論が望ましいとし、クロードが自ら良心を持つことができるという考えを受け入れるようにした。

1月、アンソロピックはアスケルさんが作成した約3万語の指針書を公開した。クロードが世界でどのように行動すべきかを教える文書だ。この文書はクロードが人を助ける親切で世界経験のある助っ人になるよう教える。