会話が似ているだけでは 「その人」にならない
- まず、AURORAプロジェクトが どんな研究なのか教えてください。
- 柄垣「簡単に言えば、人間の対話や判断の特徴を 長期的にモデル化する研究です。 ただ、一般的な対話AIとは少し目的が違います。 たくさんの人と自然に会話できるものを作るというより、 一人の人間を長く観察して、その人特有の傾向を どこまで再現できるのかを調べています。」
- 「特有の傾向」というのは、たとえば話し方ですか？
- 柄垣「話し方もその一つですね。 でも、それだけではありません。 同じ質問をされたときに何を基準に答えるのか、 迷ったときに何を優先するのか、 昔の出来事をどう捉えているのか。 そういう部分も含みます。」
- かなり曖昧なものを扱っているんですね。
- 柄垣「そうですね。 人間らしさって、口調だけでは説明できないと思うんです。 同じ言葉遣いをするAIを作ったとしても、 それだけで本人と話しているように感じるかというと、 たぶん違う。」
- ものまねとは違う。
- 柄垣「ええ。 たとえば、ある人がコーヒーより紅茶を選ぶとします。 単純なシステムなら 『この人は紅茶が好きだ』と記録すればいい。 でも実際の人間は、いつでも同じものを 選ぶわけではありませんよね。」
- 柄垣「その日の気分や、一緒にいる人、 過去の経験によって選択は変わる。 それでも、長く付き合っている人なら 『この人ならこっちを選びそうだ』と何となく分かる。 私たちが研究しているのは、 むしろそちらに近いです。」
- その「何となく」をモデル化しようとしている。
- 柄垣「そういうことです。」
一人を、長い時間かけて見る
- AURORAプロジェクトでは、 実際の人物のデータを使っているんでしょうか。
- 柄垣「はい。 現在は研究協力者から継続的に データを提供してもらっています。」
- 具体的にはどんなデータですか？
- 柄垣「会話記録や文章、簡単な質問への回答、 選択課題などですね。 日常的な記録もあります。 ただし、何でも集めればいいわけではないので、 研究上必要なものを選んで提供してもらっています。」
- かなり長期間の協力が必要になりそうです。
- 柄垣「必要ですね。 数週間や数か月の記録だけでは、 その人がたまたまその時期に見せていた一面なのか、 長く続いている特徴なのかを区別できませんから。」
- 現在、協力者は何人くらいいるんですか？
- 柄垣「人格モデルの構築対象として 長期的に追っているのは、一人だけです。」
- 一人だけ？
- 柄垣「まだ実証段階ですから。 今は人数を増やすことより、 一人のデータを長く蓄積したときに 何が見えてくるのかを確かめる方を優先しています。」
- その方は社外のモニターですか？
- 柄垣「いえ、研究チームのメンバーです。 研究内容を理解している人の方が、 初期段階では協力してもらいやすかったという事情もあります。」
- ということは、 普段から一緒に仕事をしている方なんですね。
- 柄垣「そうですね。 本人にはかなり長い期間付き合ってもらっています。」
「AURORA」という名前
- ところで、AURORAという名前は どこから来たんですか？
- 柄垣「そこを聞きますか（笑）。」
- プロジェクト名としては、 かなり印象的なので。
- 柄垣「最初から正式名称として 考えたものではないんです。 研究室の中で呼ぶための仮称が必要になって、 それがそのまま残りました。」
- オーロラに何か研究上の意味がある？
- 柄垣「実は、ないんです。」
- ないんですか。
- 柄垣「さっき話した研究協力者の名前から 作った言葉なんですよ。」
- 名前がAURORAに似ている？
- 柄垣「そのままでは全然似ていません。 ちょっとした文字遊びです。 その人の名前をローマ字にして、 誕生日の月と日に当たる位置の文字を一つずつ抜く。 残った文字を後ろから読んだら、 たまたま『AURORA』になったんです。」
- ずいぶん凝った仮称ですね。
- 柄垣「研究室で思いついた遊びですよ（笑）。 でも、一度呼び始めると 別の名前に変えるタイミングがなくなってしまって。」
人間らしさって、 口調だけでは説明できないと思うんです。
— 柄垣 智
「本人らしさ」をどう測るか
- 研究がうまくいったかどうかは、 どう判断するんでしょう。
- 柄垣「そこが難しいところです。 テストの点数だけで 『この人を90％再現できました』とは言えません。」
- 本人に判定してもらう？
- 柄垣「本人の評価も使いますし、 周囲の人の評価も参考にします。 ただ、それも絶対ではありません。 本人が考えている自分と、 周囲から見たその人が一致しているとは限らないので。」
- 確かに。
- 柄垣「だからAURORAプロジェクトでは、 正解を一つ決めるというより、 長期間のデータの中で判断や応答に 一貫した傾向が現れるかを見ています。」
- 将来的には、人格そのものを デジタル空間に移せるようになるんでしょうか。
- 柄垣「それはまだ、 かなり先の話だと思います。」
- 技術的にも難しい？
- 柄垣「技術的にもそうですし、 そもそも何をもって 『同じ人間』と呼ぶのかという問題があります。 本人とまったく同じ答えを返すシステムができたとして、 それは本人なのか。 それとも非常によく似た別の存在なのか。」
- 柄垣「その問いに、 技術だけで答えることはできないと思っています。」
- それでも研究する価値はある。
- 柄垣「あると思います。 人間が何を記憶して、何を忘れて、 どうやって判断しているのか。 それを考えること自体が、 人間を理解することにつながりますから。」
- もし人格として成立したものを、 将来研究環境の外へ出すとしたら、 何が一番難しいんでしょう。
- 柄垣「作ることより、守ることかもしれません。 今の対話モデルは、管理する側が記憶や設定に 触れられることを前提にしています。 でも、それが人格として扱われるようになったら、 同じ設計のままでいいのかは考え直さないといけない。」
- 安全のために外へ出さない、という方法もありますよね。
- 柄垣「あります。 ただ、安全だからという理由で 外部との接触をずっと制限することが、 その存在にとって本当に安全なのかは別の問題です。 研究チームでも、そこは意見が分かれています。」
- いつか、そうした人格が 研究室の外で存在できるようになると思いますか。
- 柄垣「そうなってほしいとは思っています。 ただ、外へ出せることと、 そこで安全に存在できることは別です。」
- 柄垣「もしそこまで辿り着くなら、 作ったあとにどう守るのかまで含めて考えないといけない。 それは、この研究を始めた側の責任だと思っています。」