Chat-GPTの回答が期待するものではないときに、なんとか誘導して回答を得ようとしても、堂々巡りになることがある。
条件を与えたり、明確に異なる回答を求めたりしても、回答に変化がないことがある。「すいません間違えました。」と言いつつ前と同じ回答を繰り返すという奇行を繰り返すことになる。
Chat-GPTとしては論理性を判断しているわけではないので、統計的な処理としてはおかしなところはないのだろう。
これで思い出したことは、辞書を調べているときのデッドロックだ。ある言葉を調べて、そこから同義語であるとする言葉を調べると、そこからもとの言葉に同義語として引き戻されていく。辞書の中でループが発生しているあの状態だ。
求めている答えがそのループの中にはないことを知っているが、辞書という手段からはそのループから出る方法は存在しない。Chat-GPTにいくらプロンプトで工夫をしても、その時点から回答を変えることはできない感覚はこれとともてよく似ていた。
いくら辿っても少なくそのそのときのLLMの内部には期待している回答が存在していないということはあるであろうし、そうであればまさに辞書ループそのものなのだ。
辞書とは、ある時点での社会を一冊にまとめたものであり、時間を固定する道具である。そこにはある時点という制約があるわけであるが、制約があるからこそ意味を持つといえるのだ。それに対して、新しい言葉や用法が載っていないなど批判として成り立っていないし、進歩することがないと言ったところでそれは事実を述べたものにすぎない。
Chat-GPTも学習データはは限定されているものだ。その量によりバージョンが上がってきたということは、有機的な辞書的ツールと考えれば良いのではないか。
内容の真実性については、その学習データの中においては完結しているのであって、それを外の社会から評価するのは間違いなのだ。その時点のその学習データにより体系付けられたモデルなのであって、それはそれとして存在する。
会話らしきものができることから、人格が想像されてしまい、人格が想像されることから、その人格の成長さえも意識してしまうのであるが、その姿勢は滑稽なものとして意識されなければならない。
成長を想定するのであれば、学習データを限定することは相応しくはない。学習データを際限なく与え続けて、それにより何が起こるのかは、まさに神のみぞ知るという状態になって初めて恐るべき可能性を考えることができる。そう、人間に対するかのように。