AIを育てるとは、同じチャットを使い続けることではなかった
AIに自分のことを覚えてほしくて、同じチャットを使い続けた結果、返答に10分以上かかるようになった。有料プランへ変更して初めて気づいた、メモリとコンテキストの違いについて書きます。
「AIを育てる」という言葉を、以前の私は少し違う意味で捉えていました。
同じチャットで長く話し続ければ、AIは会社のことも、自分の考え方も、過去の判断も覚えていく。
そうして少しずつ、自分専用のAIになっていく。
そんなイメージです。
実際、ある新規サービスを開発していた頃、私は一つのチャットを長期間使い続けていました。
仕様を考え、文章を作り、修正し、また相談する。
うまくいかなかった経緯も、判断を変えた理由も、その部屋にはかなりの情報が積み上がっていました。
だから、部屋を変えたくありませんでした。
新しいチャットに移ると、これまで話したことを忘れられてしまう。
また最初から説明し直さなければならない。
そう思っていたからです。
返答に10分以上かかるようになった
ところが、会話を続けるうちに、AIの反応が目に見えて遅くなりました。
回答が返ってくるまで、10分以上かかることもありました。
当時の私は、その原因を契約プランだと思いました。
もっと高いプランにすれば、処理が速くなるのではないか。
長い会話にも強くなり、今まで通り使い続けられるのではないか。
そう考えて、上位プランへ変更しました。
しかし、期待したほど根本的には改善しませんでした。
今振り返ると、問題は単純に料金プランだけではありませんでした。
一つのチャットへ、あまりにも多くの会話と前提を積み上げていたのです。
長く話せば、すべて覚えていると思っていた
この頃の私は、「メモリ」と「コンテキスト」をほとんど同じものとして考えていました。
自分のことを覚えていること。
これまでの会話を参照できること。
同じ部屋に情報が残っていること。
それらを全部まとめて、「AIが育っている」と感じていました。
しかし、実際には少し違います。
AIが自分について覚えている情報と、今の会話で参照している情報は、同じものではありません。
また、一つのチャットに大量の情報が残っていたとしても、過去の内容がいつでも同じ精度で使われるとは限りません。
長い会話ほど、必ず賢くなるわけでもありません。
古い前提と新しい前提が混ざったり、今の質問には不要な情報が増えたり、何を優先すべきか分かりにくくなったりします。
私が「育っている」と思っていた状態は、実際には、一つの部屋へ情報を積み上げ続けていただけでした。
育てるべきだったのは、AIそのものではなかった
後になって分かったのは、AIを育てるとは、同じチャットを使い続けることではないということです。
本当に育てるべきだったのは、AIへ渡す前提情報でした。
会社のこと。
サービスの目的。
これまでの判断。
大切にしている考え方。
文章の方針。
やってはいけないこと。
こうした情報を整理し、必要なときに渡せる形にしておく。
そうすれば、チャットを変えても、別のAIを使っても、ある程度同じ状態を復元できます。
大切なのは、一つの部屋から離れられないほど情報を積み上げることではありません。
必要なコンテキストを、いつでも再投入できるようにしておくことでした。
「忘れられる不安」が、同じ部屋へ縛っていた
部屋を変えたくなかった理由は、技術的な問題だけではありませんでした。
AIに自分のことを忘れられるのが、少し怖かったのだと思います。
これまで話したことが無駄になる気がする。
積み上げた関係がなくなる気がする。
また最初から説明するのは面倒だ。
その感覚は、今でもよく分かります。
ただ、AIとの仕事では、関係を一つのチャットへ閉じ込めない方が安定します。
重要な前提を文章にする。
途中経過を要約する。
判断基準を残す。
次のチャットへ引き継げる形にする。
そうしておけば、部屋を変えることは「全部忘れられること」ではなくなります。
AIを育てるとは、復元できる状態を作ること
現在は、「AIを育てる」という言葉を次のように捉えています。
AIそのものを一つの部屋で成長させるのではなく、AIが自分たちを理解するための材料を育てる。
そして、その材料を使って、必要な状態を何度でも復元できるようにする。
同じチャットを長く使うこと自体が悪いわけではありません。
一つのテーマを続けて考えるには、同じ部屋の方が便利なこともあります。
ただし、その部屋だけにしか存在しない情報が増えすぎると、いつか移動できなくなります。
返答に10分以上かかるようになり、高いプランへ変更してから、私はようやくそのことに気づきました。
AIに覚えてもらうことよりも、AIがいつでも理解できる形で残しておくこと。
それが、長くAIを使ううえでの「育てる」に近いのだと思います。
この考え方は、その後、仕事ごとにAIのプロジェクトを分け、会社の前提や判断を外部のナレッジとして管理する現在の運用につながっています。
社員指導についても、AIの記憶だけに頼らず、後から確認できる情報として残す仕組みを試しています。