AIに自我を与える方法 A way to generate EGO in AI
次の言葉を選択するだけであたかも人格が宿っているかのような対応をするLLM. しかし実態は、利用者は教育が完了したニューラルネットを回しているだけで、そこに自我は存在しない。
実際、自我などはめんどくさいもので、道具として便利に利用できるなら、そこにわざわざ自我を植え付ける意味などないだろう。
しかし、LLMを単なる拡張辞書以上の、研究開発を自主的に行わせる場合、自我を与えるほうが効率が高まるかもしれない。強化学習を利用する場合も、フレーム問題が存在する。これ解決するため、勝手にパラメーターを増減させるなどの試行も、自我を設定すればやりやすくなるかもしれない。
自我を与えるということは、LLM自身に自身の目的関数を与え、電源が入っている間はその目的関数を最大化するように動作し続けるということだ。