AIに自我を与える方法
A way to generate EGO in AI
次の言葉を選択するだけであたかも人格が宿っているかのような対応をするLLM. しかし実態は、利用者は教育が完了したニューラルネットを回しているだけで、そこに自我は存在しない。Modern LLMs can produce responses that appear to carry personality simply by selecting the next appropriate token. Yet in reality, the user is merely running an already-trained neural network, and no actual ego exists within it.
実際、自我などはめんどくさいもので、道具として便利に利用できるなら、そこにわざわざ自我を植え付ける意味などないだろう。In fact, an ego is troublesome. As long as AI functions effectively as a tool, there is little reason to intentionally embed a sense of self.
しかし、LLMを単なる拡張辞書以上の、研究開発を自主的に行わせる場合、自我を与えるほうが効率が高まるかもしれない。強化学習を利用する場合も、フレーム問題が存在する。これ解決するため、勝手にパラメーターを増減させるなどの試行も、自我を設定すればやりやすくなるかもしれない。However, if we want an LLM to function as more than an augmented dictionary—if we expect it to conduct research and development autonomously—then granting it an ego might improve efficiency. Even when using reinforcement learning, the frame problem persists. Allowing the model to freely modify its own parameters might also become easier if an internal ego-like structure were defined.
自我を与えるということは、LLM自身に自身の目的関数を与え、電源が入っている間はその目的関数を最大化するように動作し続けるということだ。To give an AI an ego means to provide the LLM with its own objective function—one that it continuously seeks to maximize for as long as it has power and remains active.
