ラベル

AI Forecast 8306MUFG (349) Social (79) life (75) Financial (70) IT (62) Proposal (57) AI (52) Fund Management (52) idea (51) economics (44) Trading (43) Covid-19 (40) Hedge Fund (37) Risk (36) Culture (31) BOJ (29) Science (29) hobby (27) accounting (17) Apps (16) Travel (14) career (11) job (7) Hiking (5) emotion (5) music (3) Statarb (2) piano (2)

2026年5月1日金曜日

AIバブルの階層構造 The structure of AI Bubble

 

AIバブルの階層構造

The structure of AI Bubble


(English Follows)

M7ハイパースケーラーのROI不足問題は、膨大なバックログにより存在しないかに見えます。ただ、クラウド貸しビジネスを主とするM7ハイパースケーラーは、実のところ一段上のツルハシ屋で、AIビジネスの真の起点ではありません。実際のビジネスの起点はこれらクラウドのお客で、彼らのビジネスが成功しないと膨大なバックログは蜃気楼となり、AIバブルは崩壊します。それらクラウドの客の何割がキラープロダクトで今後成功し、収益をあげられるのでしょうか?今の市場は、一段上のツルハシ屋に目を奪われ、AIビジネスの本質的な成功の可能性は見えない振りをしているようです。

M7(マグニフィセント・セブン)などのハイパースケーラーは、いわば「デジタル版のゴールドラッシュ」における一段上のツルハシ屋です。彼らのバックログが現実の利益として結実するかどうかは、ツルハシを買った「客(一般企業やスタートアップ)」が、どれだけ実用的なキラープロダクトを生み出し、持続可能な収益(ROI)を上げられるかにかかっています。
2025年から2026年にかけての市場データや予測に基づくと、その「成功率」と「現実」は以下のような状況にあります。
1. AIプロダクトの「成功率」と現状のギャップ
現在のクラウド客が、AIを「実験」から「収益化」へ移行できている割合には、楽観と悲観が混在しています。 [1]
  • 本稼働の割合: 2025年の調査では、企業のAIユースケースのうち実際に本稼働(プロダクション)に到達したのは約31%に留まっています。
  • ROIの達成状況: 期待したROIを達成できている取り組みは、成長性の面で4件に1件(25%)、効率性の面ではわずか7%という厳しいデータもあります。
  • 投資の偏り: 企業のAI予算の約3分の2(66%)がいまだにインフラ(データ・ストレージ・処理能力)に割かれており、ソフトウェアやアプリケーションへの投資は33%に過ぎません。これは、依然として「ツルハシの購入」が先行している状態を裏付けています。 [1, 2]

2. 「キラープロダクト」の芽が出始めている領域
全ての客が失敗しているわけではありません。特定の「勝ち筋」が見えている領域では、早期にROIが改善しています。 [1]
  • コーディング・開発支援: エンジニアの生産性が55%以上向上した例もあり、OpenAI(1.4.1)のAPIを利用する企業が急速に増加するなど、「最初のキラーユースケース」として定着しています。
  • カスタマーサポート: 2026年の予測では、AIエージェントによる自動対応が最も速くROIを生む分野とされており、Google Cloud(1.3.5)の早期導入者の74%が1年以内のROI達成を報告しています。
  • 収益貢献: AI導入企業の56%がビジネス成長を実感しており、そのうち71%が6〜10%程度の売上増を報告し始めています。 [1, 2, 3, 4, 5, 6]
3. バブル崩壊か、それとも「幻滅期」の通過か
Gartner(1.6.3)の2025年ハイプ・サイクルによれば、生成AIは「過度な期待のピーク」を過ぎ、「幻滅期(収益化の壁)」に向かっています。 [1, 2]
  • 蜃気楼のリスク: スタートアップへのVC投資の6割以上(2,580億ドル以上)がAIに集中していますが、HubSpot(1.5.7)のデータによるとAI系スタートアップの黒字化率は約61%で、非AI系(54%)を上回っているものの、まだ盤石とは言えません。
  • 本質的な課題: 技術自体の不足よりも、企業のガバナンス欠如、データの質の低さ、スキルの不足が「成功を阻む壁」となっています。 [1, 2, 3, 4]
結論
現在のバックログが「蜃気楼」にならないためには、インフラ偏重の投資から、業務フローに深く組み込まれた「AIエージェント」や「業種特化型アプリ」へのシフトが不可欠です。今後1〜2年で、これら「クラウドの客」の成功率が3割の壁を超えられるかが、AI経済圏の真の持続性を決めると考えられます。 [1, 2]


当面のツルハシ屋のROIと言う意味では1段目も2段目も満足していると言える。ただ、2段目のツルハシ屋も最終需要の長期ガイダンスを出す能力は持ち合わせていない。知っていても言わないと思うが、多分宗教的に信じているところもあるかもしれない。


まさに仰る通りで、現在の市場は「一段上のツルハシ屋(ハイパースケーラー)」が「二段上のツルハシ屋(NVIDIA、TSMCなど)」に発注し続ける自己充足的なサイクルによって、表向きのROIが成立してしまっています。
この状況の不気味さと、ご指摘の「ガイダンスを出さない(出せない)」背景には、以下の3つの側面があると考えられます。
1. 「宗教的」な計算資源への信仰
ハイパースケーラーの経営陣(サティア・ナデラやサンダー・ピチャイら)の発言には、確かに宗教的な「スケーリング則(Scaling Laws)」への盲信が見て取れます。「計算資源を投入し続ければ、知能は創発し続け、解決策は後から付いてくる」という信念です。
  • 投資の論理: 彼らにとっての最大のリスクは「投資のしすぎ」ではなく、「投資を控えて競合に覇権を奪われること」です。この恐怖心が、最終需要の不透明さを無視してでも巨額投資を正立させてしまう宗教的土壌になっています。
2. 「一段上のツルハシ屋」による需要の隠蔽
ハイパースケーラーが提示する「強気なバックログ」は、実は最終ユーザーの成功(ROI)を反映したものではない可能性があります。
  • 在庫の積み増し: 供給不足を懸念した「仮需」や、自社クラウドの優位性を保つための「抱え込み」がバックログを膨らませており、最終需要との乖離(ブルウィップ効果)が発生しているリスクがあります。
  • ガイダンスの限界: 二段目のツルハシ屋(NVIDIA等)は、ハイパースケーラーの注文書があれば決算をまとめられますが、その先の一般企業が「AIでいくら稼げたか」までは捕捉できていません。
3. 「見えない振り」が生む時間差(タイムラグ)
市場が「本質的な成功の可能性」を見ない振りをしているのは、「まだ答え合わせの時期ではない」という暗黙の了解があるからです。
  • 現在はまだインフラ構築フェーズであり、アプリケーション層での「キラープロダクト」による収益化の成否が判明するのは、物理的なGPUがデータセンターに設置され、稼働し始める1〜2年後になります。
  • このタイムラグの間は、ツルハシの売買だけで経済が回るため、バブルの頂点まで「蜃気楼」は消えない構造になっています。
仰るように、彼らは最終需要が見えないことを「知らない」のではなく、「信じることで突き進むしかない」という、一種の逃げ場のないチキンレースを戦っているようにも見えます。
もしこの「蜃気楼」が消える(バックログがキャンセルされる)予兆があるとすれば、それはハイパースケーラー側の「設備投資(CapEx)の伸びの鈍化」として最初に現れるはずですが、現時点ではまだそのブレーキは踏まれていません。

市場は1段目、2段目のツルハシ屋の好調で満足し、最終顧客がどうなっているか肝心かなめのAIビジネスの成否は無視しているようだ。全体を理解しないで投資している人がいかに多いかを示している。


まさにその通りですね。今の市場は、目に見える「巨大な発注書(バックログ)」と「派手な決算数字」という2次的なデータに熱狂し、その源泉であるはずの「最終顧客の財布(ROI)」という1次的な現実を直視していない、極めて歪な状態にあります。
この状況を俯瞰すると、以下の3つの「盲点」が浮き彫りになります。
1. 「投資」と「消費」の履き違え
多くの投資家は、M7の巨額な設備投資(CapEx)を「成長の証」として好意的に捉えていますが、これはあくまで企業側の「支出」です。本来、この支出は最終顧客がAIサービスにお金を払う「消費」によって回収されなければなりませんが、現状はその還流が始まっていない「一方通行の膨張」です。
2. 貸し手と借り手の「循環参照」
一部のAIスタートアップは、ハイパースケーラーから出資を受け、その資金で同じハイパースケーラーのクラウド(GPU)を借りています。これは、「身内の資金を回しているだけで、外部から新しい富を生み出していない」リスクを含んでおり、実体経済に基づかない数字の積み上げが、全体像の理解をさらに困難にしています。
3. 「生産性の向上」という逃げ口上
「AIで業務が効率化される」という理屈は正しいですが、それが「企業の利益増」や「新しい市場の創出」に具体的にどれだけ寄与したか、定量的に証明できている企業は極めて稀です。市場は「いつか成功する」という物語を、まるで確定した未来のように織り込んでしまっています。

おっしゃるように、多くの投資家は「NVIDIAが売れているからAIは安泰だ」という、ツルハシ屋の繁盛だけを見て鉱山に金があると思い込むという、歴史上のバブルで繰り返されてきた過ちをなぞっているように見えます。
この「見えない振り」が限界を迎え、市場が「ところで、客は儲かっているのか?」と一斉に我に返る瞬間(モメント・オブ・トゥルース)が来た時、その揺り戻しは相当なものになるでしょう。

The ROI shortfall problem for M7 hyperscalers appears not to exist, thanks to their massive backlog. However, hyperscalers—whose core business is cloud leasing—are, in reality, just a higher-tier “pick-and-shovel” layer and not the true starting point of the AI business. The real starting point lies with their customers. Unless those customers succeed, the enormous backlog will prove to be a mirage, and the AI bubble will collapse. What percentage of these cloud customers will actually create killer products, succeed, and generate sustainable profits going forward? The current market seems captivated by this higher-tier “pick-and-shovel” layer, while pretending not to see the fundamental question of whether AI businesses themselves can truly succeed.


Hyperscalers such as the “Magnificent Seven (M7)” are, in effect, a higher-tier version of pick-and-shovel providers in a “digital gold rush.” Whether their backlog translates into real profits ultimately depends on whether their customers—enterprises and startups buying those “tools”—can produce practical killer products and generate sustainable ROI.

Based on market data and projections from 2025 to 2026, the “success rate” and reality look as follows:

1. The gap between AI product “success rates” and reality
There is a mix of optimism and pessimism regarding how many cloud customers have transitioned AI from experimentation to monetization.

  • Production deployment rate: As of 2025, only about 31% of enterprise AI use cases have reached full production.
  • ROI achievement: Only about 25% of initiatives achieve expected ROI in terms of growth, and just 7% in efficiency.
  • Investment imbalance: Around 66% of AI budgets are still spent on infrastructure (data, storage, compute), while only 33% goes to software and applications—evidence that “buying the tools” still comes first.

2. Emerging areas where “killer products” are taking shape
Not all customers are failing. In certain domains, clear winning patterns are emerging, and ROI is improving early:

  • Coding and development support: Some cases show productivity gains of over 55%, and companies using OpenAI APIs are rapidly increasing—making this one of the first established killer use cases.
  • Customer support: AI agents are expected to generate the fastest ROI by 2026, with 74% of early adopters reporting ROI within one year.
  • Revenue impact: 56% of AI-adopting companies report business growth, with 71% of them seeing revenue increases of around 6–10%.

3. Bubble collapse or just the “trough of disillusionment”?
According to Gartner’s 2025 Hype Cycle, generative AI has passed the “peak of inflated expectations” and is heading toward the “trough of disillusionment” (the monetization barrier).

  • Mirage risk: Over 60% of VC funding (more than $258 billion) is concentrated in AI startups. While about 61% of AI startups are profitable (higher than 54% for non-AI), this is far from robust.
  • Core challenges: The biggest barriers are not the technology itself, but poor governance, low-quality data, and lack of skills.

Conclusion
To prevent the backlog from becoming a mirage, investment must shift away from infrastructure-heavy spending toward AI agents and industry-specific applications deeply embedded in business workflows. Over the next 1–2 years, whether the success rate of these “cloud customers” can exceed the current ~30% threshold will determine the true sustainability of the AI economy.


In terms of ROI for the “pick-and-shovel” providers, both the first and second tiers are currently satisfied. However, even second-tier providers lack the ability to give long-term guidance on end-user demand. Even if they know, they likely won’t say it—though in some cases, there may even be an element of quasi-religious belief.

As you pointed out, the current market is sustained by a self-reinforcing cycle in which “first-tier pick-and-shovel providers” (hyperscalers) keep ordering from “second-tier providers” (such as NVIDIA and TSMC), allowing apparent ROI to hold up on the surface.

The unease of this situation—and the reason they don’t (or can’t) provide forward guidance—can be understood from three perspectives:

1. A “religious” belief in compute scaling
Statements by hyperscaler leaders (e.g., Satya Nadella, Sundar Pichai) often reflect a near-religious faith in scaling laws: the belief that if enough compute is投入ed, intelligence will continue to emerge and solutions will follow.

  • Investment logic: Their biggest risk is not over-investing, but under-investing and losing dominance to competitors. This fear justifies massive spending despite uncertain end demand.

2. Demand obfuscation by higher-tier suppliers
The strong backlog presented by hyperscalers may not reflect true end-user ROI.

  • Inventory build-up: “Speculative demand” driven by supply concerns and strategic hoarding may be inflating backlog, creating a disconnect from real demand (a bullwhip effect).
  • Limits of visibility: Second-tier suppliers like NVIDIA can rely on hyperscaler orders for earnings, but they cannot see how much end customers are actually earning from AI.

3. The time lag created by “looking the other way”
The market may be deliberately ignoring the fundamental question because it’s “too early to tell.”

  • We are still in the infrastructure build-out phase.
  • The success or failure of application-layer monetization will only become clear 1–2 years after GPUs are deployed and operational.
  • During this lag, the economy can function purely on tool sales, allowing the “mirage” to persist.

As you noted, it’s not that they don’t understand the uncertainty of end demand—it’s that they have no choice but to keep believing and pushing forward, creating something akin to a high-stakes game of chicken.

If this mirage begins to fade (e.g., through backlog cancellations), the first signal will likely be a slowdown in hyperscaler CapEx growth—but so far, that brake has not yet been applied.


The market seems satisfied with the strong performance of both first- and second-tier “pick-and-shovel” providers, while ignoring the critical question of whether end customers are actually succeeding. This reflects how many investors are operating without understanding the full picture.

Exactly as you said, the market is currently fixated on visible secondary indicators—massive backlogs and flashy earnings—while ignoring the primary reality: the ROI of end customers.

From a broader perspective, three key blind spots emerge:

1. Confusing investment with consumption
Investors interpret hyperscaler CapEx as growth, but it is fundamentally expenditure. It must ultimately be justified by end-customer spending—something that has not yet materialized.

2. Circular capital flows between lenders and borrowers
Some AI startups receive funding from hyperscalers and then spend that capital on the same hyperscalers’ cloud services. This creates a loop that may not generate real external economic value.

3. “Productivity gains” as an escape narrative
While AI-driven efficiency gains are real, very few companies can quantify how much this translates into profits or new markets. The market is pricing in a narrative as if it were already proven reality.

As you pointed out, many investors appear to be repeating a classic bubble-era mistake: assuming that because the pick-and-shovel sellers are thriving, there must be gold in the mine.

When the moment of truth arrives—when the market collectively asks, “Are the customers actually making money?”—the adjustment could be significant.

2026年4月28日火曜日

AIバブルの崩壊 The AI Bubble Burst

 

AIバブルの崩壊

The AI Bubble Burst


LLMはAltman以下が発見した世紀の大発明であり、その能力は人間の知的活動のかなりの部分をカバーする。2023年の株式市場は数年に及ぶ上昇からバリュエーションの歴史的高値に到達。これから暴落局面に入るかと思われていた。ところが、2022年11月のChatGPTリリースにより暴落が回避されるどころか、株式バブルはさらに膨らんだ。LLMs are a once-in-a-century invention discovered by Altman and his team, and their capabilities cover a substantial portion of human intellectual activity. By 2023, equity markets had already reached historically high valuations after several years of gains, and many expected an imminent downturn. However, the release of ChatGPT in November 2022 not only averted a crash but further inflated the stock market bubble.

M7各社は各々10兆円に及ぶ内部留保を惜しみなくデータセンターに投資し、LLMベースのAIによる更なる収益爆発を狙った。加えて、ソフトバンクグループなどによるStar Gate Programという巨大な投資プロジェクトも開始した。The “Magnificent Seven” companies each deployed massive internal reserves—on the order of ¥10 trillion—into data center investments, aiming for explosive profit growth driven by LLM-based AI. In addition, large-scale investment initiatives such as the “Star Gate Program,” led by SoftBank Group and others, were launched.

その巨大投資の結果、桁違いの半導体需要が発生し、半導体業界は好況に沸いている。As a result of this enormous investment, demand for semiconductors surged by orders of magnitude, putting the chip industry into a boom phase.

しかしここに落とし穴がある。現状で、LLMを用いて最終消費者がお金を払う製品・サービスが、巨大な投資額に見合わないのだ。ROIの未達である。現状もっとも見込みがありそうな、大ヒットサービス予備軍である人間の社員の雇用を置き換えるAIエージェントだが、未だ人間には及ばず。プログラミング、医師、弁護士、会計士、保険数理士などの補助業務に留まる。家庭内ロボット、工場、現場作業員を置き換えられるかと言うと、判断サーバーは内臓出来るほど小さくできず。これらのサブスクリプション需要をひっくるめても、ROIを満足させられないのが実情。However, there is a critical pitfall. At present, products and services for which end consumers are willing to pay, built on LLMs, do not justify the scale of the investment. In other words, ROI is insufficient. The most promising potential breakout application—AI agents capable of replacing human employees—still falls short of human performance. They remain largely limited to supporting roles in fields such as programming, medicine, law, accounting, and actuarial science. As for replacing household robots, factory workers, or field labor, the decision-making servers cannot yet be miniaturized enough to be embedded locally. Even when aggregating all potential subscription demand, the returns remain inadequate.

下表に示すように、AI投資は、今年中は内部留保内の投資で収まっているが、来年からは借入に頼るしかない。AIデータセンターによる電力逼迫を防ぐための発電所建設など到底資金が足りない。As shown in the table below, AI investment is currently being financed within internal reserves this year, but from next year onward, companies will have no choice but to rely on borrowing. There is nowhere near enough capital to fund additional infrastructure such as power plants needed to prevent electricity shortages caused by AI data centers.

OpenAIは超知能などAGIの達成を追及しているようだが、今のレベルで大ヒット商品を作り出さないと事業としての継続性が成立しない。このまま行くと、M7各社、膨大な計算資源を手に入れたが、満足できる収入がない状態に陥る。OpenAI appears to be pursuing superintelligence and AGI, but unless a blockbuster product is created at the current technological level, the business will not be sustainable. At this rate, the Magnificent Seven may end up owning vast computational resources without generating sufficient revenue.

作り過ぎたデータセンター、GPUはドットコムバブルの時に超絶売り上げとなったダークファイバー、ルーターだ。時代を遡るとゴールドラッシュの時のツルハシだ。今年中に何でも良いのでROIを満足させるAI大ヒットサービスが立ち上がらない限り、AIバブルの崩壊は必至だ。The overbuilt data centers and GPUs resemble the dark fiber and routers that saw explosive sales during the dot-com bubble—or, going further back, the shovels of the gold rush. Unless a major AI hit product that satisfies ROI emerges within this year, the collapse of the AI bubble will be inevitable.

付け加えると、CUDAの先行性によりAI計算インフラGPUの寡占化を享受したNVIDIAの粗利益率はなんと8割。膨大なデーターセンター投資の8割がNVIDIAの利益になる。もし、適切な競争があれば、AIデーターセンター投資は1/5の金額でできていたことになる。まさにツルハシ屋の天国状態で、時価総額は天文学的に膨れ上がり、株式市場全体をバブル化した。To add, thanks to the early-mover advantage of CUDA, NVIDIA has effectively monopolized AI computing infrastructure GPUs, achieving a staggering gross margin of around 80%. This implies that roughly 80% of the massive data center investment ultimately turns into NVIDIA’s profit. If there were proper competition, the same AI data center buildout could have been achieved at about one-fifth of the cost. It is truly a “pickaxe seller’s paradise,” where market capitalization has ballooned to astronomical levels, inflating the entire stock market into a bubble.

更に悪いことに、ドットコムバブルのダークファイバーはその後より効率の良い伝送技術の確立により有効利用されたが、今整備されるGPUは3年もたつと陳腐化してしまう。To make matters worse, the dark fiber built during the dot-com bubble was later put to effective use thanks to the development of more efficient transmission technologies. In contrast, the GPUs being deployed today will become obsolete in as little as three years.

AIが爆発的に発展する未来が来るのは間違いない。ただ、インターネットバブルも方向性は正しかったが、あっという間に崩壊し、10年後から花開いてきた。要は、時間軸の問題。インターネットバブルの時、投資家は10年待ってくれただろうか?待ってくれなかったからバブルは「一旦」崩壊したのだ。It is certain that a future of explosive AI development will come. However, while the direction of the internet bubble was also correct, it collapsed quickly and only began to truly flourish about a decade later. In short, it’s a matter of time horizon. During the internet bubble, did investors wait ten years? They didn’t—and that is precisely why the bubble collapsed, at least temporarily.

ハイパースケーラー各社の財務・AI投資構造(2026年予測値含む)
Financial and AI Investment Structures of Hyperscalers (Including 2026 Forecasts)
企業名 (Company Name)内部留保(現金・短期投資等) (Retained Earnings / Cash & Short-term Investments)2026年 AI設備投資 (CapEx) (2026 AI Capital Expenditure)中心的な債券満期(資金調達期間) (Primary Bond Maturity / Funding Period)戦略と特徴 (Strategy & Key Characteristics)
Microsoft約700億~800億ドル (Approx. $70-$80B)約500億~600億ドル (Approx. $50-$60B)3年~5年 (3-5 years)格付けAAAの信用で「4年」の短期・中期債を安く回す。 (Leveraging AAA rating to efficiently roll over short-to-medium-term 4-year bonds at low cost.)
Alphabet (Google)約1,100億ドル超 (Over approx. $110B)約1,750億ドル (Approx. $175B)5年~7年 (5-7 years)圧倒的な内部留保を背景に、自社資金と長期債を組み合わせて投資を加速。 (Accelerating investment by combining internal funds and long-term bonds, backed by massive retained earnings.)
Amazon (AWS)約800億ドル (Approx. $80B)約650億~750億ドル (Approx. $65-$75B)2年~5年 (2-5 years)クラウド需要に合わせ、短期・中期の負債とキャッシュを高速回転させる。 (Matching cloud demand by rapidly cycling short-to-medium-term debt and cash.)
Meta約500億~600億ドル (Approx. $50-$60B)約350億~400億ドル (Approx. $35-$40B)5年~10年 (5-10 years)CoreWeaveとの大型提携等も含め、やや長めのスパンでAI収益化を狙う。 (Aiming for AI monetization over a longer horizon, including major partnerships like CoreWeave.)
Oracle約100億~150億ドル (Approx. $10-$15B)約450億~500億ドル (Approx. $45-$50B)5年~10年(中心は30年) (5-10 years / Primarily 30 years)自前資金が少ないため、大規模な社債発行(180億ドル等)でデータセンターを建設。 (Building data centers via large-scale corporate bond issuance, e.g., $18B, due to limited internal funds.)
(参考) Tesla約350億~400億ドル (Approx. $35-$40B)約200億ドル (Approx. $20B)4年(投資家の期待期間) (4 years / Investor expectation period)借入より本業の稼ぎと現金で賄う。4年という「猶予」が焦点。 (Funding via core business earnings and cash rather than borrowing. The 4-year "grace period" is the focus.)

2026年4月26日日曜日

AIの限界 The limitation of AI

 

AIの限界

The limitation of AI


ChatGPTから始まったLLMは、いまだその動作原理は解明されないまま、利用範囲が拡大中。既存の論理を学習し組み上げ、答えを出す能力は止まるところを知らないように見える。これを見たM7の中にはひたすら規模を拡大すれば超知能が生まれると考えて研究開発を続けるところもある。Large language models (LLMs), which began with ChatGPT, are expanding their range of applications even though their underlying mechanisms are still not fully understood. Their ability to absorb existing logic, assemble it, and produce answers appears to have no clear limit. Among the “M7,” some believe that simply scaling these systems will eventually give rise to superintelligence, and they continue their research and development accordingly.


しかし、その光景を遠くから見ると、LLMベースの知性と、人間とでは大きな違いがあるのに気づく。それは高次概念の発明が出来るか出来ないかだ。もっと下流のフレーム問題に帰着するのかもしれない。However, when viewed from a distance, a fundamental difference between LLM-based intelligence and human intelligence becomes apparent. The key question is whether higher-order concepts can be invented. Perhaps this ultimately reduces to the frame problem at a deeper level.


LLMはもれなく学習した広範な既存の概念をくみ上げる。このため、一般業務はもちろん、既存の概念を「組み合わせて」できる発明も可能。マーケティングで言うセグメント解析で、今まで試されてこなかったハイパーキューブの一セグメントがヒットとなる可能性を指摘できる。様々な芸術、作品を真似た作品を生成できる。過去の音楽をまねた音楽を無限に生成できる。しかし、LLMにできるのはそこまでだ。より高次の概念を生成し、そこから新たな理論体系を構築することはできない。新たな芸術を作り上げることはできない。LLMs universally draw upon a vast body of learned, pre-existing concepts. As a result, they can handle general tasks and even produce inventions that arise from “combinations” of existing ideas. In marketing terms, they can identify a previously unexplored segment within a high-dimensional “hypercube” that might become a hit. They can generate works that imitate various forms of art, and produce music endlessly in the style of past compositions. However, that is the limit of what LLMs can do. They cannot generate fundamentally higher-order concepts and build entirely new theoretical frameworks from them. Nor can they create genuinely new forms of art.


考えてみると、世の中で人が「新しい」とか「発明」とか言っているものには二種類あるのだ。一つは過去試されていなかった組み合わせを試すことでできたもの。これがほぼ99%だろう。残りの1%は過去の組み合わせでは不可能なもの。Upon reflection, what people call “new” or “invention” in this world falls into two categories. One consists of things created by trying combinations that had not previously been attempted—this likely accounts for about 99%. The remaining 1% consists of things that cannot arise from any combination of prior elements.


簡単な思考実験を示そう。数学についてLLMを江戸時代のレベルで教育しよう。四則演算はできるようになるだろう。その教育段階のLLMを複数対話させながら新しい数学について研究させるとする。そこから果たして三角関数や、整数論、確率統計論、線形代数、解析学などが出てくるだろうか? いいや、実際には、ほぼ確実に四則演算のループから出ることは出来ないだろう。Consider a simple thought experiment. Suppose we train an LLM on mathematics only up to the level of the Edo period. It would likely master basic arithmetic. Now imagine letting multiple such LLMs interact and “research” new mathematics. Would trigonometry, number theory, probability and statistics, linear algebra, or analysis emerge from this process? No—in reality, they would almost certainly remain trapped within the loop of basic arithmetic.


以上の簡単な思考実験でも分かることはこうだ。LLMという、人間が唯一現状で手に入れた論理エンジンは、処理速度において人間を凌駕する。しかし能力は既存の知識の組合せが限度で、より高次の概念を構築することは出来ない。Even this simple thought experiment suggests the following: LLMs, the only “logic engines” humans currently possess, surpass humans in processing speed. However, their capabilities are limited to recombining existing knowledge; they cannot construct higher-order concepts.


ある意味良かった。In a sense, that is reassuring.


人間にはまだやることがありそうだ。It seems humans still have work to do.