炸裂，一家创业公司声称打破了 Transformer 七年魔咒

两周前。来自迈阿密的隐身初创公司 Subquadratic 突然现身，宣称突破自年以来定义所有主流 AI 程序的数学约束。它们的模型 SubQ 在发布仅数小时内就获得超过万次曝光。万人涌入候补名单，AI 圈瞬间炸开。

先搞懂问题本身 —— 开发者到底在为什么抓狂？

主要痛点：

• 算力成本飙升：传统 Transformer 的注意力计算量是 O，token 数翻倍导致算力四倍增长。怎么说呢，
• 长上下文难以承载：上下文越长越贵、越慢。还会出现“中间注意力退化”，模型明明装了一仓库书，却记不住关键细节。
• 工程补丁层出不穷：为了解决上述瓶颈，业界被迫堆砌 RAG、向量数据库、Context Compression、Memory System 等复杂程序。

flowchart LR
subgraph Transformer
direction TB
A1
A2
A3
end
subgraph SubQ
direction TB
B1
B2
B3
end
Transformer -- "SSA 次二阶选择注意力" --> SubQ

正因为 O 的根深蒂固，Claude、GPT、Gemini 等模型在面对超长文本时成本失控。话说回来，于是整个领域只能靠工程手段“补丁”来绕过架构天花板。

SubQ 的主要主张 —— 真能帮你省钱省心吗？

mindmap
root)
指标
12M token 上下文
× 算力节省
$29M 种子轮融资
架构 SSA
只关注关键 token
稀疏图动态路由
平方复杂度 → 线性
产品线
全上下文 API
SubQ Code 代码 Agent
SubQ Search 长文档搜索
投资人
Justin Mateen
Javier Villamizar
Anthropic、OpenAI、Stripe、Brex

Their architecture is called **SSA** . Instead of every token attending to every or token。SSA dynamically routes attention only to most relevant tokens—effectively turning a quadratic problem into a linear one.

• 算力节省：官方数据显示，在 1M token 场景下 SSA 比 FlashAttention 快 X 倍；在 12M token 基准上算力下降接近 X 倍.
• 产品化进度：全上下文 API、代码 Agent还有长文档搜索均已进入私测阶段。
• A轮融资背书：Tinder 联合创始人 Justin Mateen 与前软银合伙人 Javier Villamizar 均加入投资阵容。

为什么 Agent 圈子最激动 —— 痛点直击代码研发团队

The biggest bottleneck for AI Agents today isn’t intelligence—it’s context.

• 代码库太大：C​ursor、Claude Code、Codex 等都在拼命做 RAG、Chunk 与 Summary，只因为整个仓库根本塞不进模型上下文。
• "Lost in Middle" 症状：#1M‑#10M token 的模型表面支持长上下文。却在中间段注意力稀释，关键实现细节丢失。怎么说呢，

Their claim isn’t just “can fit”;it’s “can understand”. In RULER 128K benchmark y reported a **%** accuracy improvement,and showed strong results on Needle‑in‑Haystack and exact copy tasks.

技术方向全景 —— 领域内已有多少条路在跑？

flowchart TD
subgraph Goal
direction TB
end
Goal --> R1
Goal --> R2
Goal --> R3
Goal --> R4
Goal --> R5
Goal --> R6
R1 --> S1
S1 --> S1S
R2 --> S2
S2 --> S2S
R3 --> S3
S3 --> S3S
R4 --> S4
S4 --> S4S
R5 --> S5
S5 --> S5S
R6 --> S6
S6 --> S6S
style S1 fill:#EEEDFE,stroke:#534AB7,color:#534AB7
style S1S fill:#FAEEDA,stroke:#EF9F27,color:#854F0B
style S2S fill:#E1F5EE,stroke:#1D9E75,color:#0F6E56
style S4S fill:#E1F5EE,stroke:#1D9E75。color:#0F6E56

The unique selling point of SubQ is that it claims to be first **commercially viable** model built from scratch with full second‑order sparse attention while preserving performance—something prior attempts eir sacrificed accuracy or fell back to hybrid designs.

保持清醒 —— 那些让人血泪史的前车之鉴

flowchart TD
subgraph Alert
W1
W2
W3
W4
end
subgraph Precedent
H1
H2
H3
H4
H1-->H2-->H3-->H4
end
subgraph PriorAttempts
P1
P2
P3
P4
end
Alert --> Precedent
Precedent --> PriorAttempts
style Alert fill:#FCEBEB,stroke:#E24B4A,color:#A32D2D
style Precedent fill:#FAEEDA,stroke:#EF9F27,color:#854F0B
style PriorAttempts fill:#FAEEDA,stroke:#EF9F27,color:#854F0B

• Kimi Linear、DeepSeek 稀疏注意力、Mamba 与 RWKV 都曾承诺线性复杂度，但在大规模实际任务中要么性能逊于标准 Transformer，要么最终混入传统注意力层。
• ”** Independent benchmarks are still missing.

值得长期关注的理由 —— 如果它真的成功，会怎样改变你的工作？话说回来，

• *代码 Agent* 将摆脱碎片化检索流程。实现“一键全仓库分析”，不过，这直接解决了研发团队每天花费数小时调优 Prompt 与 Chunk 的痛苦。
• *公司知识库* 能够一次性加载全部历史记录，无需再为向量检索调参或频繁更新索引。
• *法律/医疗等长文本分析* 将进入“完整阅读”时代，不再受限于几千字的窗口大小。
• *AI 长期记忆* 有望从“记得最近一次对话”跃迁到“像人类一样持续累积经验”。

If SubQ’s claims hold up under independent testing and peer review,ripple effect will be massive across every domain that currently wrestles with context limits.

三道关卡——验证是否真能破局

flowchart TD
subgraph Validation
G1
G2
G3
end
Validation --> ScenarioA
Validation --> ScenarioB
ScenarioA --> A1
ScenarioA --> A2
ScenarioA -> A3
ScenarioA -> A4
style Validation fill:#EEEDFE。stroke:#534AB7,color:#534AB7
style ScenarioA fill:#E1F5EE,stroke:#1D9E75,color:#0F6E56
style ScenarioB fill:#FCEBEB,stroke:#E24B4A,color:#A32D2D