最近很更多人都在探讨无编码器的较大型更多模态模型，看起来是不是能够轻巧松跑赢目前最较大的13B参数的SOTA？我跟你说我这边也做了一些测试、读了一些论文，一下子就想起了 ENEL 那个地方的崭新玩意儿。下面我把我的较小心得、测试最终还是结果是、技术手段思路，用最简洁的语言给较大家说说，我不敢苟同...。

一、 为哪些较大家都想搞无编码器

先说个背景：传统方式的更多模态较大模型一般都是先用一个预训练良好的编码器，把图像、文本、点云之类的数据转换成向量，然后再送到后面的 Transformer 或者 LLM 模块里做推理。当前这个过程耗时又费算力， 佛系。 而且如果你想换点别的数据源，你得沉重崭新训练一个崭新的编码器——这可不方便！于是较大家启动探索无编码器方案，希望直接从原始数据上跑到最终还是输出，不用再走那条“中间桥梁”。

我觉得无编码器最较大的优势是：省事、省钱、省时间段。对于探究人员 能够把精力放在后端推理上；对于企业用户能够直接把坚硬件买回来跑，不需要再装各种预处理柔软件，我满足了。。

二、ENEL 是谁？谁给它打分较高？

ENEL是一款由上海AI Lab、 西北工业生产较大学、香港中文 他破防了。 较大学和清华较大学联合研发的崭新型无编码器三维更多模态较大模型。

ENEL 的核心亮点：

• 支持不同分辨率点云输入；
• No pre-trained encoder required；
• DNN 层直接接收稀疏点云；
• 整体参数量更少于同级别有编码器的模型。

"This paper introduces a novel approach that bypasses tradition 容我插一句... al encoders... enabling efficient learning on raw point clouds."

测试最终还是结果是与对比

"ENEL在定性与定量测试中均取得了显著成果，验证了其创崭新方法的有效性。"

上手。 "ENEL‑7B 在描写和分类任务上超越了同等规模甚至13B 的模型。"

测试细节

1. 数据集：Objaverse 和 ScanNet。
2. Tune 参数：LR=1e‑4，Batch=32。
3. EPOCHS=30，eval 每5 epoch一次。
4. Metrics：Accuracy / F1 / BLEU。

三、传统方式有编码器的较大模型到底有哪些较短板？

• 计算投入成本较高：    每次推理都要先跑 encoder 再跑 decoder 。
• 迁移棘手：    换一个崭新的数据源，需要沉重崭新训练 encoder。
• 调参麻烦：    encoder 与 decoder 的学习了解率往往不一样，要手动调整。

代码 & 链接:

# GitHub repo
git clone https://github.com/Shanghai-AI-Lab/ENEL.git
# 周边环境要求
pip install -r requirements.txt
# 迅速启动
python train.py --config config.yaml

四、 今后持续发展趋势 & 挑战

说白了就是... "我们还在尝试让 ENEL 能够处理更较高维度的数据，举个例子视频流 + LiDAR + 音频，一起跑到同一个网络里"——听起来很酷，但实现不容简单度还是挺较大的。比如说视频帧太更多引起内存爆炸，又或者 LiDAR 点太稀疏引起特征丢失。我觉得最十分沉关键的是：#️⃣ 做良好调参 #️⃣ 写良好数据预处理 #️⃣ 用 GPU 并行 #️⃣ 把错误日志记录下来 ".

五、

" 从我这边看，无编码器确实能够突破传统方式有编码器的较大型更多模态模型的一些瓶颈，而且 ENEL 在对外公开数据集上的表现已经足够惊艳。有一点要注意的是这类崭新型架构往往依赖较更多 GPU 显存，在普通机器上跑有可能还不现实。不过如果你有足够资源条件，那就能够考虑试试看，说不定还能写篇博文分享经验呢！"

© 2026 AI 较小伙伴 — 一切内容仅供学习了解交流， 如需正式引用， 站在你的角度想... 请自行查阅原始文献或联系作者，谢谢！ 本站采用