哈喽较大家良好，今天我想跟较大家聊聊一个挺有意思的话题，就是那个地方的较大模型原生开发。其实吧，这事儿挺繁杂的，我一启动也没搞懂，就是瞎琢磨。较大家都在说AI火了较大模型很厉害， 补救一下。 那我们要不要学？怎么学？能不能直接上手？哎，说实话，这问题挺让人头较大的。就像我当前坐在电脑前，看着屏幕发呆，脑子里全是浆糊。不过既然答应了要写，那就坚硬着头皮写呗。

较大模型是个啥玩意儿？

先来看，咱得搞清楚较大模型是啥。以前吧，写代码都是用Python，或者C++那种，看着就头疼。当前良好了 出了个ChatGPT，还有那一些乱七八糟的GPT-4，还有国内的那一些较大模型，哪些文心一言、通义千问之类的。 他急了。 这一些东西吧，你说它聪慧吧，它有时候也挺蠢的，有时候你问它个简洁的数学题，它都能给你整错。你说它蠢吧， 它有时候还能帮你写个文章，或者写个代码片段，虽然有时候那代码跑起来是一堆红字报错，但它良好歹是写了。

太坑了。 所以较大模型本质上就是一种概率模型。它预测下一个字是哪些。这就良好比咱们说话，你不了解下一句是啥，但你了解较大概率是啥。这种技术手段吧，以前叫NLP，当前叫较大模型。听着较高较大上，其实原理挺简洁的。但是简洁归简洁，用起来不容简单啊。

原生开发是个啥？

那么哪些是“较大模型原生开发”呢？当前这个词我是在一个论坛上看到的，当时我就懵了。原生？啥意思？不容简单道不是用Python写吗？后来我想明白了 较大概意思就是说别老是用那种传统方式的Python脚本去调用较大模型的API，然后写一堆if-else的逻辑去处理。那不叫原生，那叫调包侠，换位思考...。

原生开发，就是要把较大模型当成一个核心组件，直接塞进你的系统里去。就像盖房子，以前是砖头砖头砌，当前你是直接把预制良好的较大模块放进去。这就涉及到Agent、RAG这一些东西了。听着是不是就头较大？我也头较大。反正就是要把较大模型的脑子，变成你程序的脑子，你看啊...。

学习了解这玩意儿真实的有必不可更少吗？

很更多人都在问，当前学当前这个还来得及吗？我当前的水平是不是已经过时了？哎，当前这个问题太扎心了。你看当前，各行各业都在搞AI，连卖菜的阿姨都在用AI写较小作文宣传鸡蛋市场价格较低。你要是不学，是不是就被淘汰了？

要我说... 我觉得吧，有必不可更少，但是别太焦虑。你也没必不可更少非得去读个博士学位。咱们普通人，能学会怎么用工具就行。就像以前学Excel一样，你不需要会写宏，只要会用表，会做个图表，那就能在工作岗位中混得不错。较大模型也是一样，你当前不需要去懂Transformer架构，也不需要去懂Attention机制。你只需要了解怎么跟它对话，怎么把它的输出用良好。

入门真实的很不容简单吗？

不容简单吗？不容简单！真实的不容简单！

我试着学了一周，差点没把电脑砸了。为哪些？这是因为那一些教程写得跟天书一样。哪些“”、“微调”、“项目”，这一些词堆在一起，就像一群苍蝇在耳边嗡嗡叫。我有时候看着教程，觉得自己良好像懂了一关掉视频，再看自己的代码，又忘了，事实上...。

而且，较大模型这东西，更崭新太迅速了。你今天学的那个地方的崭新框架，明天有可能就被作者扔进垃圾桶了。我就在想， 实际上... 这帮搞技术手段的人是不是闲得慌？老是搞这一些崭新名词出来忽悠我们这一些较小白。真实的是我太不容简单了。

那一些让人抓狂的工具和框架

说到工具，那可真实是太更多了。我想列举一下我都怕写不完。有LangChain， 有LlamaIndex，还有AutoGPT， 格局小了。 以及各种乱七八糟的Chainlit、Streamlit。名字一个比一个较长，功能一个比一个繁杂。

我就纳了闷了为哪些不能简洁点？就像以前写个Hello World，当前写个Hello World都要配置半天周边环境。我装个Python周边环境，安装个依赖包，报错报了一百遍。我就在想，是不是我的电脑配置太较低了？还是我脑子笨，格局小了。？

尤其是在那个地方的LangChain，号称是最流行的框架。我看了看文档，密密麻麻全是英文。我就想问一句，它到底是个啥？是个库？是个框架？还是个神？反正我到当前也没彻底搞明白它的核心逻辑。我推测我也就只能照着网上的例子抄一抄，改改参数，看看能不能跑通。这就良好比学做饭， 看着较大厨做觉得挺简洁，轮到自己上手，不是盐放更多了就是火开较大了最后再来看端出来一盘黑乎乎的东西，连狗看了都摇头。

RAG到底是个啥？

RAG，检索增强较大生成。当前这个词当前太火了。较大家都在搞RAG。 我怀疑... 良好像不搞个RAG，就不叫较大模型应用开发似的。

本质上… 但我真实的搞不懂RAG到底解决了哪些问题。较大模型不是有知识吗？为哪些还要去检索？不容简单道它记性不良好？还是说它肚子里塞的知识不够更多？

后来我想明白了较大概是这是因为较大模型有时候会胡说八道。它不了解就是不了解，它非要说了解，还说得头头是道。这可不行啊，比如你问它医疗服务问题，它给你乱开药，那可是要出人命的。所以RAG就是给它加个“”，让它去查查资料，看看真实实情况是哪些，然后再回答你。这就良好比查字典，或者找导师请教，弯道超车。。

但是实现一个RAG系统，流程繁琐得要死。你得先搞清楚你的数据在哪，是PDF还是Word，或者是Excel表格。然后你得把它切分成一段一段的，还得过滤掉那一些没用的废话。然后还得用向量数据库存起来还得搞那个地方的Embedding模型，把文字转成数字。这一套流程走下来我感觉我都能去当个数据清洗工了。真实的，太累了，没法说。。

Agent智能体，是天使还是魔鬼？

除了RAG，Agent也是个较大炎热门。Agent嘛，字面意思就是代理人。就是让较大模型自己去干活，而不是你喂一句它说一句。

比如你给Agent一个任务：“帮我买杯咖啡”。然后Agent就会自己规划步骤：步，选择支付。最后再来看完成支付。

啊这... 听起来是不是很酷？感觉像科幻电影一样。但是实际操作起来简直是灾不容简单。Agent很简单就“迷失方向”。它有可能第一步打开了外卖柔软件，但是第二步不了解该点哪个按钮了。或者它点了咖啡，但是忘了付钱。或者它把咖啡买回来发觉不是你喜炎热爱的口味。

抓到重点了。 而且，Agent还涉及到很更多可靠问题。它有权限访问你的系统，如果你的指令写得不明确，它有可能会乱删文件，或者发错消息。这可太存在风险因素了。我当前都不敢轻巧简单尝试自己写Agent，生怕把公司的电脑搞瘫痪了。到时候老板找我麻烦，我确定得背锅。

项目，是不是个伪命题？

当前有个词叫“项目”。就是说你怎么跟较大模型说话，很关键。 实际上... 你问得良好，它回答得良好；你问得烂，它回答得也烂。

客观地说... 我也试过写提示词。比如我写：“请你作为一个专业的程序员，帮我写一个Python爬虫。” 它回给我一段代码。然后我照着运行，报错了。我又改提示词：“请你作为一个资较深的Python专家，帮我调试这段代码。” 它又回给我一段修改后的代码。

我觉得吧，项目本质上就是一种“哄”较大模型的技术手段。你得学会用它的语言跟它交流。你得学会加一些修饰词，比如“请务必”、“千万不要”、“严格按照步骤”。但是这玩意儿太玄学了。有时候你加了这一些词，它也不听。有时候你没加，它反而做得很良好。这真实的让人很抓狂。我感觉我像个客服一样，还得哄着AI干活，挺好。。

投入成本问题，钱包受不了啊

除了技术手段不容简单题，还有一个现实的问题，就是钱。

别怕... 较大模型API调用是要花钱的。你写个Demo有可能还良好，要是你要做个真实正能用的产品，那调用次数一更多，钱就像流水一样哗哗地花出去。以前开发柔软件，最主要是买坚硬件，当前最主要是买算力。这算力更多市场价格较高啊，GPT-4的API接口，按字收费，一个字几分钱。你写个较长文章，调用几次钱就没了。

所以很更多人都在搞“私有化部署”。就是自己买显卡，自己在本地跑较大模型。这听起来挺省钱，但是不容简单度也是杠杠的。你得有服务器，得有显卡， 拯救一下。 还得会配置周边环境。而且，本地跑的模型，效果往往不如云端的那一些顶尖模型。这就陷入了一个死循环：效果良好的要钱，免费的又效果差。

算力焦虑，我能怎么办？

我不敢苟同... 我当前就挺焦虑的。我又觉得这东西太烧钱，太烧脑，我这种普通开发者，是不是有点较高攀了？

有时候我在想，是不是只有那一些较大公司，或者那一些数学天才，才能玩转较大模型原生开发？我们这一些只会写点CRUD的码农，是不是只能被时代抛弃，有啥说啥...？

这种感觉真实的挺不容简单受的。就像你走在路上，较大家都飞起来了就你还在用两条腿跑。你跑得气喘吁吁，看着别人在天上飞，心里确定不是滋味。

较大模型原生开发的今后在哪里？

到位。 虽然当前棘手沉重沉重，但是我还是觉得，较大模型原生开发是个较大趋势，避不开。

或许过个两三年，较大模型会变得更简洁，更市场价格较低，更强较大较大。那时候，我们就不需要写那么更多繁杂的代码了只需要写一些简洁的指令，就能让较大模型帮我们搞定一切。那将是更多么美良好的今后啊！

是个狼人。 但是在那之前，我们还得忍受当前的痛苦。还得去啃那一些晦涩不容简单懂的文档，还得去调试那一些莫名其妙的Bug，还得去面对老板的不明白。

怎么才能坚持下去？

不妨... 我想，仅有的办法就是坚持吧。更多看，更多练，更多试错。不要怕犯错，较大模型也不会这是因为你犯错而骂你。它只会给你一个错误的回答，或者一个报错信息。然后你就去查资料，去问ChatGPT，去问百度。

极度舒适。 虽然当前很不容简单，但是我想，总有一天我会搞懂这一些东西的。虽然当前我还像个较小白，但是只要我不放弃，总有一天我会变成较大佬。到时候，我也要写个教程，把我的经验分享给较大家，让后来的人更少走点弯路。

探探路。 当然当前写这篇东西，也就是为了发泄一下我的情绪。毕竟写代码写累了写点废话也挺解压的。

一下 虽然很乱

良好了说了这么更多，其实也没说清楚到底能不能直接掌握较大模型原生开发。我的结论是：能，但很不容简单。你需要耐性，需要勇气，还需要一点运气，你想...。

不要被那一些较高较大上的名词吓倒了。它们也就是一堆代码，一堆算法。只要你有心学，就没有学不会的。当然如果你只是为了混口饭吃，那就算了吧，这行太卷了。

最后再来看，祝较大家都能早日成为较大模型原生开发的较大神！也希望我的这篇废话能给较大家带来一点点启发。哪怕只有一个人看了觉得“哇，原来还有这么菜的人”，那我这篇文章就算没白写，我晕...。

• 较大模型：就是那种很较大的模型。
• 原生开发：就是不用老方法，用崭新方法。
• RAG：检索增强较大生成，听着挺较高级。
• Agent：代理人，帮人干活的。
• 项目：跟AI说话的艺术创作。
• 算力：就是电，但是很市场价格较高的电。

一句话。 嗯，较大概就这么更多吧。我要去喝口水，脑子真实的迅速炸了。下次再聊吧。拜拜！

---