第二百八十二章 深蓝 (4/9)
“韩总,苏总,其实我还有个关于产品的想法,想和你们聊聊。”
苏念念其实猜到了,三人之间每周是有固定会议的,如果只是汇报“成长系统”的成绩,完全可以等到那个时候。
今天临时预约一个会议,肯定是有决策要做的。
“让小姜总这么急,是什么想法啊?”她笑着说道。
姜亦心打开了刚刚整理出来的资料。
《使用大模型创建可复用的专家级技能》。
然后她把是怎么受到早期用户的启发,想到可以使用a来制作领域专家的能力,然后在网上调查到的现状等等都讲了出来。
韩路一和苏念念对视了一眼,都能看出对方眼中的惊讶。
小姜真的是一个很敏锐的产品经理啊。
“网上很多人都有这方面的尝试了,但是我觉主要受限于几个方面的原因,现在的a还没有办法提供和真人专家一样级别的能力。”姜亦心说,“首先最主要的是,现在的大模型在设计之初都是被按照通才来培养的,但是当我们需要某个职业的能力的时候,我们需要的是他的专才,比如编程、法律、设计等等。”
韩路一点点头。
这确实是个问题,而且还是源智的应用方面正在面临的挑战——汤圆在国家电网的应用落地,需要的就是电力方面的专才。
“这个方向确实比较前沿,但是在学术界和工业界已经有一些探索了。”韩路一说道,“现在比较流行的是a(tval-aumnt natn,检索增强生成)技术,把模型里没有的相关资料放到数据库里,提前做好索引,等到有查询进来的时候,先把相关的内容在这个专用的数据库里搜出来,然后把搜到的内容一起送给大模型,让大模型根据这些内容来生成答案。”
通过给定数据来源的范围,和在提示词中严格的限制只能从给定的来源中生成回答,可以以最低的成本,在一定程度上把通用大模型变成一个领域专家。
“但是这其实是对模型能力不到位的一种妥协。”韩路一接着说,“用户问什么问题是没法预测的,语义理解不到位,就检索不到相关的信息,最后给出的答案就不准确。这就像给一个没学过这门课的人开卷考试,你问问题的时候,他现翻答案,翻到了,答的就好;可是翻不到,你就别指望他能给出什么好答案了。”
韩路一讲的清晰到位,姜亦心和苏念念都听懂了。
确实,从这个方向上看,问题还是没到解决。
姜亦心翻了一页资料,说道:“还有下一个问题。”
屏幕上写着这一节的标题:【长时记忆】。
“现在汤圆很强,但是它的工作是响应式的。”姜亦心说道,“我问一个问题,它回答一个问题;我追问下一个问题,它回答下一个问题。等到我问的问题太多了,超出了上下文窗口,整个对话就没法用了,然后打开下一个问题,一切从头开始。我们做御风的时候就对这个问题特意做了优化,然后在做这个成长助手的时候,我们遇到了同样的问题。”
章节报错
请简要描述您遇到的问题(如:内容缺失、章节错乱、文字乱码等)