V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
lucien94xxx
V2EX  ›  程序员

最近看到有在谈 AI 应用工程师的,有无这放向的大佬正在折腾的啊

  •  
  •   lucien94xxx · 9 小时 15 分钟前 · 1092 次点击
    这两周看到一些 AI 应用工程师的信息,落地企业的自有大模型。
    RAG 和微调两个方向,有无这方向大佬科普下!
    11 条回复    2025-02-25 17:32:23 +08:00
    musi
        1
    musi  
       8 小时 24 分钟前
    看看落地企业的自有大模型是哪家企业
    kxg3030
        2
    kxg3030  
       7 小时 0 分钟前
    也就 RAG 能有点用 最简单的 QA 表格可以 暂时是这样
    lpnpcs
        3
    lpnpcs  
       6 小时 48 分钟前
    RAG 想做好不容易的,而且现在 deep reasearch 出来以后说明模型能力可能更重要一些。
    微调大部分是算法的工作,AI 应用工程师一般不需要掌握微调的能力,比较火的 r1 这种模型微调几乎不现实,目前这两个方向前途都不明朗。
    ml1344677
        4
    ml1344677  
       5 小时 10 分钟前
    我是做技术咨询的,主要面向的是金融相关公司
    AI 应用这块,今年春节后主要是
    1.流程优化,对现有的业务流程找到切入点,看是否有大模型应用场景。
    2.在流程优化的基础上,每一个小点都需要重新适配大模型的场景,比如大模型推理时,需要同步调用原有数据、原有接口,用比较土的话就是大模型需要抓手,类似于 tigerGPT 那种,他部署的 deepseek 推理可以调用实时金融数据接口,有点像非完全体的 agent ,这些个场景的设计和适配应该是今年主流。
    3.RAG ,但我理解,这个主要是工程问题。
    4.还有就是培训、大模型扫盲之类的了。
    jhdxr
        5
    jhdxr  
       4 小时 57 分钟前
    个人经验,首先模型要大。大力(大参数量)出奇迹。

    别信什么微调后的小模型或量化后的大模型也行。的确有可能也行,但那更多的只是硬件跟不上(绝大多数情况下=没钱)又想硬上大模型的权宜之计。
    lucien94xxx
        6
    lucien94xxx  
    OP
       4 小时 12 分钟前
    看到现在有在做一些 RAG 培训的课程,感觉还是割韭菜。
    整体大方向感觉今年应该是 AI 应用落地,但是如何快速跟上节奏呢,也去培训下 RAG ,做一名 AI 应用工程师?
    ggbond2233
        7
    ggbond2233  
       4 小时 6 分钟前
    @kxg3030 目前在做这个方向的,确实表格和 qa 数据好落地
    NoobNoob030
        8
    NoobNoob030  
       3 小时 41 分钟前
    我在从事这块工作,RAG 理解门槛低,成效快,能落地项目;微调方向不适合转,学习门槛高,成效难量化并且中小公司玩不起

    除此之外还有很多 AI 应用开发方向,并且行业发展迅速,新工具和方向层出不穷,如果想入门可以参考: https://www.promptingguide.ai/zh

    后端开发转 AI 应用开发,只需要学一学 python ,然后了解一些概念就可以开始了,门槛并不高

    感觉开发 AI 应用跟做饭一样,先学工具( LLM 、Embedding 、OCR )如何使用,然后了解烹饪方法( RAG 、Agent ),最后根据食材(需求)做出成品
    kxg3030
        9
    kxg3030  
       3 小时 34 分钟前
    @NoobNoob030 Agent 并不好用 非常死板 我直接进入手动调模型 动态给提示词。微调也试了
    puppyxxx
        10
    puppyxxx  
       3 小时 27 分钟前
    同样最近也在关注这些,期待更多大佬的看法和分享
    NoobNoob030
        11
    NoobNoob030  
       3 小时 20 分钟前
    @kxg3030 #9 目前 Agent 的确要么基于 LLM 能力决策要么人工固定死 workflow ,这样子已经适用很多业务场景了,如果还满足不了需求得用其他姿势或者等 LLM 涌现出更多能力
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3217 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 12:53 · PVG 20:53 · LAX 04:53 · JFK 07:53
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.