t41372 最近的时间轴更新
t41372

t41372

哈哈
V2EX 第 583966 号会员,加入于 2022-06-06 20:06:39 +08:00
今日活跃度排名 11521
1 G 71 S 3 B
美国大学邮箱白嫖一年份 Perplexity Pro
分享发现  •  t41372  •  194 天前  •  最后回复来自 HuPu
3
我: 你好。Gemini: 我无法提供这方面的回应
分享发现  •  t41372  •  216 天前  •  最后回复来自 yzding
2
Sambanova AI 提供的免费免登入 llama3.1 405B,有 api
分享发现  •  t41372  •  235 天前  •  最后回复来自 lingo34
3
免费的 6 个月卡巴斯基,感谢美国商务部
  •  2   
    分享发现  •  t41372  •  119 天前  •  最后回复来自 clevo
    69
    很讨厌桌面端系统的权限管理模式
    操作系统  •  t41372  •  331 天前  •  最后回复来自 kuanat
    11
    llama 3 发布了,我感觉挺猛的...
  •  2   
    Local LLM  •  t41372  •  246 天前  •  最后回复来自 kangfenmao
    12
    为什么用 telegram 的人这么多
  •  1   
    Telegram  •  t41372  •  199 天前  •  最后回复来自 lihaha3519
    150
    t41372 最近回复了
    用 Python 的直接用 open ai 的 SDK 就行,绝大多数的大模型后端都支持 openai 的 sdk ,支持同一套标准,模型名字 base url 和 API key 一改就能无缝衔接。这包括什么 OpenAI, Gemini, deepseek, 智谱, 硅基流动,还有本地的推理引擎,比如 vllm ,ollama ,llamacpp 之类的。

    单纯的与 llm 对话一个几十行一百行的 Python 单文件就能实现,一般不会单独写成项目,你上网搜 openai 的相关教程可能能找的到,或是直接让 ai 给你写个案例代码。如果你不熟悉 Python 记得顺便看一下包管理器,依赖管理,虚拟环境之类的东西。2025 年这套东西可以用 uv 解决,不过 ai 可能还不熟悉最新版本的 uv 。

    纯对话的最小代码我没有,不过之前写过一个 gist ,向 LLM 提问 1000 次,让他生成随机数,但生成 0 的概率是 90%,运行结果是跑 1000 次之后所有的结果都是 0 (?)。62 行,配置一改就能换到其他大模型去。

    https://gist.github.com/t41372/84f250d2ae3567332fc2b97ed4f868a8

    关于 langchain ,我不推荐新手用 langchain ,他会让你的生活很痛苦。
    很多奇怪的心理现象或想法其实在学术界都有研究,不一定是你自己的问题。如果不想或不能找医生的话,先试试问问 AI 。上面那个视频在我焦虑的时候给了我不少力量,可以看看
    看医生。看医生之前可以先跟 AI 聊聊。如果想自癒就先跟 AI 聊。你必须要先知道问题的根源才能解决问题。很多奇怪


    [别再躲你比你想象的强壮的多——Jordan Peterson [中英双字] -哔哩哔哩] https://b23.tv/Ucnqo5p
    35 天前
    回复了 lucasji 创建的主题 随想 AI 编程就像指挥机器人洗碗
    如何给予足够的上下文是目前的一个难题。过长且不相关的上下文对 AI 性能的影响很大,但上下文太少 AI 跟本不知道自己能做什么,什么才是最优解。

    有时候我其实感觉,就算是你把真的人塞到 AI 对话框里,就用户和程序给的那点信息,其实根本没法做出好的决定。
    但上下文长度基本等于成本,而且性能也会下降。只能寄望于大模型上下文能力的增强了
    这种反带工具最佳实践毫无疑问是限内网访问,很多佬也不会用这种奇奇怪怪的 GUI 玩意儿,我自己也是 caddy + tailscale 纯内网访问。

    但现在自部署相关的文章/视频有一大把都是用 nginx proxy manager 的 (国内外都是),搞自部属的,刚入门的 用这个一堆... 这也很合理,nginx caddy 都没有 GUI ,而 nginx proxy manager 有。很多人会倾向有个 web ui 来管这个的...

    最近我才遇到一个用这个的,还把源服务器 ip 漏出来了,随便扫一下就扫出了好多服务,甚至 ssh 用的还是密码登入... 这样的人很多... 起码得提醒他们一下吧...
    @fuzzsh 笑死,当然没区别,我就是应届生🤡 也不是搞网络安全的
    Mac 的话可以试试 OrbStack 。vm 基本就是 wsl 的体验,档案系统可以部分互通,可以直接 cd 到 mac 的目录下跑 linux 的命令。可以用 Rosetta 模拟 x64 。运行速度也很快,跑 docker 也比原版的 docker desktop 要快很多。
    135 天前
    回复了 rdmclin2 创建的主题 分享创造 做了一款开源的 LLM 3D 虚拟陪伴产品
    做同类项目但做的没你好的表示很慌...😢
    感觉应该要等下一次他们搞 Arctic Code Vault 才行了,不知道要多久之后了 (如果有下一次的话)。我也没拿到,他们搞的时候我在 GitHub 上还没啥动静,挺想要的。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4554 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 09:49 · PVG 17:49 · LAX 02:49 · JFK 05:49
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.