laminux29

laminux29

V2EX member #381760, joined on 2019-02-02 06:21:55 +08:00
Today's activity rank 3719
目前 AI 距离顶级专家还有些差距
分享发现  •  laminux29  •  Jul 7  •  Lastly replied by lucifer9
7
谷歌搜索的小心机
分享发现  •  laminux29  •  Jul 2  •  Lastly replied by laminux29
3
备份功能,对比了商业软件与开源软件
分享发现  •  laminux29  •  Jul 27  •  Lastly replied by yjd
4
laminux29's recent replies
1 day ago
Replied to a topic by anmie 生活 娃生了,感叹这个成本真的很低。
成本高的大冤种来了,其实高成本不在基本面,而在于小红书式的前妻报的各种班,比如什么幼教班,每周一次课,1 年要 3-5W ,软磨硬泡下我家里同意了;然后还想去国际幼儿园,每年 20-40W ,这个就连我家里都不同意,没去成。
@marcushuang4595 #8 看热闹的人施舍了三瓜两枣
@gdin 可以试试红果短剧,比 IPTV 的节目内容好太多了。因广电限制,能在 IPTV 播出的内容,故事性很俗套且放不开。
不是哥们,你在公网上玩组播?你这出发点就有问题啊..公网支持组播是情分,不支持组播是本分。你要在公网上玩视频,建议还是老老实实走 tcp 视频流吧。
你觉得老板们都是傻 X 吗?
4 days ago
Replied to a topic by Ayanokouji 程序员 你们会骂 AI 吗
哎,还是专业人士来科普一下正确答案吧。

1.显存与内存很贵,AI 服务商为了降本,会严格限制 AI 上下文的窗口,以及 AI 思考的显存与内存用量。

2.不同问题,对显存与内存的用量,会有指数级区别。比如你问一下明天的天气情况,以及全世界所有公司最近 5 年与最近 20 年的经济情况对比。即使完全不限制显存与内存用量,后面这个问题也有可能会导致整个计算集群的显存与内存都不够用。

3.不同的思考策略,对显存与内存的用量,也会有指数级区别。比如问题是怎样减肥,但询问对象是你的同事对比医院营养科,两者回答问题的思考策略,对算力与存储的消耗是完全不同的。

4.当你的问题,导致 AI 爆显存爆内存后,AI 就会开始胡言乱语、忘记前文、生成不正确的答案了。
提示词在本质上属于软件设计的第一步,需求分析与架构设计。

如果你写不出来,说明这一步的经验少了。可以多进行针对性的训练。
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   931 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 17ms · UTC 21:02 · PVG 05:02 · LAX 14:02 · JFK 17:02
♥ Do have faith in what you're doing.