nvida 的 12g 显卡
本来跑 stable diffusion webui 和 chatglm2 正常
换成 stable diffusion api 模式后
chatglm2 就跑不起来了
顺便说下
用 wx 模块接入了微信机器人
本来跑 stable diffusion webui 和 chatglm2 正常
换成 stable diffusion api 模式后
chatglm2 就跑不起来了
顺便说下
用 wx 模块接入了微信机器人
|
l0wkeyAug 4, 2023
1
俩都是吃显存的。。
你放一起跑估计得至少 16 甚至 24G 的卡 |
|
2
@l0wkey 确实,我感觉至少 24g 起步
|
|
nomagickAug 4, 2023
3
那你用 int4 量化的版本
|
|
litchinnAug 4, 2023
4
我以为你说的单独跑跑不起来,结果是两个同时运行吗。。。。
|
|
israinbowAug 4, 2023
5
|
|
6
@israinbow 跑的就是 int4
|
|
7
@litchinn 想实现的就是 aigc 应用在微信机器人,智能对话,以及/img ,文字生成图片
chatgpt 又要收费,又要科学的,成本挺高 |
|
mmdsunAug 4, 2023 via iPhone
8
上 4090 24GB 吧
|