caneman
V2EX  ›  OpenAI

求稳定的自建 chatgpt api 中转服务的方法

  •  
  •   caneman · Nov 20, 2023 · 7576 views
    This topic created in 1079 days ago, the information mentioned may be changed or developed.

    目前的方案是高质量机场 + openclash ,给境内服务器上的 api 服务提供梯子环境

    整体用了挺久的,成本可控,缺点就是受梯子稳定性影响比较大,偶尔有个波动抽风

    能想到的最好的方案

    1. 境外服务器直接搭

    2. Azure

    假想会遇到的问题

    1. 首先 Azure 和 openai 官方的接口的形式是不太一样的,而且模形似乎也有出入,不想用 Azure .

    2. 境外服务器的话有两个问题

      1. 一个是 服务器-> openai ,这段是有阻断风险的,据我所知有些主机商的机子是访问不的 openai 的,还要考虑到现在不阻断以后会不会阻断的问题,综合成本 & 稳定性 & 速度的话,不知道有没有推荐的?

      2. 境内 -> 服务器,这段一般没问题,不过也有阻断的风险,也要降低。

    其他补充

    小团队自用,规模不大,并发不高,不对外开放,不盈利。

    考虑到数据隐私问题,第三方 api 服务不考虑。

    24 replies  •  2023-11-26 13:08:17 +08:00
    jmljava
    jmljava
    Nov 20, 2023
    1
    可以搞个搬瓦工的小服务器做转发,做好访问设置问题不大,速度还挺好
    Solix
    Solix
    Nov 20, 2023
    2
    API 除了不可用地区的服务器不能用之外,没其他限制
    caneman
    caneman
    OP
    Nov 20, 2023
    3
    @jmljava 以前每次严打的时候,搬瓦工的节点就爱抽风,还以为他不靠谱。老哥用多久了,openai 会封号嘛?
    hahiru
    hahiru
    Nov 20, 2023
    4
    自建 API 平台,比如 oneapi ,然后中转用 verge 。
    目前自用很稳定。
    hahiru
    hahiru
    Nov 20, 2023
    5
    @hahiru #4 勘误:是 vercel 反向代理。
    freshgoose
    freshgoose
    Nov 20, 2023❤️1
    6
    用一个国内域名指向境外主机,该主机内用 nginx 转发到 openai ,你只需要配置一个 nginx 就行了……
    jmljava
    jmljava
    Nov 20, 2023
    7
    @caneman 服务器只做代理转发应该问题不大,封号也会封,不过我经历的都是 openai 大规模封号那种,应该不是因为代理访问的问题
    caneman
    caneman
    OP
    Nov 20, 2023
    8
    @freshgoose 境外主机有啥推荐的吗?
    limfoo1
    limfoo1
    Nov 20, 2023
    9
    1. cloudflare worker api 反代;
    2. cloudflare AI gateway ,但是 x 上有人说会漏 IP 导致封号。
    cheng6563
    cheng6563
    Nov 20, 2023
    10
    cloudflare worker 直接反代了。。。都不用服务器
    caneman
    caneman
    OP
    Nov 20, 2023
    11
    @cheng6563
    @limfoo1

    稳定吗?链接超时之类的,对稳定性有一定要求
    zhaoweihao
    zhaoweihao
    Nov 20, 2023
    12
    这不买个 chatgpt plus 然后团队内共享账号就可以了吗
    walle1530
    walle1530
    Nov 20, 2023
    13
    反过来了,我是用了半年多境外服务器,阿里和腾讯的,最近非常不稳定,丢包严重,于是乎现在换到了物理机+代理,十多天了还挺稳
    caneman
    caneman
    OP
    Nov 20, 2023
    14
    @zhaoweihao

    目前是用的 API ,几十个人的规模吧,共享帐号不是很合适
    caneman
    caneman
    OP
    Nov 20, 2023
    15
    @walle1530

    这样的吗?我们目前是代理方案,用了有半年了,但是代理有时候还是会抽风的。

    是不是会有 timeout 之类的问题,还想着切到境外服务器会不会稳一些😑
    uRQDd07Pt2UWOtOF
    uRQDd07Pt2UWOtOF
    Nov 20, 2023
    16
    https://open-assistant.cn 建议看看,可以邮件联系,独立部署,我们这边每天 300 美元左右的服务,使用的是这个系统
    lekai63
    lekai63
    Nov 20, 2023
    17
    cf-worker 反代 最近有个问题:cf 会强制给你带上 cf-connect-ip 附上你的真实 ip 。 然后 openai API 那边会 ban 掉你。
    当然,也可能是因为我直接用 cf 的 ai gateway 的缘故。

    反正现在我转到 render 部署 openai-forward 了
    walle1530
    walle1530
    Nov 20, 2023
    18
    @caneman 反正我用阿里腾讯的是不稳,代理的话要看机场质量,我现在用的还可以
    czy0612
    czy0612
    Nov 20, 2023
    19
    测试过 cf-worker 、腾讯云函数、日本搬瓦工 自建 caddy 反代
    稳定性 自建反代 > 腾讯云函数 > cf-worker
    a342191555
    a342191555
    Nov 20, 2023
    20
    我用的是 Cloudflare CDN + 腾讯云 lightsail 日本 + 八爷的 opencat 反代,已稳定工作半年有余,数据量不小,偶尔会有波动,但绝大多数情况下是正常的
    C603H6r18Q1mSP9N
    C603H6r18Q1mSP9N
    Nov 20, 2023
    21
    我们直接用第三方,价格基本是官方的 1.5 倍,支持 GPT4/ gpt-4-vision-preview, 量不大感觉蛮方便的
    现在用的 https://api2d.com/r/201633
    有 REFFER ,不喜删了即可
    feirisu
    feirisu
    Nov 21, 2023
    22
    我用的阿里云云函数
    1044523901
    1044523901
    Nov 25, 2023
    23
    op 解决了? 最后采用啥方案
    caneman
    caneman
    OP
    Nov 26, 2023
    24
    @1044523901 目前还是 clash + 机场的组合,境外服务器的看上面 v 友的说法也有波动问题,打算多找几个服务器试试
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1313 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 55ms · UTC 21:05 · PVG 05:05 · LAX 13:05 · JFK 16:05
    ♥ Do have faith in what you're doing.