API 商店|o1 模型支持/聊天免选择令牌/CDN 部署…… 一个小站的 API 商店一周年,带来了这些更新

欢迎来到 YGXZ API,这个由一个小站为你提供的,诞生快要满一年的半公益 OpenAI API 转发项目

YGXZ API 在 2023 年 7 月份立项, 同年 10 月份开始小范围内测,截至目前,已经拥有近 400 名注册用户、近 50 名月活跃用户,和共计来自 39 位朋友的 420 元打赏收入。

API 商店|o1 模型支持/聊天免选择令牌/CDN 部署…… 一个小站的 API 商店一周年,带来了这些更新 - 1
爱发电后台数据

由于这一项目的运营大都通过 Telegram 群组进行,博客端在最近一年来对这个项目的提及甚少,只有一次在讲信息差的文章中提到。借项目运行即将到达一周年之际,我想给博客端的读者们介绍一下它在过去一年发生的变化,以及对这个项目未来的一些远期规划。

YGXZ API 不是一个自研系统,这一点应该来说是非常明显的。去年项目立项初期,我最早认识到的方案是 one-api 系统,这是目前在大模型 API 转发领域非常流行的一个开源项目,截至本文发出,在 Github 上拥有超过 18k 个 star。

今年,YGXZ API 使用了一个名为new-api 的新项目,由Calcium-lon开发,目前也有超过 3k个 star。相比于one-api ,new-api 在功能上增加了模型价格页面、渠道负载均衡、用量统计等非常实用的功能,并且得益于开源社区的共同努力,几乎可以与one-api等更知名的开源项目同时,在第一时间适配各家大模型厂商的 API 接口更新。

API 商店|o1 模型支持/聊天免选择令牌/CDN 部署…… 一个小站的 API 商店一周年,带来了这些更新 - 2
new-api Github 仓库页面

2024 年,靠套壳AI 挣钱的团队已经从写文拓展到了卖课,从赚信息差拓展到了贩卖焦虑,背后靠API 转发获利的老板们许多也已经赚得盆满钵满。

在上一篇介绍 YGXZ API 的 文章 里,我说,「我相信很多朋友都没听过什么是 API,也对这种无聊的计算机术语不感兴趣,但这就是一种信息差」。一个小站坚持做了一年 API 转发,说白了就是为了在这个博客能影响到的范围内,帮到有需要使用 AI,但没能力使用先进模型的朋友。

这一波生成式 AI 的浪潮,可以称得上相当破圈,就连我身边许多跟计算机八竿子打不着的朋友,都喜欢用 AI 帮忙写一些公式化的材料和作业。

几乎是个学生都知道,那个叫做「G什么T」的网站,可以像人一样说话,可以无所不能,可以洋洋洒洒写一大篇漂亮的文字;但不是所有人都知道,你用的这个到底是「GPT-4o-mini」,还是「GLM-4-air」;也不是所有人都知道,大模型在什么情况下会乱编;一大段分好点还带加粗的 Markdown 文字,有经验的人一眼就能看出是 ChatGPT 的手笔。

也许有的学生,有能力用上 chatgpt.com,但 20 美元一个月的会员费贵啊。对于大学生来说,这几乎是一星期的午饭钱。再说,就算真的花的下去手,解决外卡支付和手机号,又得是道坎;最后兜兜转转一圈,还是被淘宝闲鱼一众售卖成品解决方案的商家赚去了血汗生活费

一众套壳 AI 之所以在今天还能能活下来,而且还能以动辄数百上千元一年的价格继续收割,一个是靠前文提到的卖课贩卖焦虑,一个就是靠卖得一手好信息差。

国产 AI 出名的不好用,好用的不出名,国外 AI 注册难付款难使用难,卖个懒人包还不赚钱,那简直是天理难容对吧

我之前写过这么一条主观「暴论」:

一些可能可以判断一个讲 AI 的账号是不是营销号的特征(纯主观):

  • 图片糊,文字大,字体颜色五颜六色,特别喜欢红黄之类的鲜艳强调色
  • 在任何场合永远打不对英语缩写,AI 打成 ai 或者 Ai
  • 哪怕是最常见的产品名和公司名都无法正确拼写,比如 ChatGPT 写成 chat gpt/chatGPT/chatgtp;OpenAI 写成 openai
  • 永远打不对模型名称,GPT-4打成 gpt4/GPT-4.0
  • 会混淆 ChatGPT 这类「产品」和 GPT-4o 这类「模型」的区别,不知道什么是 API 调用
  • 在文末忽然开始推荐自己的「国产 AI」,其实纯粹智商税
  • 标题是耸人听闻的震惊体,配图是直接将英语贴文翻译为中文,从不贴出原文和出处
  • 向模型直接询问模型本身信息,并且得出信誓旦旦的结论,比如「你是什么模型」
  • 认为文心一言很好用

没错,我真的不喜欢文心一言。天王老子来了也没用。模型性能估计连开源的 DeepSeek 都打不过,商业产品里通义千问和智谱清言哪个不比它强,更别说国外 A O G 三家的旗舰大模型,跟它比简直都不像是一个时代的产物。

所以,绕回本文的主题,YGXZ API 以最无痛的方式,解决了普通人访问先进大模型难、人工智能领域信息差难消除的问题。国外大模型付费难,那咱就一直送余额,真用完了,还可以去爱发电打赏拿兑换码;国外大模型访问难,一个小站通过自建 CDN 系统,努力优化国内的访问;国外大模型注册难,YGXZ API 只要你有个邮箱就行。

这一年里,YGXZ API 也不是没有遇到过挑战。不挣钱的事儿嘛,总要有人来插一手。从阿里云机器被 DDoS 进黑洞,到聊天页面使用的子域名进入国内 DNS 污染黑名单,难说咱做错了什么。我只知道,能让有需要的朋友以可负担的方式用上先进的大模型,这事儿有价值

说到「可负担」,YGXZ API 在最近一年里,屡次加量减价,坚持半公益运营的初心。从试运营时的八折,到现在的五折,加上回头客打赏时的叠加九折,要想用完YGXZ API 的赠送余额,再给一个小站打赏续命,可也不是一件简单的事情。

另外,从十月起,YGXZ API 的邀新奖励也翻倍了,新用户使用邀请码注册,可以获得总计 8 美元的体验余额,算上 5 折倍率,相当于免费在 OpenAI 官方调用API超过 120人民币。邀请者当然也有奖励,具体是多少,你试试就知道了。

API 商店近期更新一览

回归正题,接下来请允许我介绍一下YGXZ API 近期更新的详细内容。

用户分级机制

YGXZ API 加入了 VIP 机制。当然,这一切的前提是不损害任何原有用户的权益。

如你赞助累计超过 100 元(需主动发邮件至 one-api@ygxz.in 申请),或提出了非常宝贵的意见(如严重的 Bug),或是本站的初创用户(ID 前 30),你的用户等级将升级为 VIP,即可以公益价格使用列表外的所有模型,包括国内模型、开源模型、逆向模型、生图、生视频、生音乐等特殊模型。

可以明确的是,VIP 用户组的加入,仅仅是为需要特殊模型的朋友提供一个可选的访问方式。设置门槛,也仅仅是因为特殊模型本就完全来自第三方上游,我不具有任何议价权,也就没办法可持续地维持住 5 折费率的不限量供应。

至于半公益服务,只要咱的 Azure 账号还活着,就能一直可持续地维持下去。咱不跟号商们卷价格。

不只是 GPT

API商店自带聊天页面已经升级,支持 o1 系列模型及 Claude 3.5 模型。(GPT系列模型请选择OpenAI模式)上述模型已经全部应用5折公益倍率;o1 暂时由第三方上游提供 Azure 接入(因为咱们还没配额);Claude 暂时由第三方上游提供 AWS 接入。

其中,o1系列模型都无法流式输出,这是 OpenAI 的问题,能流式的一般都是逆向的假API。提交后请耐心等待,没有报错的一般都可以正常生成。

实际上,YGXZ API 很早就提供了 Claude 模型的实验性公益接入,但由于商店自带的对话页面命途多舛,一直没安排上新模型。这次趁着 CDN 集群上线的机会,对话页面重新回到自托管的 NextChat 主分支,提供了更加稳定的体验。

由于各种有趣的原因,做API 转发的同行们水平参差不齐,价格与稳定不可兼得是家常便饭。一个小站花了不少精力去收集网上便宜稳定的上游,但仍然没有哪一家上游可以在保证足够低价的同时,稳定地提供长期服务。

所以嘛,第三方上游提供服务的模型基本上都是贴钱在做公益,朋友们且用且珍惜啊。

自建 CDN 集群

其实本来不是很想放这一点,毕竟之前被 DDoS 过有阴影了(bushi),但还是隆重介绍 YGXZ 的新活儿 —— 一套(比较)完整的 CDN 集群和模板报错页面。

做这个东西首先是为了整理现有的服务器资源,把对国内网络好的机器都挑出来前置,性能好的挑出来做运算。其次是为了配合国庆期间机房的搬迁,力求后端掉线前端不停机。后来发现一套很漂亮的商业 CDN 方案,就拿过来用了。这系统当然不能是我自己写的,这玩意可老复杂了(ノ`Д)ノ

虽说回来第一次做(类)集群化部署,虽然没法像 k8s 那样做伸缩,但是整个过程也确实学到不少,踩的坑也够我长记性的(指复制错配置导致所有子站点源站丢失,差点all in boom)

右下图的状态码报错页面是我和 Claude 一起搓出来的,现在已经实装在了小站的几乎所有站点上,如果哪天网站挂了的话就能看到啦

聊天免选择令牌

严格来说,这并不是一个小站的新功能,而是 new-api 开发者的劳动成果。

one-api 系的令牌管理系统对于普通用户最大的困难就是,他们不知道什么叫「令牌」,不知道为什么在 NextChat 里会莫名奇妙提示未提供令牌,以及为什么自己的账号还没用多少钱,却提示余额不足。过去一年,我应该被问过不下十次这样的问题。

感谢 new-api ,现在你点击YGXZ API 左侧边栏的「聊天」,系统就会自动为你填入你的第一个令牌,从此和「未提供令牌」报错说 byebye。

还是那句话

还是拿上次文章的结尾来做结吧:

打破信息差,既需要外部力量,更需要内驱的勇气。

虽然这是一篇自我推广,但还是非常感谢你能看到这里。下方的注册链接附带邀请码,相比上一个按钮,注册以后能多拿 3 美金体验余额。

Enjoy it.

《API 商店|o1 模型支持/聊天免选择令牌/CDN 部署…… 一个小站的 API 商店一周年,带来了这些更新》是发布于 上的文章。如文中出现错误或侵犯了您的权益,请于评论区指正或发送邮件到 admin@ygxz.in

评论

  1. 123
    Windows Chrome
    1 月前
    2024-10-30 13:57:31

    claude-3-5-sonnet-20241022 用这个模型报错呀 之前还能用来着

    • 博主
      123
      Macintosh Chrome
      1 月前
      2024-10-30 14:04:55

      你好,公益模型列表的新模型添加受成本所限,难以做到及时广泛支持。
      新模型具体开放稳定使用的时间可以等待 TG 交流群的后续通知或者网站右上角的公告

发送评论 编辑评论


				
|´・ω・)ノ
ヾ(≧∇≦*)ゝ
(☆ω☆)
(╯‵□′)╯︵┴─┴
 ̄﹃ ̄
(/ω\)
∠( ᐛ 」∠)_
(๑•̀ㅁ•́ฅ)
→_→
୧(๑•̀⌄•́๑)૭
٩(ˊᗜˋ*)و
(ノ°ο°)ノ
(´இ皿இ`)
⌇●﹏●⌇
(ฅ´ω`ฅ)
(╯°A°)╯︵○○○
φ( ̄∇ ̄o)
ヾ(´・ ・`。)ノ"
( ง ᵒ̌皿ᵒ̌)ง⁼³₌₃
(ó﹏ò。)
Σ(っ °Д °;)っ
( ,,´・ω・)ノ"(´っω・`。)
╮(╯▽╰)╭
o(*////▽////*)q
>﹏<
( ๑´•ω•) "(ㆆᴗㆆ)
😂
😀
😅
😊
🙂
🙃
😌
😍
😘
😜
😝
😏
😒
🙄
😳
😡
😔
😫
😱
😭
💩
👻
🙌
🖕
👍
👫
👬
👭
🌚
🌝
🙈
💊
😶
🙏
🍦
🍉
😣
Source: github.com/k4yt3x/flowerhd
颜文字
Emoji
小恐龙
花!
上一篇
下一篇