全球主机交流论坛备用站

 找回密码
 立即注册

QQ登录

只需一步,快速开始

全球云38元起免备案V2EX搬瓦工VPS
SEO查询超级PING网站测速
Virmach特价鸡乌云漏洞吾爱破解
查看: 193|回复: 11

Azure openai已申请到,分享下搭建方法

[复制链接]

20

主题

209

帖子

672

积分

高级会员

Rank: 4

积分
672
发表于 2023-5-2 13:04:08 | 显示全部楼层 |阅读模式
20230417
本帖最后由 karllo 于 2023-5-2 13:06 编辑

我用的是这2个项目部署起来的,当然还有其他优秀的azure兼容项目,mjj们可以去挖掘一下
ChatGPT-Next-Web
azure-openai-proxy


一、创建 Azure OpenAI

  • 区域:我选美东,关于区域,我看了下文档,西欧不支持gpt4,会影响后续使用,美东和中南部都可以
  • 名称:这个比较建议填一个好记的名称,后续调用api是带这个名字的域名的
  • 其他步骤直接默认下一步就行
  • 最后提交部署需要等待几分钟,我等了10分钟左右才部署成功



二、模型部署
  • 进入刚才创建的服务,选择模型部署
  • 这里的名称填写也注意一下,后面调用api接口参数也会用到,我填的是
    1. gpt-35-turbo
    复制代码

  • 当然,模型选择肯定也是gpt-35-turbo
  • 到此已经完成了Azure上的部署



三、服务器部署
使用的是docker-compose部署,下面我写一个通用的docker-compose.yml文件模板给大家
注意模板要改的地方:
  • OPENAI_API_KEY(Azure上在“密钥和终结点”里可以找到,密钥1、2都可以用)
  • CODE(用来访问页面服务的自定义密码,建议密码8位以上防止被爆破,多个密码以逗号隔开)
  • AZURE_OPENAI_ENDPOINT(也是在Azure上在“密钥和终结点”里可以找到)
  • AZURE_OPENAI_MODEL_MAPPER(名称映射,就是上一步里模型部署提到的模型名称,如果跟我写的一样可以不用改)


  1. services:
  2.   chatgpt-next-web:
  3.     image: yidadaa/chatgpt-next-web
  4.     container_name: chatgpt
  5.     ports:
  6.       - 3000:3000
  7.     environment:
  8.       - BASE_URL=http://azure-openai:8080
  9.       - OPENAI_API_KEY=xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
  10.       - CODE=xxxxxxx,xxxxxxx
  11.     depends_on:
  12.       - azure-openai
  13.     links:
  14.       - azure-openai
  15.     networks:
  16.       - chatgpt-ns
  17.     restart: always

  18.   azure-openai:
  19.     image: ishadows/azure-openai-proxy:latest
  20.     container_name: azure-openai-proxy
  21.     restart: always
  22.     ports:
  23.       - 7070:8080
  24.     environment:
  25.       - AZURE_OPENAI_ENDPOINT=https://xxxxx.openai.azure.com
  26.       - AZURE_OPENAI_MODEL_MAPPER={gpt-3.5-turbo=gpt-35-turbo,gpt-3.5-turbo-0301=gpt-35-turbo-0301}
  27.     networks:
  28.       - chatgpt-ns

  29. networks:
  30.   chatgpt-ns:
  31.     driver: bridge
复制代码



至此已经完成服务部署,剩下的那些反向代理(3000端口)、域名绑定,相信作为一位mjj都懂
MJJ,你的签名掉了~~~
回复

使用道具 举报

49

主题

1163

帖子

2609

积分

金牌会员

Rank: 6Rank: 6

积分
2609
发表于 2023-5-2 13:04:51 | 显示全部楼层
MJJ,你的签名掉了~~~
回复 支持 反对

使用道具 举报

45

主题

753

帖子

1889

积分

金牌会员

Rank: 6Rank: 6

积分
1889
发表于 2023-5-2 13:07:10 | 显示全部楼层
价格呢
MJJ,你的签名掉了~~~
回复 支持 反对

使用道具 举报

20

主题

209

帖子

672

积分

高级会员

Rank: 4

积分
672
 楼主| 发表于 2023-5-2 13:08:32 | 显示全部楼层

https://azure.microsoft.com/zh-cn/pricing/details/cognitive-services/openai-service/
MJJ,你的签名掉了~~~
回复 支持 反对

使用道具 举报

97

主题

758

帖子

2141

积分

金牌会员

Rank: 6Rank: 6

积分
2141
发表于 2023-5-2 13:07:00 | 显示全部楼层
用这这个搭镜像赚钱不
MJJ,你的签名掉了~~~
回复 支持 反对

使用道具 举报

20

主题

209

帖子

672

积分

高级会员

Rank: 4

积分
672
 楼主| 发表于 2023-5-2 13:16:23 | 显示全部楼层
MikuP 发表于 2023-5-2 13:16
用这这个搭镜像赚钱不

赚不了钱吧,自己玩,目前有每分钟请求次数限制:
Davinci 模型(002 及更高版本):120
ChatGPT 模型(预览版):300
GPT-4 模型(预览版):18
所有其他模型:300
MJJ,你的签名掉了~~~
回复 支持 反对

使用道具 举报

24

主题

287

帖子

882

积分

高级会员

Rank: 4

积分
882
发表于 2023-5-2 13:20:51 | 显示全部楼层
karllo 发表于 2023-5-2 13:20
赚不了钱吧,自己玩,目前有每分钟请求次数限制:
Davinci 模型(002 及更高版本):120
ChatGPT 模型( ...

gpt4不用单独申请?
MJJ,你的签名掉了~~~
回复 支持 反对

使用道具 举报

18

主题

53

帖子

166

积分

注册会员

Rank: 2

积分
166
发表于 2023-5-2 13:16:00 | 显示全部楼层
azure100有售
MJJ,你的签名掉了~~~
回复 支持 反对

使用道具 举报

20

主题

209

帖子

672

积分

高级会员

Rank: 4

积分
672
 楼主| 发表于 2023-5-2 13:21:56 | 显示全部楼层
xhcj666 发表于 2023-5-2 13:21
gpt4不用单独申请?

要的啊,前提条件是要先通过gtp3.5的
MJJ,你的签名掉了~~~
回复 支持 反对

使用道具 举报

0

主题

1

帖子

4

积分

新手上路

Rank: 1

积分
4
发表于 2023-5-2 13:20:00 | 显示全部楼层
karllo 发表于 2023-5-2 13:25
要的啊,前提条件是要先通过gtp3.5的

你4通过了嘛?我等了一周了,还没消息
xhcj666 发表于 2023-5-2 13:27
你4通过了嘛?我等了一周了,还没消息

没有消息,只是回了我邮件说在waitlist
MJJ,你的签名掉了~~~
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

展开

QQ|Archiver|手机版|小黑屋|全球主机交流论坛备用站

GMT+8, 2024-5-21 02:45 , Processed in 0.058508 second(s), 26 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表