Azure chatgpt demo部署 ——AWS EC2 Docker部署

Github地址https://github.com/microsoft/sample-app-aoai-chatGPT?tabreadme-ov-file#environment-variables取2023年7月23日代码。使用Amazon Linux 2 AMI 的arm 64版本镜像, t4g.medium实例。需要安装git可能需要安装 pip3等sudo apt-get install -y python3-pip然后从如下地址clone代码https://github.com/microsoft/sample-app-aoai-chatGPT.git如果不使用requirement.txt安装依赖库则可能会提示没有版本号需要如下方法解决python3 -m pip install --user --upgrade piprequirement.txt中需要注意版本号因为Dockerfile需要从中读取flask、werkzeug等版本信息否则会出现版本号不对应等问题。注意如果本地部署可能需要更新pip源。Name: Werkzeug Version: 2.2.3 Name: Flask Version: 2.2.2 Name: requests Version: 2.31.0 urllib31.26.15 uvicorn0.24.0 gunicorn20.1.0openai对应api的版本问题可以在requirement.txt中指定 openai的版本号为0.27.7或0.28安装和启动docker 等yum install docker sudo systemctl restart docker生成等sudo docker build -t gpt . sudo docker run -d -p 80:80 --name chatgpt gptQA问题1需要用到4G及内存以上否则会在在docker build时报错 [frontend 9/9] RUN npm run build 250.2s # [16:0xffffbaf195c0] 31747 ms: Mark-Compact (reduce) 917.1 (938.4) - 917.0 (939.1) MB, 966.76 / 0.02 ms ( 29.4 ms in 6 steps since start of marking, biggest ste # p 12.0 ms, walltime since start of marking 1018 ms) (average mu 0.337, current mu 0.19[16:0xffffbaf195c0] 33415 ms: Mark-Compact (reduce) 919.1 (940.6) - 918 # .8 (941.1) MB, 1450.30 / 0.00 ms (average mu 0.227, current mu 0.130) allocation failure; GC in old space requested # --- JS stacktrace --- # FATAL ERROR: Reached heap limit Allocation failed - JavaScript heap out of memory # ----- Native stack trace -----问题2docker 启动后报lifespan运行程序时报 internet server errorTypeError: Flask.__call__() missing 1 required positional argument: start_response解决方法进入gunicorn.conf.py文件中注释掉uvicorn相关内容问题3关于修改修改应用程序用户界面与用户界面自定义相关的环境变量包括UI_CHAT_DESCRIPTION这是加载后位于页面中心UI_CHAT_TITLE下方的较小的段落文本。数据类型: 文本UI_CHAT_LOGO这是加载后页面中心中显示的大型图像。数据类型图像的 URLUI_CHAT_TITLE这是加载后页面中心中显示的大型文本。数据类型: 文本UI_FAVICON这是浏览器窗口/选项卡上显示的网站图标。数据类型图像的 URLUI_LOGO这是出现在页面的左上角和标题左侧的徽标。数据类型图像的 URLUI_TITLE这是浏览器窗口/选项卡上显示的标题。它还会出现在页面左上角的徽标旁边。数据类型: 文本UI_SHOW_SHARE_BUTTON此按钮显示在页面的右上角允许用户分享链接到 Web 应用的 URL。数据类型布尔值必须输入 True 或 False如果留空或未指定则默认值为 True。UI_SHOW_CHAT_HISTORY_BUTTON这显示在页面右上角和 UI_SHOW_SHARE_BUTTON 左侧。数据类型布尔值必须输入 True 或 False如果留空或未指定则默认值为 True。参见 使用 Azure OpenAI Web 应用 - Azure OpenAI Service | Microsoft Learn