如何使用PerfXCloud實現(xiàn)一次與多個ai模型對話

一、準備

本項目使用?www.perfxcloud.net?大模型平臺，網(wǎng)站上有詳細的說明文檔。

注意：PerfXCloud的API接口兼容 OpenAI 的ChatGPT，可以直接使用 OpenAI SDK或者其他中間件來訪問 PerfXCloud。這使得開發(fā)者從ChatGPT或者其他平臺切換到PerfXCloud變得非常非常容易。

1.如果還沒有PerfXCloud的賬號，可以登錄網(wǎng)站創(chuàng)建一個。

2.PerfXCloud目前支持：

Qwen1.5-110B-Chat-GPTQ-Int4, Qwen1.5-72B-Chat-GPTQ-Int4, Qwen2-72B-Instruct-GPTQ-Int4, Meta-Llama-3-70B-Instruct-GPTQ-Int4, Qwen-14B-Chat-Int4, Meta-Llama-3-8B-Instruct,Llama3-Chinese_v2, chatglm3-6b,llama-3-8b, Qwen1.5-7B,Qwen2-7B,gpt2, SOLAR-10_7B-Instruct,llama-2-7b, PHI_1-5,opt-1b3, phi-2,internLM, Mistral-7B-Instruct, MindChat-Qwen-7B-v2,StarCoder-1B （還在持續(xù)更新中）

二、Chatall

ChatAll是一個能夠同時與多個 AI 模型對話的網(wǎng)頁應用，讓你可以免費使用而無需 API 密鑰。

三、程序部署

下載源碼

git clone  https://gitee.com/PerfXCloud-APP/chatall
cd chatall

依賴包

"ChatAll" 項目使用了一系列依賴包和開發(fā)時的輔助工具。

這里重點介紹幾個核心的依賴包及其作用：

1. openai:OpenAI 是一個用于構建人工智能模型的平臺，它提供了強大的自然語言處理功能。ChatAll 使用 OpenAI 來調用perfxcloud的api 來與大模型進行對話。

2. streamlit:Streamlit 是一個用于構建數(shù)據(jù)可視化應用的 Python 框架。

配置

在?aibackend.py?代碼里面配置模型名稱和 api-key （可以從www.perfxcloud.net注冊賬號獲?。?/p>

四、運行

python運行項目

streamlit run aitalk.py

運行效果如下圖：

本項目視頻教程地址：

本項目代碼地址：