基于API流式对话的低延迟版MIGPT
本项目利用了OpenAI官方API的原生流式传输对话方式,无需等待,即刻对话!
在作者的笔记本上,实测从提问到回答的时间仅不到1.5秒(当然,这个时间也取决于你的梯子和网络质量)。
* 点此链接观看2分半的测试视频
分为3个steps:
在项目路径执行pip install -r requirements.txt安装需要的依赖。 如果没有C++编译环境,则安装tiktoken时会报如下错误:distutils.errors.DistutilsPlatformError: Microsoft Visual C++ 14.0 or greater is required. Get it with "Microsoft C++ Build Tools")。
解决方法:
(1) 本地执行pip debug --verbose查看当前平台支持的版本,然后在此链接中找到对应版本的whl文件并下载。
(2) 在whl文件同级目录执行pip install "whl全名带后缀",注意:不要修改原始whl文件的名称。
在MIGPT.py中填写小米账号、密码、API Key和音箱型号。
科学上网后,运行MIGPT.py文件即可。
- 运行过程中,可用“打开/关闭高级对话"控制是否打开ChatGPT。
- 当ChatGPT正在回答问题时,可用“闭嘴”或“停止”终止回答。
- 可随时提问新的问题打断ChatGPT的回答。
请联系QQ : 2312163474