使用socks或http代理来访问openai的模型断点,生成代理url兼容openai框架
|
|
пре 4 месеци | |
|---|---|---|
| .idea | пре 4 месеци | |
| .gitignore | пре 4 месеци | |
| Dockerfile | пре 4 месеци | |
| README.md | пре 4 месеци | |
| proxy.py | пре 4 месеци | |
| requirements.txt | пре 4 месеци |
1.修改源代码中你想代理的端点和代理配置:
SOCKS_PROXY = 'socks5h://host.docker.internal:20170'
proxies = {
'http': SOCKS_PROXY,
'https': SOCKS_PROXY
}
API_BASE = "https://api.groq.com/openai"
使用方法:
pip install requirements.txt
python proxy.py
将日志中输出的url作为openai端点配置使用即可!