Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

[ISSUE] 关于开启--compile之后,webui输出窗口乱码以及api后台卡主 #110

Closed
6 tasks done
kedgelee opened this issue Jul 22, 2024 · 1 comment
Closed
6 tasks done
Labels
bug Something isn't working

Comments

@kedgelee
Copy link

确认清单

  • 我已经阅读过 README.md 和 dependencies.md 文件
  • 我已经确认之前没有 issue 或 discussion 涉及此 BUG
  • 我已经确认问题发生在最新代码或稳定版本中
  • 我已经确认问题与 API 无关
  • 我已经确认问题与 WebUI 无关
  • 我已经确认问题与 Finetune 无关

你的issues

你好!我在最新代码中只要webui.py添加--compile启动之后执行推理会出现乱码并卡死,且无任何报错。
version: v0.7.0-50-gd57c97d | branch: main | python: 3.10.14 | torch: 2.3.1 | ffmpeg: 4.3
image

以及launch.py添加--compile启动之后,调用v1/xtts_v2/tts_stream或v1/tts接口开启流式选项都会在完成第一次推理之后服务端就会卡主无法继续执行推理,后台无任何报错。
我是执行的python脚本来测试接口的,在终端会一直显示脚本正在执行的状态,无法通过ctrl+c中断,我试了/docs的文档页面只能中断api服务。
image

我再次使用两周前自己保存的仓库代码(具体版本看不到了)启动webui.py --compile后执行推理会出现同样乱码卡死的情况,但是启动launch.py --compile测试接口并不会出现卡死,可以持续调用接口。

@zhzLuke96 zhzLuke96 added the bug Something isn't working label Jul 22, 2024
@zhzLuke96
Copy link
Member

zhzLuke96 commented Jul 22, 2024

主要是 gradio track 导致的,所以如果你需要使用 webui 同时开启 --compile 的话,那么需要使用下面两个参数保证不影响编译过程(任意一个)

  • --off_tqdm: 彻底关闭所有 tqdm 进度条
  • --off_track_tqdm: 关闭 webui 中对于 tqdm 进度条的追踪,关闭之后不会实时同步状态到webui,但是可以在terminal里看

推荐用 --off_track_tqdm

added e57b37c

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
bug Something isn't working
Projects
None yet
Development

No branches or pull requests

2 participants