cosyvoice.cpp

概要

CosyVoice.cppは、CosyVoice3のPython推論パイプラインをC/C++およびGGMLに非公式に移植したプロジェクトです。

これにより、オリジナルプロジェクトとは独立して、高速かつ効率的な音声合成推論をC/C++環境で実現します。

本プロジェクトは、コマンドラインインターフェース（CLI）での利用、OpenAI Speech API互換のサーバー機能、およびGGUFモデルの量子化ツールを提供します。

Windows、Linux、macOSのクロスプラットフォームに対応し、CPUだけでなくCUDA、Metal、SYCLといった多様なバックエンドでの動作をサポートしています。

想定ユーザーは、CosyVoiceモデルを用いた高速な音声合成をC/C++アプリケーションに組み込みたい開発者や、OpenAI Speech API互換の音声合成サービスを構築したい方々です。

メモリ使用量の削減や並列リクエスト処理などの機能も備えています。