@cypher2020 Wie schnell das ist hängt sehr von deiner Hardware ab. Ich hab das ganze als VM unter Proxmox auf einem Mini-PC am laufen - also sehr viel beefier als nen Raspi - und die Antwortzeiten sind ohne LLM schon im Bereich von mehreren Sekunden gewesen. Mit lokalem LLM wäre es dann komplett unbenutzbar geworden.

Wenn dein HomeAssistant auf einer sehr viel kräftigeren Hardware sitzt, könntest du es versuchen. Cloud wird aber quasi immer signifikant schneller sein, sofern du da jetzt nicht nen alten Gaming-PC hinstellst, und dann ist die Stromrechnung zu hoch, schätze ich 😅.

Du kannst das ganze auch ohne Assist-Hardware testen, indem du einfach den Kram einmal einrichtest und dann die voice commands über die App oder den Browser absetzt. Die Performance mit Voice PE wird genau so sein wie auf diese Art, der macht nur die wake word detection lokal und nutzt für den Rest die gleichen Pipelines.