Ronaldo

С полным кодовым контролем, есть LLamaSharp - пример
С аудио не пробовал, но локально работает отлично (win11), с бекендом на процессоре (+avx) или GPU. Кушает кучу моделей в том числе на 32B параметров.

С частичным контролем можно использовать какой ни будь LLM "движок", например Jan, и прокидывать in/out сообщения через API Cortex.

В Unity сейчас активно развивается фреймворк Sentis, вот примеры с моделями.
Для LLM моделей например есть LLamaSharp.
Если вам нужны собственные решения с обучением, то у Майкрософт есть статья по созданию модели классификатора изображений.