Tecnología y Ecosistema

Motor de voz IA

Basado en la investigación interna de NEU NLP Lab, re-arquitectó la tubería ASR de la cascada tradicional AM + LM + Decoder en un modelo neuronal de extremo a extremo (E2E). Utilizando el modelado híbrido Conformer + CTC / Attention, combinado con la cuantificación INT8 / INT4, la poda, la destilación del conocimiento, la re-parametrización estructural y la fusión del operador, el motor logra ASR en tiempo real solo con CPU, sin necesidad de GPU. El modelado de lenguaje ligero con compresión de contexto adaptativa reduce la computación LM en más de un 70%, mientras que la precisión del reconocimiento mejora en un 10 - 20% sobre los enfoques tradicionales.

• ▸Modelo E2E: Conformer + híbrido CTC / Attention, eliminando la acumulación de errores de modelado acústico / lenguaje
• ▸Cuantificación y poda de INT8 / INT4: parámetros drásticamente reducidos para la inferencia CPU en tiempo real
• ▸Destilación del conocimiento y re-parametrización estructural: modelo compacto con alta generalización
• ▸Optimización de fusión de operadores y caché: mejora de la eficiencia de la matriz CPU
• ▸LM ligero: compresión de contexto adaptativa interna LM +, reducción del 70% del cálculo
• ▸Entrenamiento mejorado por contexto y autoatención restringida: alta precisión en condiciones de bajos recursos