เทค & ระบบนิเวศ

เอ็นจินเสียง AI

สร้างขึ้นจากการวิจัยภายในของ NEU NLP Lab เราสร้างสถาปัตยกรรมท่อ ASR จากน้ําตก AM + LM + Decoder แบบดั้งเดิมเป็นแบบจําลองประสาทแบบ end-to-end (E2E)การใช้การสร้างแบบจําลองแบบไฮบริด Conformer + CTC / Attention รวมกับการกําหนดปริมาณ INT8 / INT4 การตัดแต่งกิ่งการกลั่นความรู้การปรับพารามิเตอร์โครงสร้างใหม่และฟิวชั่นผู้ประกอบการเครื่องยนต์จะประสบความสําเร็จใน ASR แบบเรียลไทม์บน CPU เพียงอย่างเดียว - ไม่จําเป็นต้องใช้ GPUการสร้างแบบจําลองภาษาที่มีน้ําหนักเบาพร้อมการบีบอัดบริบทแบบปรับตัวช่วยลดการคํานวณ LM มากกว่า 70% ในขณะที่ความแม่นยําในการจดจําเพิ่มขึ้น 10-20% เมื่อเทียบกับวิธีการแบบดั้งเดิม

• ▸รุ่น E2E: Conformer + CTC / Attention ไฮบริดขจัดการสะสมข้อผิดพลาดการสร้างแบบจําลองอะคูสติก / ภาษา
• ▸การกําหนดปริมาณและการตัดแต่งกิ่ง INT8 / INT4: ลดพารามิเตอร์อย่างมากสําหรับการอนุมาน CPU แบบเรียลไทม์
• ▸การกลั่นความรู้และการพารามิเตอร์โครงสร้างใหม่: แบบจําลองขนาดกะทัดรัดที่มีการทั่วไปสูง
• ▸การเพิ่มประสิทธิภาพการรวมตัวประกอบการและแคช: ปรับปรุงประสิทธิภาพเมทริกซ์ CPU
• ▸LM น้ําหนักเบา: ภายใน LM + การบีบอัดบริบทแบบปรับตัว, ลดการคํานวณ 70%
• ▸การฝึกอบรมที่เพิ่มขึ้นในบริบทและความสนใจในตนเองที่จํากัด: ความแม่นยําสูงในสภาวะที่มีทรัพยากรต่ํา