Nhận dạng giọng nói trên máy và trên cloud khác gì?

• Âm thanh micro
• Nhận dạng trên thiết bị
• Nhận dạng trên đám mây

So sánh cùng một bản ghi

Whisper là ví dụ về mô hình nhận dạng giọng nói có thể chạy bằng mã nguồn và mô hình tải về; tài liệu Whisper nói các kích thước mô hình có đánh đổi tốc độ và độ chính xác, còn tốc độ thay đổi theo phần cứng, ngôn ngữ và tốc độ nói. Google Cloud Speech-to-Text mô tả streaming hai chiều cho âm thanh trực tiếp và có thể phát kết quả tạm thời khi người dùng đang nói. Đây là hai cách triển khai cùng loại tác vụ, không phải phép thử cho biết bên nào luôn tốt hơn.

Đi theo một câu lệnh

Giả sử người dùng nói một câu ngắn trong phòng có tiếng quạt. Với thiết kế tại thiết bị, luồng âm thanh đi từ micro vào mô hình cục bộ rồi trả văn bản; nếu mạng rớt thì bước nhận dạng vẫn có thể tiếp tục khi mô hình đã được cài và máy đủ khả năng. Với thiết kế cloud, ứng dụng gửi khung âm thanh qua mạng tới dịch vụ streaming; nó có thể nhận văn bản từng phần, nhưng kết nối yếu có thể làm kết quả đến muộn hoặc gián đoạn. Trong cả hai trường hợp, văn bản sai vẫn cần được kiểm tra trước khi biến thành hành động.

Cách chọn bằng phép đo của bạn

Dùng cùng các câu đã ghi âm, cùng tiếng ồn và ngôn ngữ. Đo từ lúc khung âm thanh rời bộ thu đến khi văn bản cuối cùng sẵn sàng, đồng thời ghi tỷ lệ câu đúng, lỗi nội dung, thời gian chờ, mức sử dụng bộ nhớ/điện và dữ liệu đã gửi đi. Tách kết quả khi có và không có mạng. Chi phí cloud cần tính theo lượng âm thanh và chính sách giá hiện hành; chi phí tại thiết bị cần tính cả phần cứng và năng lượng. Không lấy độ trễ của riêng mô hình làm tổng độ trễ đầu-cuối.

Nếu dữ liệu nhạy cảm hoặc mất mạng là điều kiện vận hành, xử lý cục bộ có thể phù hợp hơn nếu thiết bị đạt chất lượng yêu cầu. Nếu phần cứng hạn chế và có mạng ổn định, cloud có thể giảm gánh nặng tính toán tại chỗ. Một ứng dụng cũng có thể kết hợp hai hướng, nhưng phải xác định rõ khi chuyển hướng dữ liệu và thông báo điều đó cho người dùng.

Tóm tắt

• Cả hai phương án đều biến âm thanh thành văn bản; khác nhau ở nơi tính toán và đường dữ liệu.
• Tại thiết bị giảm phụ thuộc mạng nhưng tiêu tốn tài nguyên máy; cloud giảm tải cục bộ nhưng cần mạng và gửi âm thanh ra ngoài.
• So sánh bằng cùng tập âm thanh, cùng ranh giới đo và cả chất lượng, độ trễ, chi phí, quyền riêng tư.