什麼是Whisper AI
Whisper 是由 OpenAI 開發的人工智能模型,用於自動語音識別(ASR)。於2022年9月發布,Whisper 在從網絡收集的68萬小時的多語言和多任務監督數據上進行了訓練。它可以轉錄多種語言的語音,將語音翻譯成英語,並識別正在說的語言。OpenAI 已將模型和推理代碼開源,以促進語音處理應用的進一步研究和開發。
Whisper AI 如何運作?
Whisper 採用簡單的端到端方法,實現為編碼器-解碼器 Transformer 架構。輸入音頻被分割成30秒的片段,並轉換為對數梅爾頻譜圖。這通過編碼器傳遞,而解碼器預測相應的文本標題。該模型通過插入特殊令牌來處理多個任務,這些令牌指示它進行語言識別、添加時間戳、轉錄語音或翻譯成英語。Whisper 在大型多樣化數據集上的訓練使其相比在較小、更特定數據集上訓練的模型更能適應口音、背景噪音和專業術語的變化。
Whisper AI 的優點
Whisper 為語音識別任務提供了幾個關鍵優勢。其強健性使其能夠處理各種帶有不同口音、背景噪音和專業術語的音頻輸入。該模型的多語言能力使其能夠在不需要單獨模型的情況下轉錄和翻譯多種語言的語音。作為一個開源項目,開發人員可以將 Whisper 作為基礎進行構建,並創建更專業或更強大的模型。此外,Whisper 在多樣化數據集上的強大零樣本性能使其適用於許多應用,而無需微調。
查看更多