TeleAI 星辰語(yǔ)音大模型升級(jí),支持中英雙語(yǔ)及 40 種方言任意混說(shuō)
IT之家 11 月 3 日消息,中國(guó)電信人工智能研究院(TeleAI)在今年 5 月發(fā)布業(yè)內(nèi)首個(gè)支持 30 種方言自由混說(shuō)的語(yǔ)音識(shí)別大模型 —— 星辰超多方言語(yǔ)音識(shí)別大模型。
時(shí)隔不到半年,TeleAI 星辰語(yǔ)音大模型的多方言能力再次升級(jí),攻克了湛江話、宜賓話、洛陽(yáng)話、煙臺(tái)話等方言,將方言種類從 30 種提升至 40 種,并引入對(duì)英文的識(shí)別。
與傳統(tǒng)的有標(biāo)注訓(xùn)練方法相比,TeleAI 通過(guò)預(yù)訓(xùn)練語(yǔ)音識(shí)別模型,利用海量無(wú)標(biāo)注數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練,再通過(guò)少量有標(biāo)注數(shù)據(jù)進(jìn)行微調(diào)。
由于方言語(yǔ)音數(shù)據(jù)普遍存在無(wú)標(biāo)注數(shù)據(jù)多而有標(biāo)注數(shù)據(jù)少的特點(diǎn),這種“預(yù)訓(xùn)練 + 微調(diào)”的模型方案與方言場(chǎng)景的需求能夠高度契合。
TeleAI 還在模型結(jié)構(gòu)和成本優(yōu)化吉印通行了創(chuàng)新,實(shí)現(xiàn)對(duì)人工標(biāo)注數(shù)據(jù)的需求量大幅降低約 50 倍,且保障模型效果與有監(jiān)督訓(xùn)練的方言模型水平相當(dāng)。
021yin.com/Tele-AI/TeleSpeech-ASR