5 天前

Granary:25种欧洲语言的语音识别与翻译数据集

Nithin Rao Koluguri, Monica Sekoyan, George Zelenfroynd, Sasha Meister, Shuoyang Ding, et al
Granary:25种欧洲语言的语音识别与翻译数据集
摘要

多任务与多语言方法有助于提升大型模型的性能,然而由于数据稀缺,低资源语言的语音处理仍鲜有研究。为解决这一问题,我们提出Granary——一个大规模语音数据集集合,涵盖25种欧洲语言的语音识别与翻译任务。这是首个在该规模上同时支持语音转录与翻译的开源项目。我们通过一种伪标签生成流程,结合语音分割、两阶段推理、幻觉过滤以及标点恢复等技术,显著提升了数据质量。随后,利用EuroLLM从伪标签转录文本中生成翻译语对,并进一步通过数据过滤流程进行优化。该流程设计高效,可在数小时内处理海量数据。我们通过在已有的高资源与低资源语言数据集上对比模型性能,评估了基于处理后数据训练的模型表现。结果表明,这些模型在仅使用约50%数据的情况下,即可达到相近的性能水平。相关数据集将通过以下链接公开发布:https://url.com