python - 如何使用 librosa 将 .ogg opus 解码为 int16 NumPy 数组？

Question

我正在尝试做的事情

我正在尝试使用 Mozilla 的语音到文本引擎deepspeech转录 Telegram 音频消息。

*.wav在 16 位 16khz 中使用完美无瑕。

我想添加*.oggopus 支持，因为 Telegram 使用这种格式作为它的音频消息。

到目前为止我尝试过的

到目前为止，我已经尝试过pyogg和soundfile ，但没有成功。

Soundfile 可能完全无法读取 opus 格式，并且 pyogg 在没有 conda 的情况下安装起来很痛苦。我有非常奇怪的时刻，它真的让 python 崩溃了。

现在，我正在尝试 librosa，结果喜忧参半。

data, sample_rate = librosa.load(path)

tmp = np.array(data, np.float16)

tmp.dtype = np.int16

int16 = np.array(tmp, dtype=np.int16)

metadata = model.sttWithMetadata(int16)

Deepspeech 真的很喜欢np.int16。model.sttWithMetadata本质上是对转录员的呼吁。

现在，它确实转录了一些东西，但与我在音频信息中所说的内容相去甚远。

标签： pythonpython-telegram-botogglibrosamozilla-deepspeech

Answer 1

librosa 返回一个浮点数，范围-1.0为1.0. 在int16中，最大值为32767. 所以你必须乘以缩放信号，然后转换为int16。

data, sample_rate = librosa.load(path)

int16 = (data * 32767).astype(np.int16)

metadata = model.sttWithMetadata(int16)

快速解释为什么 32767：

在16 位计算中，一个整数可以存储 216 个不同的值。

这意味着，无符号整数的范围可以从 0 到 65,535，而两个补码表示可以从 -32,768 到 32,767。这意味着，具有 16 个机器人内存地址的处理器一次可以访问 64KB（或 64 * 1024 = 65,436 个唯一地址）的内存。

如果我们的浮点数组具有从 -1.0 到 1.0 的值，我们将信号缩放 32,767 倍，以使其与您的 deepspeech 模型期望找到的 16 位地址兼容。