Сначала установим необходимые пакеты:
$ sudo apt-get install ffmpeg libavcodec-unstripped-52
И произведем, собственно, конвертацию:
$ ffmpeg -i видеофайл.mp4 -f mp3 -ab 192000 -vn звуковаядорожка.mp3
Если нет необходимого кодека, его можно поискать командой:
$ aptitude search имя_кодека