А что такое кодеки?
самый простой ответ на твой вопрос - напиши свой кодер декодер.
при открытии файла он передается одному или перебираются декодеры, которые распаковывают файл и передают плееру поток дальше после обработки (или без нее) поток передается на устройство воспроизведения. В файле можно только заголовочную часть испортить (зашифровать) и кодеки начнут ругаться
Если практически - то тебе надо вклиниться до декодера и передавать ему правильный поток.