>> Не совсем правдо очевидно, как при этом не потерять порядок -- понятно, что индексами можно, но как бы так чтоб без переиндексации половины сэмплов в файле обходиться?
> По принципу LinkedList, иметь поле NextId и обновлять это поле у предыдущего
> чанка.

Там разные способы могут быть. Можно и дерево организовать. Что лучше зависит от паттернов использования.

> Но сама идея хранить каждый сэмпл отдельной строкой таблички IMHO безумно неэффективна.

Не знаю, я не пробовал. Можно не отдельные сэмплы, а блобами по нескольку сотен/тысяч сэмплов. Но сложнее будет выискивать сэмпл по заданному смещению в миллисекундах. Сложно судить, не имея опыта возни со схожей задачей.