Мне как-то крепко понравилась комбинация из трех пассивных фильтров: RC, LC, RC. С тех пор их и леплю. В идеале - что бы получить максимальную амплитуду, их надо просчитывать на согласованность импедансов. Если потери не принципиальны, можно забить. Все три на одну частоту.
Какой должна быть частота? Ну, давайте сообразим.
Основной шум у вас должен быть с частотой выборки ЦАП или выше. Поэтому фильтр надо рассчитывать на частоту, много ниже частоты выборок ЦАП. Чем меньше частота фильтра, тем лучше.
Но! Вам надо, что бы во всем рабочем диапазоне фильтр практически не влиял на полезный сигнал. Поэтому его частота должна быть ну раза в 2 выше самой высокочастотной составляющей полезного сигнала. Что скорее всего не проблема: у вас ведь на один выходной период наверняка приходится не 2, а сильно больше шагов ЦАП? Ну, на этом наверное можно и остановиться: берите частоту в 2 раза большую выходного сигнала.
Рассчитывать фильтры очень легко, в сети много разных калькуляторов. Мне этот нравится, да простится мне невольная реклама:
http://www.radioamcalc.narod.ru/