Леонид, не обижайтесь, но вам действительно говорят правильно - система достаточно сложная, чтобы дать вам совет в двух словах и ссылках на книги. Ваш вопрос звучит примерно так: -"Посоветуйте мне ссылку на книгу, где рассказано о том как сделать ракету, чтобы я в ближайшее время смог слетать в гости на МКС"

Вы лучше расскажите поподробнее, что у вас за проект, какова цель, кто заказчик, каков бюджет (если знаете). Тогда будет легче сориентироваться куда вас посылать (в смысле какую ссылку давать

).
Исходя из тех скудных данных, что вы привели, скажу следующее:
Не смотря на то, что частота приема у вас по сегодняшним меркам "детская", приемный тракт будет не простой, т.к. полоса у вас всего 10 кГц (всего 0,0006% от частоты приема - это к вопросу о стабильности частоты) и модумяция - DPSK-4. Плюс система слежения, которая тоже накладывает определённые требования к приемному тракту.
Теперь по порядку.
1. Антенна. Вы сказали, что это будет тарелка 2,5 - 3 метра. Такая "дура" весит более 100 кг не считая поворотного устройства. Её применение оправдано лишь использованием в жестких условиях без длительного обслуживания (или совсем без обслуживания), потому что на частоте 1,7 ГГц её усиление не превысит 30 дБ (теоретическое значение). При этом она "всечастотная", т.е. все сигналы в поле её "зрения" будут ваши

и будут перегружать МШУ и остальные каскады. Именно поэтому вам нужно ставить на вход МШУ полосовой фильтр (причем учитывая вашу частоту, которая буквально "втиснута" между другими "мощными" соседними частотами, фильтр должен быть очень качественный, скорее всего на ПАВ), который "сожрет" у вас драгоценные 3-5 дБ уровня сигнала.
Я считаю, что в вашем случае антенна должна представлять собой фазированную решетку. Этим вы убъете двух зайцев - коэффициент усиления такой антенны будет приближаться к 35 дБ (при размерах сопоставимых с тарелкой 2,5 - 3 метра), при этом вес её будет раз в пять меньше, а про парусность я вообще молчу. Следовательно, поворотное устройство будет на порядок проще. А во вторых, такая антенна сама по себе будет являться эффективным полосовым фильтром без потерь сигнала. Отрицательная сторона - сложность изготовления, но тут есть варианты, а главное, всё зависит от поставленной задачи и в общем случае выбор антенны сильно зависит от мощности сигнала со спутника и условий приема.
2. МШУ. По сути, он нужен только для компенсации потерь сигнала в кабеле, т.к. в вашем случае установка конвертера на антенне не имеет смысла. При этом, затухание в кабеле на 1,7 ГГц не очень большое, так что усилитель будет не очень "мощный".
3. Конвертер. Как я написал выше, конвертер нужно размещать вне антенны и в нормальных (комнатных) условиях. В первую очередь это связано с необходимостью поддержания точной частоты гетеродина. В вашем случае не хуже 0,1 ppm, то есть это однозначно синтезатор частоты с термостатированным опорным генератором.
4. Демодулятор. Самый лучший вариант - микроконтроллер. Я так понял, что скорость потока 2400 бод? В принципе, DPSK не сложный алгоритм, справится любой контроллер. Применение контроллера совместно с качественным синтезатором частоты позволит реализовать автоматическую компенсацию доплера, а так же другие плюшки (сканирование, автослежение за спутником и т.д., а главное - любые изменения алгоритма декодирования осуществляются простой перепрошивкой!
А вообще, этот геморой оправдан только при серийном производстве. В случае единичных экземпляров - лучше, проще и дешвле воспользоваться готовым решением, коих не мало.