Собственные частоты чего? Можно рассматривать телескоп (в данном случае - рефлектор) как оптический резонатор с разными зеркалами (одно плоское, второе - сферическое или параболическое). Теория оптических резонаторов сводится к следующим стадиям:
Пусть на резонатор вдоль его продольной оси падает плоская монохроматическая волна.
1) Записываются поля внутри резонатора (в области м-у зеркалами). Поля эти должны удовлетворять волновому уравнению. Тока надо разобраться с системой координат, в которой будешь записывать это самое уравнение.
2) Записываются граничные условия (типа поля не проникают за одно зеркало, а от второго отражаются со скачком фазы на pi/2 по-моему, поле спадает по экспоненте вдоль радиальной координате). С граничными условиями надо быть осторожнее. От их правильной записи зависит решение всей задачи. Тут нужно посоветоваться с руководителем.
3) Волновое уравнение решается методом разделения переменных относительно компонент полей (или векторов Герца взависимости от того, какое уравнение используешь в первом шаге). Эти самые компоненты подставляешь в граничные условия. Получается однородная система линейных уравнений относительно амплитудных коэффициентов компонент поля. Для того, чтобы эта система имела единственное решение, необходимо приравнять к нулю ее определитель. Приравняв его к нулю получишь трансцендентное характеристическое уравнеие относительно собственных волновых чисел, через которые можно определить собственные частоты. Решается оно также как и называется, тоесть через задницу. Я обычно решаю такие уранения на компе методом перебора с малым шагом. Медленно, но эффективно.
Вообще говоря, рассчет любого резонатора производится так. Резонаторы отличаются только граничными условиями. Так что сперва рекомендую посмотреть рассчет открытого резонатора с плоскими зеркалами. Там все просто. В таком изврященном резонаторе (со сферическим или параболическим зеркалом) надо будет записать (в этом - то и весь гемморой
) множитель, отвечающий за распределение фазы в полях после отражения от сферического зеркала.
Так что сперва иди на яндекс (извиняюсь за рекламу) и ищи "рассчет открытого резонатора". Там тебе куча научных статей выдадут - подберешь себе чего - нибудь.
Удачи