Не вдаваясь в технические детали, под хаотической динамической системой понимается группа или полугруппа отображений $T^t$ компактного пространства $X$ в себя, траектории которых обнаруживают статистические закономерности. Примеры: биллиарды Синая, гладкие гиперболические отображения, (кусочно) растягивающие отображения, системы слабо взаимодействующих локальных хаотических отображений.
К настоящему времени известны два основных подхода к анализу подобных систем. Первым из них является, введенный Я.Г.Синаем и ставший уже классическим, метод сисмволической динамики. Метод состоит в построении так называемых марковских разбиений фазового пространства $X$ динамической системы и сопоставлении исходной системе оператора сдвига в пространстве последовательностей (топологической цепи маркова) над конечным или счетным алфавитом, буквы которого соответствуют элементам марковского разбиения. Эргодические (статистические) свойства топологических марковских цепей изучаются при помощи трансфер-операторов (названных по аналогии со статистической физикой), описывающих динамику мер под действием оператора сдвига в пространстве последовательностей. Пионерские результаты в этой области принадлежат Р.Боуэну. Этот метод применим для широкого класса систем, однако его недостатком является сложность построения марковских разбиений произвольно малого диаметра и то, что этод метод позволяет изучать поведение системы только на неустойчивом слоении.
Альтернативный операторный подход состоит по существу в том, что первый шаг -- переход к символической системе пропускается и с самого начала предлагается изучать спектральные свойства оператора Перрона-Фробениуса $P_T$ -- непрерывного аналога трансфер-оператора. Этот оператор описывает динамику плотностей мер под действием рассматриваемой (полу)группы $T^t$. В ряде случаев это позволяет существенно упростить анализ хаотической динамики и получить более точные результаты. Этот вопрос был достаточно глубоко исследован для случая растягивающих и кусочно растягивающих отображений. Основной технической проблемой при этом подходе является построение ``хороших'' функциональных банаховых пространств инвариантных относительно оператора $P_T$. Для (кусочно) растягивающих отображений можно использовать различные варианты пространств функций ограниченной вариации. Следует отметить также подход, использующий теорию пространств с конусом Биркгофа. Однако уже в простейших примерах гладких гиперболических отображений препятствием является наличие устойчивых инвариантных слоений. Дело в том, что присутствие устойчивых инвариантных слоений приводит к необходимости изучения действий оператора $P_T$ на обобщенных функциях. Недавно (в 1999 году) эта проблема была решена для случая 2-мерных гладких гиперболических систем.
К настоящему времени сделаны лишь первые шаги в этом направлении и было бы чрезвычайно интересно, с одной стороны, распространить полученные результаты на системы большей размерности, а, с другой стороны, применить этот подход и для других классов хаотических динамических систем. В частности, отметим гиперболические отображения с особенностями и анализ соответствующих динамических $\zeta$-функций, а также случайные динамические системы.
Близкой и также интересной задачей является исследование устойчивости спектральных свойств оператора Перрона-Фробениуса относительно малых случайных и детерминированных возмущений. Отметим, в связи с этим, обобщенную гипотезу Улама о конечномерных аппроксимациях этого оператора конечными марковскими цепями.
