Под руководством проф. А.С.Мищенко на механико-математическом факультете МГУ начиная с 60-х годов регулярно проводятся научные семинары по геометрии и топологии и их приложениям. В действительности, свои первые научные семинары А.С.Мищенко начал проводить для своих однокурсников и даже старших коллег еще будучи студентом 4-го курса. Более интенсивно семинары стали работать во время обучения в аспирантуре. С 1968 года научные семинары стали проходить на регулярной основе.

На этих семинарах происходит координация научных исследований по геометрии и топологии и их приложениям, которые осуществляются его учениками и коллегами. Хотя формально тематика семинаров концентрируется вокруг геометрии и топологии, по существу интересы математической школы А.С.Мищенко выходят далеко за рамки геометрии и топологии и включают в себя самые разнообразные математические проблемы от классических областей, таких как алгебра, анализ и теория дифференциальных уравнений, до современных направлений в механике, математической и теоретической физике, прикладной математике, экологии, молекулярной биологии и биоинформатике.

Последние 10-12 лет работа научного коллектива под руководством А.С.Мищенко была поддержана рядом грантов из нескольких фондов: Международный научный фонд (фонд Сороса), Российский фонд фундаментальных исследований, Международный фонд INTAS. В 1996 году А.С.Мищенко была присуждена Государственная премия Российской федерации в области науки и техники за цикл работ "Исследование инвариантов гладких многообразий и динамических систем" (совместно с А.Т.Фоменко). По результатам исследованием А.С.Мищенко и его учениками было опубликовано несколько монографий (см. список литературы). Ряд научных результатов научного коллектива был подытожен в цикле статей, опубликованных в специально отведенном для этого томе журнала Acta Applicandae Mathematicae в 2001 году. В 2001 году в связи с 60-летием со дня рождения А.С.Мищенко была проведена международная конференция, в которой приняло участие около 60 российских и иностранных ученых.

Исторически тематика научных исследований под руководством А.С.Мищенко может быть разделена на несколько основных научных направлений:

• Теория обобщенных теорий гомологий: бордизмы и K-теория.
• Гомотопические инварианты неодносвязных многообразий.
• Алгебраические комплексы Пуанкаре.
• Функциональные методы в дифференциальной топологии -- некоммутативная геометрия:
  • новые классы представлений групп: фредгольмовы представления, представления в коммутативные и некоммутативные алгебры, асимптотические представления;
  • двойственность Пуанкаре и формула Хирцебруха;
  • теория индекса эллиптических операторов над C*-алгебрами;
  • теория гильбертовых C*-модулей.
• Интегрирование гамильтоновых систем.
• Прикладные направления геометрии и топологии:
  • асимптотические методы, метод канонического оператора Маслова;
  • стохастические уравнения в экологии;
  • дифференциальные игры преследования убегающего объекта;
  • двумерная модель Изинга в статистической физике.

Эта группа вопросов посвящена нахождению по возможности наиболее полной системы инвариантов гладких многообразий без учета каких либо дополнительных структур, оснащающих многообразие.

Гладкая структура на многообразии естественным образом порождает на нем систему так называемых характеристических классов, принимающих значения в группах когомологий многообразия с различными системами коэффициентов и определеяемых исключительно в терминах гладкой структуры. Теория характеристических классов гладких многообразий бесспорно является наиболее существенным методом изучения различных геометрических и топологических свойств гладких многообразий, в силу естественности их описания и представления в дифференциально-геометрических терминах, а также потому, что поведение характеристических классов позволяет описывать и классифицировать строение гладких многообразий практически исчерпывающим образом по модулю конечного числа возможностей. Однако, система характеристических классов является, в некотором смысле, переопределенной системой данных. Более строго, это означает, что для некоторых характеристических классов их зависимость от выбора гладкой структуры на многообразии несущественна. Поэтому, одна из классических проблем в дифференциальной топологии заключалась в том, чтобы выяснить степень инвариантности того или иного характеристического класса, т.е. зависимость характеристических классов от выбора гладкой структуры в том или ином типе отношения эквивалентности многообразии.

Наиболее часто встречающимися в топологии отношениями эквивалентности между многообразиями являются кусочно-линейные гомеоморфизмы, непрерывные гомеоморфизмы, гомотопические эквивалентности. Для этих отношений эквивалентностей проблема формулируется следующим образом: какие характеристические классы являются: а) комбинаторно инвариантными, б) топологически инвариантными, в) гомотопически инвариантными?

Ограничиваясь характеристическими рациональными классами Понтрягина, отметим, что в 1965 г. С.П.Новиков доказал, что все рациональные классы Понтрягина являются топологическим инвариантами.

В случае же гомотопической инвариантности характеристических классов Понтрягина эта проблема далека от разрешения даже в настоящее время. С другой стороны, проблема гомотопической инвариантности характеристических классов представляется достаточно важной проблемой в силу того, что гомотопический тип многообразия представляется более доступным для классификации, по сравнению с его топологическим типом. Более того, существующие методы классификации гладких структур на многообразии сводят эту проблему к описанию гомотопического типа многообразия и к его гомологическим инвариантам. Таким образом, проблема гомотопической инвариантности характеристических классов в различных математических школах представлялась как одна из существенных проблем в дифференциальной топологии.

Проблема гомотопической инвариантности рациональных классов Понтрягина оказалась наиболее интересной (и, возможно, наиболее трудной) с точки зрения взаимосвязей. Важность этой проблемы вытекает, в частности, из того, что в задаче классификации гладких структур на многообразии с помощью метода перестроек Морса необходимо иметь описание всех гомотопически инвариантных классов Понтрягина.

В случае односвязных многообразий еще Новиковым и Браудером на основании формулы Хирцебруха было доказано, что классическая сигнатура многообразия является гомотопическим инвариантом, что является следствием гомотопической инвариантности групп гомологий вместе с операциями пересечения. Более того, в односвязном случае на основании классификационных теорем, доказанных Новиковым и Браудером методом перестроек Морса, устанавливается, что гомотопически инвариантным рациональным характеристическим классом является только классическая сигнатура многообразия.

Таким образом, в случае рациональных характеристических классов для односвязных многообразий задача о нахождении всех гомотопически инвариантных характеристических классах была полностью решена в классических работах 60-х годов.

Для неодносвязных многообразий задача об описании гомотопически инвариантных рациональных классов Понтрягина, отвечающих за препятствия к перестройке нормальных отображений до гомотопической эквивалентности, оказаль намного труднее, поскольку существенную роль здесь играет структура фундаментальной группы многообразия. Это обстоятельство наряду с тем, что описание и распознавание фундаментальной группы в конечных терминах, как известно, невозможо (в отличие от других топологических проблем), вызывает дополнительный интерес к этой проблеме.

Для некоторых простых случаев, когда фундаментальная группа является свободной абелевой, задачу можно было решить чисто дифференциально-геометрическими методами, используя технику так называемых внутренних перестроек. Такое решение тоже было представлено в Московской топологической школе Г.Г.Каспаровым. В общем же случае оказалось, что задача описания гомотопически инвариантных рациональных классов Понтрягина может быть сведена к проверке того, что так называемые высшие сигнатуры являются гомотопически инвариантными.

Точная формулировка этой проблемы известна под названием гипотезы Новикова. Положительное ее решение позволило бы хотя бы частично обойти алгоритмические трудности описания и распознавания фундаментальных групп в задаче классификации гладких структур на многообразии.

Гипотеза Новикова заключается в том, что всякое характеристическое число вида sign_x(M)={L(M)f^*(x),[M]} , где L(M) обозначает полный класс Хирцебруха, x -- произвольный класс рациональных когомологий H^*(Bп;Q) классифицирующего пространства фундаментальной группы п=п₁(M) многообразия M, а f -- отображение из M в Bп, индуцирующее изоморфизм фундаментальных групп, является гомотопическим инвариантом неодносвязного многообразия M. Числа sign_x(M) называются высшими сигнатурами многообразия M в знак того, что при x=1 число sign₁(M) совпадает с классической сигнатурой многообразия M.

Ситуация с неодносвязыми многообразиями оказывается соврешенно отличной от случая односвязных многообразий, несмотря на то, что Уолл построил неодносвзный аналог теории перестроек Морса. Однако препятствия к таким перстройкам не имеют достаточно эффективного описания. Один из способов обойти эту трудность заключается в том, чтобы выяснить, какие из рациональных характристических классов неодносвязных многообразий являются гомотопическими инвариантами.

В 1970 А.С.Мищенко установил, что единственными кандидатами на гомотопически инвариантные характеристические классы являются только высшие сигнатуры. Более того, им был найден универсальный гомотопический инвариант со значениями в группе Уолла фундаментальной группы с рациональными коэффициентами, так называемая симметрическая сигнатура s(M)многообразия M со значениями в L_*(Qп), которая является неодносвязным аналогом классической сигнатуры.

Симметрическая сигнатура вычисляется вполне алгоритмическим способом по коэффициентам инцидентности произвольного симплициального разбиения неодносвязного многообразия и обладает всеми существенными свойствами, присущими классической сигнатуре. В частности, показано, что рациональное препятствие к перестройке нормального отображения до (простой) гомотопической эквивалентности описывается в виде разности симметрических сигнатур пары многообразий. Это значит, что рациональное препятствие может быть описано исключительно в терминах характеристических классов одного многообразия и соответствующего нормальному отображению норамальному векторному расслоению в когомологиях многообразия с локальной системой коэффициентов, порожденной регулярным представлением фундаментальной группы п в групповом кольце Qп .

Проблема описания гомотопически инвариантных характеристических классов является одой из наиболее интересных проблем в дифференциальой топологии на протяжении последних 25 лет. Попытки решения этой проблемы породили многочисленные исследования, приведшие к открытию глубоких результатов как в самой топологии, так и в смежных математических дисциплинах, таких как теория представлений, K-теория, банаховы алгебры и модули, теория эллиптических операторов, и к созданию самостоятельного направления под названием некоммутативная геометрия.

Первая трудность, которую необходимо было преодолеть при изучении неодносвязных перестроек многообразий, заключалась в том, что когомологии неодносвязных многообразий с универсальной локальной системой коэффициентов не обладают двойственностью Пуанкаре, точнее двойствен\-ность Пуанкаре не имеет вида невырожденной квадратичноой формы. Причина этого заключается в том, что модули гомологий неодносвязного многообразия не являются вообще говоря проективными. В 1970 году в работах [6], [7] А.С.Мищенко преодолел эту алгебраическую трудность и нашел универсальный гомотопический инвариант со значениями в группе Уолла фундаментальной группы с рациональными коэффициентами, так называемую симметрическую сигнатуру s(M) многообразия M, которая является неодносвязным аналогом классической сигнатуры.

Симметрическая сигнатура вычисляется вполне алгоритмическим способом по коэффициентам инцидентности произвольного симплициального разбиения неодносвязного многообразия и обладает всеми существенными свойствами, присущими классической сигнатуре. В частности, показано, что симметрическая сигнатура является гомотопическим инвариантом и инвариантом бордизмов многообразий, сохраняющих фундаментальную группу. Там же было показано, что рациональное препятствие к перестройке нормального отображения до (простой) гомотопической эквивалентности описывается в виде разности симметрических сигнатур пары многообразий. В частности это означает, что рациональное препятствие может быть описано исключительно в терминах характеристических классов одного многообразия и соответствующего нормальному отображению нормальному векторному расслоению в когомологиях многообразия с локальной системой коэффициентов, порожденной регулярным представлением фундаментальной группы п в групповом кольце Qп.

На основании развитой им алгебраической техники так называемыых алгебраических комплексов Пуанкаре в 1971 году А.С.Мищенко показал [8], что теория перестроек гладких многообразий по существу зависит не столько от гладкости многообразия, сколько от гомотопической структуры пространства. Он доказал, что препятствие к перестройке нормального отображения до гомотопической эквивалентности гладких многообразий обобщаются до категории геометрических комплексов Пуанкаре. Таким образом А.С.Мищенко были найдены формулы для описания препятствия к перестройке в виде некоторого характеристического числа со значением в когомологиях многообразия с универсальной локальной системой коэффициентов, порожденной естественным вложением фундаментальной группы в ее групповое кольцо. Однако полученные формулы были еще далеки от эффективности, поскольку кольцо коэффициентов могло быть выражено лишь в терминах эрмитовой K-теории.

За последние 2-3 декады прошлого столетия в топологии усиленно развивались направления, которые сейчас принято называть "некоммутативной геометрией". По сути дела, это название группирует круг задач и методов их решения, которые изначально базировались на довольно простой идее переформулировании топологических свойств пространств и отображений в терминах соответствующих алгебр непрерывных функций. Хотя эта идея очень старая и восходит к ключевой теореме Гельфанда-Наймарка о взаимно однозначном соответствиии между категорией компактных топологических пространств и категорией коммутативных C*-алгебр, и разрабатывалась различными авторами как в коммутативном (например, в Московской топологической школе А.М.Виноградовым и его учениками) так и в некоммутативном случае, в более или менее явном виде эта идея была провозглашена в виде программы действия А.Коном в его книге "Некоммутативная геометрия" [30].

Несмотря на ее самоочевидность, идея рассматривать, наряду с коммутативными C*-алгебрами (которые можно интерпретировать как алгебры функций на топологических пространствах ее максимальных идеалов), также и некоммутативные алгебры как функции на несуществующем "некоммутативном" пространстве оказалась настолько плодотворной, что позволила соединить воедино многообразие разноообразных представлений и методов из таких разделов, как топология, дифференциальная геометрия, функциональный анализ, теория представлений, асимптотические методы в анализе м взаимно обогатить их новыми теоремами и свойствами.

Одна из классических задач в гладкой топологии, заключающаяся в описании топологических и гомотопических свойств характеристических класов гладких и кусочно-линейных многообразий, за это время приобрела практически завершенный вид исключительно благодаря тому, что к ней были применены разнообразные методы функционального анализа. И наоборот, попытки осмыслить и решить классические топологические задачи привели к обогащению методов функционального анализа. Как это типично происходит, решение одних частных задач привело к открытию новых горизонтов в развитии математических методов и окрытию новых свойств классических математических объектов.

Именно в указанных направлениях интенсивно проводились исследования в МГУ. Краткое перечисление задач, исследуемых у нас и получивших в том или ином виде развитие, может быть следующим:

• новые классы представлений групп: фредгольмовы представления, представления в коммутативные и некоммутативные алгебры, асимптотические представления;
• двойственность Пуанкаре и формула Хирцебруха;
• теория индекса эллиптических операторов над C*-алгебрами;
• теория гильбертовых C*-модулей.

В 1974-1975 гг. в работах [9],[10], А.С.Мищенко применил метод теории фредгольмовых представлений, позволивший ему установить гипотезу Новикова для широкого класса фундаментальных групп. Применение теории представлений в конечномерном случае приводит к формулам типа Хирцебруха для сигнатур многообразия в когомологиях с локальной системой коеффициентов в конечномерном венкторном пространстве. Однако запас характеристических классов, которые можно получать с помощью конечномерных представлений слишком беден, и для многих фундаментальных групп сводится только к классической сигнатуре. Решающим шагом было обнаружение бесконечномерного аналога представлений, которые, с одной стороны, расширили запас представлений, а, с другой, сохраняли естественные свойства конечномерных представлений. Этот бесконечномерный аналог представлений заключается в новой теоретико-функциональной конструкции в виде пары унитарных бесконечномерных представлений (T₁,T₂) фундаментальной группы п в гильбертовом пространстве H и фредгольмового оператора F, сплетающего два представления T₁ и T₂ с точностью до компактных операторов в гильбертовом пространстве. Тройка (T₁,F,T₂) называется фредгольмовым представлением группы п. С категорной точки зрения фредгольмово представление является относительным представлением групповой C*-алгебры C*[п] в паре банаховых алгебр (B(H),K(H)), где B(H) есть алгебра всех ограниченных операторов гильбертового пространства H, а K(H) есть факторалгебра K(H)=B(H)/Comp(H) по идеалу компактных операторов. Существенным шагом было построение канонического векторного расслоения над классифицирующим пространством Bп с помомощью фредгольмового представления группы п. Для прмименения фредгольмовых представлений к формулам Хирцебруха А.С.Мищенко [10] потребовалось установить возможность переходить от семейства фредгольмовых представлений к единичному представлению с тем же самым характером Чженя.

Теория фредгольмовых представлений позволила доказывать гипотезу Новикова не только для указанного класса фундаментальных групп. Ученик А.С.Мищенко Ю.П.Соловьев применил разработанную технику фредгольмовых представлений для для дискретных подгрупп алгебраических групп с помощью комплексов Брюа-Титса [31].

Теория фредгольмовых представлений в 1995 году была распространена А.С.Мищенко [19] на случай непрерывных семейств, контролируемых на бесконечности, что позволило применить аналогичную технику и для таких фундаментальных групп, классифицирующие пространства которых не обязательно компактны. Более того им [20] была предложена общая схема метрического подхода к построению фредгольмовых представлений фундаментальной группы, которая сводит задачу к построению специального пополнения классифицируещего пространства и решению уже чисто гомотопической задачи на последнем.

Теория фредгольмовых представлений, построенная в работах А.С.Мищенко, была в дальнейшем распространена на случай произвольных C*-алгебр в виде некоторого варианта топологической K-теории и доведена до обобщенных формул Хирцебруха. А.С.Мищенко совместно с Ю.П.Соловьевым [21] разработал чисто гомотопический метод доказательства обобщенных формул Хирцебруха, основанный на категорном истолковании двойственности Пуанкаре в виде пучка алгебраических комплексов Пуканкаре. Таким образом, с помощью гомотопической техники была установлена обобщенная формула Хирцебруха не только для гладких многообразий, но и для кусочно линейных многообразий, где техника эллиптических операторов не действует.

Очень плодотворной для некомпактных групп оказалась идея рассматривать вместо представлений некоторые более общие отображения в алгебру операторов, которые, с одной стороны, увеличивают свободу маневра, а, с другой, сохраняют основные черты представлений, необходимых для применения их в топологических задачах. Источником такого сорта идей послужили, с одной стороны чисто физические соображения, которые заключаются в том, что любая наблюдаемая симметрия явления, а вместе с ней и некоторый закон сохранения, в действительности проявляется неточно. Поэтому естественно возникает вопрос распознавания по неточной симметрии истинной симметрии. Эта задача известна еще со времен Халмоша и его задачи о паре почти коммутирующих унитарных операторов. Если операторы действуют в конкретном конечномерном пространстве, то при условии достаточной близости почти коммутирующих унитарных операторов их можно аппроксимировать точно коммутирующими операторами. Совершенно иная ситуация имеет место в случае бесконечномерных пространств или даже в случае равномерных оценок коммутаторной невязки, не зависящих от размерности пространства. Как показал Войкулеску, существует последовательность почти коммутирующих пар унитарных операторов со стремящимся к нулю коммутатором (так назывемая пара Войкулеску), которые нельзя сколь угодно близко аппроксимировать последовательностью пар коммутирующих операторов. С точки зрения теории представлений групп это наблюдение может быть истолковано как построение асимптотического представления свободной абелевой группы с двумя образующими, которое не сводится к точному представлению.

Другой вариант обобщения представлений на случай неточных соотношений дает понятие квазипредставлений, в которых предполагается равномерная оценка норм соотношений в группе. В этом случае, как показал А.Штерн, ситуация прямо противоположная, что позволило создать стройную теорию квазипредставлений и квазихарактеров.

В статье [38] найдена связь между асимптотическими представлениями дискретной группы и фредгольмовыми представлениями этой группы. Для этого построена новая C*-алгебра, обслуживающая асимптотические представления дискретных групп и C*-алгебр с конечным числом порождающих элементов, и найден способ ее вложения в алгебру Калкина такой, что индуцированный этим вложением гомоморфизм K₁-групп является изоморфизмом. Благодаря наличию такого вложения асимптотические представления пропускаются через представления в алгебру Калкина. Как следствие, показано, что векторные расслоения над классифицирующим пространством