Прямое произведение размерностями J, I, разбивается (Смирнов т.3ч1 стр 267) на k представлений |J-I|<=k<=|J+I|. Но таким образом можно составить неприводимое представление любой размерности: делаем прямое произведение матрицы с собой и получаем представления от J=1/2 (размерность матрицы n=2J+1) до 2J и т.д. Но с другой стороны, для SU3 существуют представления не всех размерностей (чем объясняется октет и декуплет адронов). В книге Румера "Теория унитарной симметрии" на стр. 112 приведены возможные размерности. Как объяснить это противоречие?

Представление - это отображение множества(в нашем случае группы) в алгебру операторов над некоторым линейным пространством. Мы можем построить отображение прямого произведения групп как множеств (это произвольные пары элементов из множеств, по-английски cartesian product) в тензорное произведение операторов. Это называется тензорным произведением представлений. Это и описывается у Смирнова, просто более старым языком. Второе же предложение вообще какое-то странное, что такое "прямое произведение матрицы с собой"? Я много раз прочел и понять не могу.

У Смирнова есть п.73 и п.75 - не прямое произведение групп, а композиция (прямое произведение разных представлений одной и той же группы) и его разбиение на неприводимые.
То же и у Румера.

Прямое произведение матриц: http://pmpu.ru/vf4/algebra2/kronecker_prod
Возьмите два одинаковых представлений (матриц) и сделайте прямое произведение. Если не нравятся одинаковые, можете взять разной рамерности, это ничего не меняет: размерности представления можно делать любыми, если следовать Смирнову. А если нравятся красивые слова - замените прямое произведение матриц индуцированным оператором в тензорном произведении 2-х пространств.

2 AndrV У Смирнова описываются коэффициенты Клебша-Гордана, так что там описано имено то, о чем я говорил. По ссылке - не прямое произведение матриц, а тензорное произведение линейных операторов. Размерность представления - это размерность векторного пространства, в котором действует соответсвующий линейный оператор. Так что задача состоит в том, чтобы разложить линейное пространство на инвариантные минимальные подпространства относительно действий соответсвующих операторов. Итак, мы раскладываем по подпредставлениям. Вот пусть у нас есть группа SU(3), у нее есть каноническое представление в соответсвующие матрицы. Вот у нас группа SU(3) и каноническое представление H: SU(3) -> GL(3,C). H тензорно H : SU(3)xSU(3) -> GL(C^3 тензорно С^3). Вот мы выбрали базис в C^3 так, что можно любую матрицу этих операторов представить в блочном виде (разложили по неприводимым подпредставлениям) , а потом перемножили. Задача найти такой базис в C^3 тензорно на C^3, в котором матрица получившегося оператора тоже будет блочной. Коэффициенты матрицы перехода в этот базис - коэффициенты Клебша-Гордана. Мне кажется, что именно это имел в виду Смирнов, вообще же довольно тяжело читать его, непривычно как-то.

Если точнее, то обобщенные коэффициенты Клебша-Гордана. Т.е. о том, что говорю я.
Легче открыть в Смирнове указанные пункты и прочитать первые предложения.

Первое предложение по ссылке:
Если — -матрица, а — -матрица, то кронекеровым (или прямым) произведением матрицы на матрицу называют блочную матрицу порядка :

2 AndrV Прямое произведением обычно называют т.н. cartesian product, а кронекерово произведение - это просто тензорное произведение двух линейных операторов в базисе. Из-за этого, я так понимаю, произошла путаница. SU(3)xSU(3) - это не кронекерово произведения соответсвующих матриц, это т.н. конструкция прямого произведения. То есть это совершенно другая группа, и алгебраически, и топологически (как гладкое многообразие).

Уж извиняйте, читать Смирнова очень тяжело, приходится буквально с нуля читать. Все по-другому определено. Хотя в итоге результаты те же, так что вряд ли там ошибка. Просто расхождения в терминологии, судя по всему.

Кажется я понял. В книге Смирнова имеется в виду именно, что я написал. То есть представление SU(3)xSU(3) в С^3 тензорно С^3, а в Румере Фете представление другое, там действуе такое: G(C^3) тензорно G(C^3], то есть как вы написали, кронекерово произведение матрицы на себя. То есть там рассмотрены РАЗНЫЕ представления ( группы разные, хотя линейные пространства одинаковы).

Параграф в Румере называется: "Представления SU(3)". И именно такие (и только такие) представления там рассматриваются (как и в Смирнове).

2 AndrV Нет, не такие, я специально несколько раз прочитал. В Румере рассматриваются представления 3x3* и 3x3x3. Может и смотрел в книгу, а видел фигу. Не знаю.

3х3, а также 3х3х3 и т.д. - это частные случаи общего построения неприводимых представлений из композиции (прямого умножения разных представлений групп) описанного в Смирнове.

Решение вопроса.
В Смирнове описано разбиение на неприводимые представления группы вращения, а не абы какой другой. А группа вращения двукратно покрывает унитарную группу SU(2) (т.е. является представлением SU(2)). А SU(2) действительно имеет представление любого порядка (это и в Румере есть). А вот разбиение представлений SU(3) в Смирнове не описано, расчет количества неприводимых SU(3) не подпадает под формулу описанную там для O(3). И представления SU(3) бывают такими, как указано в Румере (не все, а только соответствующие схеме Юнга).