一般情况下不讨论这个问题。 既然提出这个问题了ab，只能说说看法。
1、A和B必须是同阶方阵，这是必要条件；即如果不是同阶方阵，一定不可交换。
2、如果A与B互逆，则AB=E=BA，A与B可交换，这是充分条件。
3、如果A的逆阵是C，而B=aC，则AB=AaC=cAC=aE(对角数量矩阵), BA=aCA=aE,AB=BA，这也是充分条件。
4、如果A和B是同阶方阵，且其中一个是0阵，则AB=0=BA，这也是充分条件。 至于什么是“正交”，有这个概念，但超出了MBA的要求（我也记不得了）。 我们一般不去研究A与B可交换的充分必要条件，我还记得曾经研究过一阵子，也没有明确的结果。
在了解了关于群的一些基本概念后，就可以学习群的矩阵表示理论了。顾名思义，就是用矩阵的理论来表示群，相应的“群乘”运算就是矩阵的乘法。
什么样的矩阵集合能用来表示一个群呢？这个矩阵集合首先要与群G同态，矩阵之间的乘法要满足群定义的四个条件。因此，矩阵是方矩阵（群的封闭性），且非奇异（群的逆元存在性）。而且，若对应的方阵，那么一定有。
以上就是群的矩阵表示的概念。同构是同态的一种特例。特别地，若矩阵集合与群G是同构的话，我们称这样的表示为确实表示，否则为不确实表示。
对于群G的矩阵表示，一般记为。
1）相似变换与等价表示：对于同一个群，它的矩阵表示的具体形式可以有很多种，这些表示是等价的，称为等价表示。利用，可以证明，满足相似变换的矩阵集合，是等价的表示。
由相似变换有：,其中为非奇异方阵。若的集合为群G的一个表示，则的集合也为群G的一个表示。
证：对于群的表示，由群的矩阵表示的定义，对于任意群元，有
由相似变换有
结合以上四式，有，因此，也是群G的一个表示，与等价。
特别地，有限群的任何非奇异矩阵表示，都可以通过相似变换，变成么正表示（证明过程比较长，故省略）。么正表示，即每个群元的表示矩阵均为么正矩阵（酉矩阵）。
2）有群的矩阵表示的定义，可知有限群的表示方阵的维数（行数或列数）不是唯一的。据此可将表示分成两类：可约表示与不可约表示。
若表示可用一个相似变换将所有的矩阵同时变成相同块状结构的块对角矩阵，则称这样的表示为可约表示。反正则为不可约表示。
举个例子，比如，取它的两个不可约表示（以上标区分），则满足
的表示也是群G的一个表示（由块对角矩阵的矩阵乘法运算法则可证），而且是可约的，因为矩阵的形式是块对角矩阵。
因此，我们可以用群G的一些不可约表示，构造出无穷多的可约表示。
3）舒尔引理：有一非零方阵与群G的某一表示的所有方阵对易，则
1】若为不可约表示，则必为常数矩阵
2】若不为常数矩阵，则必为可约表示。
证明过程比较长，故省略。
舒尔引理的逆定理也成立。
4）不可约表示矩阵元的正交性：若为群G的两个不等价的不可约的么正表示，则有
,为群阶,为不可约表示的维数。
5）等价表示的特征标：由于矩阵经过相似变换后变成另一个矩阵，所以等价表示的形式有无穷多。但我们能够找到一组标量，它们在相似变换下不会改变，可表征所有的等价表示，这一组标量称为特征标。
若为群G的一个维表示，则群元的特征标定义为
由于相似变换不改变矩阵的迹，因此特征标在相似变换下是不会改变的。
还可以证明，群G的同类元素在同一个不可约表示下，具有相同的特征标。
6）特征标的正交性：若G的两个不等价不可约么正表示为，则有
7）约化系数：设群G有个不等价不可约表示，组成块对角矩阵,这里的求和为直和，不是普通的矩阵加法。约化系数可由下式求得
称为可约表示简约成不可约表示的简约系数（约化系数）。
参考资料
【1】《群论及其在固体物理中的应用》 徐婉棠 等
【2】 《群论及其在物理学中的应用》 谢希德 等
对n阶方阵A、B,若存在可逆矩阵P,使得P^(-1)AP=B,则称A、B相似。
从定义出发，最简单的充要条件即是：对于给定的A、B,能够找到这样的一个P,使得：
P^(-1)AP=B；或者：能够找到一个矩阵C,使得A和B均相似于C。
进一步地，如果A、B均可相似对角化,则他们相似的充要条件为：A、B具有相同的特征值。
再进一步，如果A、B均为实对称矩阵，则它们必可相似对角化，可以直接计算特征值加以判断（与2情况不同的是：2情况必须首先判断A、B可否相似对角化）。
扩展资料：
n阶矩阵A与对角矩阵相似的充分必要条件为矩阵A有n个线性无关的特征向量。
注： 定理的证明过程实际上已经给出了把方阵对角化的方法。
若矩阵可对角化，则可按下列步骤来实现：
（1） 求出全部的特征值；
（2）对每一个特征值,设其重数为k,则对应齐次方程组的基础解系由k个向量构成，即为对应的线性无关的特征向量；
（3）上面求出的特征向量恰好为矩阵的各个线性无关的特征向量。
判断两个矩阵是否相似的辅助方法：
（1）判断特征值是否相等；
（2）判断行列式是否相等；
（3）判断迹是否相等；
（4）判断秩是否相等。
以上条件可以作为判断矩阵是否相似的必要条件，而非充分条件。
（两个矩阵若相似于同一对角矩阵，这两个矩阵相似。）