这句话是正确的。在证明这句话之前，先说明两个概念：
关于初等矩阵：
初等矩阵是指，由单位矩阵经过一次矩阵初等变换得到的矩阵。
初等变换有三种
（1）交换矩阵中某两行（列）的位置；
（2）用一个非零常数k乘以矩阵的某一行（列）；
（3）将矩阵的某一行（列）乘以常数k后加到另一行（列）上去。
关于逆矩阵：
设A是数域上的一个n阶方阵，若在相同数域上存在另一个n阶矩阵B，使得： AB=BA=E。 则我们称B是A的逆矩阵，而A则被称为可逆矩阵。
证明：（默认讨论的所有方阵阶数相同且为n）
引理一：任一方阵M经过一次初等变换变为矩阵M'，则M'可以经过一次初等变换得到M。
对于（1）情况，再次交换已交换的两行（列）。对于（2），用1/k乘以同一行（列）。对于（3），将同一行（列）乘以常数-k后加到另一行（列）上。三种变换都可以使矩阵复原。
为了证明方便，若将一个初等变换记作f，则将根据上述规则得到的逆变换记作f*，可以得到f*也是初等变换，且f*(f(M))=M。
引理二：方阵A，B，C满足AB=C，若对C进行一次初等变换，则可以对A或B其中一个进行一次初等变换，使得等式仍然成立。
首先给出矩阵乘法公式：
C(ij)=sigma(k=1->n)(A(ik)*B(kj))【sigma为求和符号】
这里给出方法：设C的变换为f，则若f操作的是行，则对A进行f操作；若f操作的是列，则对B进行f操作。
根据初等操作的三个类型可以知道，每一种初等操作对应的是两个行或列【把（2）看成另找一行（列），乘以常数1，这样看成对两行（列）进行操作】。若操作的是a行与b行，对C'中a行的第i个元素，都是由A'的a行的对应元素乘B的i列的对应元素乘积求和得到，b行同理。求解相同列数j处的元素，B(kj)的各项的值在变换前后不变；由于两个变换都是线性的变换【A'(ak)=mA(ak)+nA(bk);A'(bk)=m'A(ak)+n'A(bk)】，所以可以得到：(A'B)(aj)=sigma(k=1->n)(A'(ak)*B(kj))=sigma(mA(ak)B(kj)+nA(bk)B(kj))，而C'(aj)=sigma(m(C(ak))+n(C(bk)))=sigma(mA(ak)B(kj)+nA(bk)B(kj))，(A'B)(nj)同理，所以操作行时是正确的。操作列时证明过程几乎完全相同，从略。
正式证明：设方阵M可逆，逆矩阵M'，若M是初等矩阵，求证：M'是初等矩阵
分操作行、操作列讨论。
行：因为M是初等矩阵，所以存在初等变换f，使得M=f(E)。根据引理二和M'M=E推出f(M')M=f(E)=M。f(M')=E满足这个条件，且若将乘法所有的方程列出来，则会有n*n个方程，f(M')矩阵的元素共有n*n个，得到一线性方程组，且一般是有唯一解的（暂不考虑无穷解的情况）。因此得到f(M')=E。根据引理一，可以得到f*(f(M'))=M'=f*(E)，所以M'也是一个初等矩阵。
列：根据引理二和MM'=E得到了Mf(M')=f(E)=M，后同。
因此，命题得证。
第一次写这么大的证明，如有纰漏请指正，谢谢