第1问：
M=cosxcosy+sinxsiny;
N=cosxcosy-sinxsiny;
所以有
cosxcosy=(M+N)/2
sinxsiny=(M-N)/2
第2问：
第2问终于做出来了，过程比较繁琐，不知道是否有更加简洁的算法。一点技术技巧，一是细致，二是可以找一个例子，来随时校验中间的关键步骤是否正确，比如令A=90度，B=60度，C=30度。
第3问：
若有2a=3b，代入第2问的公式，可以得出关于(b/c)的一元二次方程，解道b=0.4*c, a=0.6*c，此时有a+b=c，与三角形两边之和大于第三边矛盾，故不存在这种情况。
总算解答完了。如果有不对或者不明白的地方，请回复评论或站内信。谢谢！
追问非常感谢你的回答，但是图片看不清。
追答你好！
那我把这道题重新做一下，方法有改进，就是反复用第一问的公式。
首先是利用正弦定理，
a=2R*sinA，b=2R*sinB，c=2R*sinC，代入所证的式子，同除以4R^2，有下面的左右式；
左边的式子：
（sinA^2-sinB^2）*(SinA^2+SinA*SinC-SinB^2)
右边的式子：
SinB^2*SinC^2
注意由第一问中的公式有
SinA*SinC=(Cos(A-C)-Cos(A+C))/2，结合降幂公式，以及条件2A=3B，左式变成：
((Cos2B-Cos3B)/2) * ((Cos2B-Cos3B)/2+((Cos(A-C)-Cos(A+C))/2)
Cos(A-C)=Cos(A-(\pi-B-A))=Cos(2A+B-\pi)=Cos(4B-\pi)=-Cos(4B)
Cos(A+C)=Cos(\pi-B)=-CosB
由此变成
((Cos2B-Cos3B)/2) * ((Cos2B-Cos3B)/2+(CosB-Cos4B)/2)
乘以4，后展开得，
Cos2B^2+Cos3B^2-2Cos2B*Cos3B+Cos2B*CosB-Cos3BCosB-Cos2B*Cos4B+Cos3B*Cos4B
然后利用降幂公式和第一问中的公式，有
(1+Cos4B)/2+(1+Cos6B)/2-(CosB+Cos5B)+(CosB+Cos3B)/2-(Cos2B+Cos4B)/2-(Cos2B+Cos6B)/2+(CosB+Cos7B)/2
整理，化简得，
1-Cos5B+1/2*Cos3B-Cos2B+1/2*Cos7B (式子1)
将右式利用第一问的公式，
SinB*SinC=(Cos(B-C)-Cos(B+C))/2=(Cos(3/2*B)-Cos(7/2*B))/2,
平方后利用降幂公式和第一问的公式，同样得到上面的（式子1），
所以就可以得出证明答案了。
具体的这一步，你按照这个思路自己推导即可。
谢谢给机会！