解：已知P为正方形ABCD内任意一点,PA=1,PB=3,PD=√7，设AB=AD=BC=CD=a,则正方形ABCD的面积=a^2
过P作PE⊥AB，PF⊥AD，则AEPF为矩形，设AE=PF=x，PE=AF=y，则BE=AB-AE=a-x，DF=AD-AF=a-y
在RT△AEP中，由勾股定理，得：
AE^2+PE^2=PA^2
即x^2+y^2=1......(1)
同理,在RT△PEB中,可得下方程
BE^2+PE^2=PB^2
即(a-x)^2+y^2=9
a^2-2ax+x^2+y^2=9
把(1)代入上方程,得
a^2-2ax=8
x=(a^2-8)/(2a)......(2)
同理,在RT△PDF中,可得下方程
DF^2+PF^2=PD^2
即(a-y)^2+x^2=7
y=(a^2-6)/(2a)......(3)
把(2)、(3)代入(1),得
[(a^2-8)/(2a)]^2+[(a^2-6)/(2a)]^2=1
上方程化简,得
a^4-16a^2+50=0
a^2=8±√14
∵a>0,∴a=√(8±√14)
检验:
∵三角形两边之和大于第三边，两边之差小于第三边
∴2<a<4,√7-1<a<√7+1
即2<a<√7+1,可知a=√(8±√14)满足△两边之和大于第三边，两边之差小于第三边的性质.
故正方形ABCD的面积=8±√14
答:正方形ABCD的面积=8+√14或=(8-√14)
简单解法
解：已知P为正方形ABCD内任意一点,PA=1,PB=3,PD=√7，设AB=AD=BC=CD=a,则正方形ABCD的面积=a^2
过P作PE⊥AB，PF⊥AD，则AEPF为矩形，设AE=PF=x，PE=AF=y，则BE=AB-AE=a-x，DF=AD-AF=a-y
在RT△AEP、RT△PEB、RT△PDF中，由勾股定理，得下方程组：
AE^2+PE^2=PA^2,即x^2+y^2=1......(1)
BE^2+PE^2=PB^2,即(a-x)^2+y^2=9......(2)
DF^2+PF^2=PD^2,即(a-y)^2+x^2=7......(3)
解上方程组,得
a^2=8±√14
∵a>0,∴a=√(8±√14)
检验:
∵三角形两边之和大于第三边，两边之差小于第三边
∴2<a<4,√7-1<a<√7+1
即2<a<√7+1,可知a=√(8±√14)满足△两边之和大于第三边，两边之差小于第三边的性质.
故正方形ABCD的面积=8±√14
答:正方形ABCD的面积=8+√14或=(8-√14)