解:(1)设Z=x+yi(x,y∈R)
由题意得Z
2=(x-y)
2=x
2-y
2+2xyi
∴

故(x-y)
2=0,∴x=y将其代入(2)得2x
2=2∴x=±1
故

或

故Z=1+i或Z=-1-i;
(2)当Z=1+i时,Z
2=2i,Z-Z
2=1-i
所以A(1,1),B(0,2),C(1,-1)
∴

当Z=-1-i时,Z
2=2i,Z-Z
2=-1-3i,A(-1,-1),B(0,2),C(-1,3)

.
(3)由题知,z=1+i
设m=c+di,则m-z=(c-1)+(d-1)i
|m-z|=1,
∴(c-1)
2+(d-1)
2=1
则复数m在复平面内所对应的点为M的轨迹为(1,1)为圆心,1为半径的圆
所以

,

分析:(1)设出复数的代数形式的式子,根据所给的模长和z
2的虚部为2.得到关于复数实部和虚部的方程组,解方程组即可.
(2)写出所给的三个复数的表示式,根据代数形式的表示式写出复数对应的点的坐标,即得到三角形的三个顶点的坐标,求出三角形的面积.
(3)根据复数z在复平面内所对应的点位于第一象限,得到复数的对应的值,根据复数的几何意义,看出复数对应的点在一个圆上,根据圆的性质求出最值.
点评:本题考查复数形式和复数的模长,本题解题的关键是对于复数的代数表示和复数的几何意义两者熟练应用,在利用几何意义求最值时,注意这是圆常用的一种方法.