解:过B点作BC⊥AB′于C点,如图,

∵线段AB绕A点旋转α角得AB′,
∴AB′=AB=5,∠BAB′=α,
在Rt△ABC中,sin∠A=sinα=

=

,
∴BC=

=

,
∴AC=

=

=

,
∴B′C=AB′-AC=5-

=

,
在Rt△B′BC中,B′C=

,BC=

,
∴BB′=

=

=6.
分析:过B点作BC⊥AB′于C点,根据旋转的性质得到AB′=AB=5,∠BAB′=α,在Rt△ABC中,利用正弦的定义得sin∠A=sinα=

=

,可计算出BC=

,再利用勾股定理计算出AC=

,则B′C=AB′-AC=5-

=

,然后在Rt△B′BC中利用勾股定理计算BB′.
点评:本题考查了旋转的性质:旋转前后两图形全等;对应点到旋转中心的距离相等;对应点与旋转中心的连线段的夹角等于旋转角.也考查了解直角三角形.