如图,设 ∠COA=θ ,则 0°<θ<60° 。设 |OA|=|OB|=|OC|=r(r>0),已知 OA*OB=1/2*r^2 ,
所以 OC*OA=|OC|*|OA|*cosθ ,即 x*r^2+1/2*y*r^2=r^2*cosθ ,
由此得 x+1/2*y=cosθ ,
同理由 OC*OB=|OC|*|OB|*cos(60°-θ) 得 1/2*x+y=cos(60°-θ) ,
由以上两式可解得 x=[4cosθ-2cos(60°-θ)]/3 ,y=[4cos(60°-θ)-2cosθ]/3 ,
所以 3μ=3(x+py)=(4-2p)cosθ+(4p-2)cos(60°-θ)
=3cosθ+√3*(2p-1)sinθ ,
=√[9+3(2p-1)^2]*sin(θ+α) ,
其中 sinα=3/√[9+3(2p-1)^2] ,cosα=(2p-1)/√[3+(2p-1)^2] 。
由于上式有最大值,因此 sin(θ+α) 可以取 1 ,也就是 θ+α 可以等于 90° ,
由于 0°<θ<60° ,所以 30°<α<90° ,
那么 1/2
解得 -1
设射线OB上存在为B',使OB′=1/λOB,AB'交OC于C',
由于OC=xOA+yOB=xOA+λy*1/λOB=xOA+λy*OB′,
设OC=tOC′,OC′=x′OA+λy′OB′,
由A,B',C'三点共线可知x'+λy'=1,
所以u=x+2y=tx'+t*2y'=t,
则u=|OC|/|OC′| 存在最大值,
即在弧AB(不包括端点)上存在与AB'平行的切线,
所以λ∈(1/2,2).