円に内接する四角形（cos を求めて面積）（B）

円に内接する四角形の対角の和は $180^\circ$ であるから $D=180^\circ-B$ で，$\cos D=-\cos B$ である．$\triangle\mathrm{ABC}$，$\triangle\mathrm{ACD}$ で余弦定理を用いると \[ \mathrm{AC}^2=9+25-30\cos B=25+64+80\cos B \] よって $34-30\cos B=89+80\cos B$，$\cos B=-\dfrac{1}{2}$ で $\angle\mathrm{ABC}=120^\circ$ $\mathrm{AC}^2=34+15=49$ より $\mathrm{AC}=7$ 面積は $\sin D=\sin B=\dfrac{\sqrt{3}}{2}$ より \[ \frac{1}{2}\cdot 3\cdot 5\cdot\frac{\sqrt{3}}{2}+\frac{1}{2}\cdot 5\cdot 8\cdot\frac{\sqrt{3}}{2}=\frac{15\sqrt{3}}{4}+10\sqrt{3}=\frac{55\sqrt{3}}{4} \]