StackOverflowErrorがスローされた場合、スタックオーバーフローが原因です。
スタックのサイズをチューニングしてください。スタックのチューニング方法は、“10.4.2 スタックのチューニング”を参照してください。
なお、StackOverflowErrorがスローされず、そのままJavaプロセスが異常終了する場合もあります。
