StackOverflowErrorがスローされた場合、スタックオーバーフローが原因です。
スタックのサイズをチューニングしてください。スタックのチューニング方法は、“7.5.2 スタックのチューニング”を参照してください。
なお、StackOverflowErrorがスローされず、そのままJavaプロセスが異常終了する場合もあります。