以下のコマンドで変更してください。
【Windows】
"%SWCTMG_HOME%\glassfish3\bin\asadmin" %OPTION% set server.admin-service.jmx-connector.system.port=<PORT NO>
【Linux】
/opt/FJSVctbss/glassfish3/bin/asadmin $OPTION set server.admin-service.jmx-connector.system.port=<PORT NO>