<div dir="ltr">OpenJDK's implementation of String concatenation compiles<div><br></div><div>   "foo" + bar + "quux" + baz</div><div><br></div><div>into essentially the same bytecode as</div><div><br></div><div>  new StringBuilder()</div><div>    .append("foo")</div><div>    .append(bar)</div><div>    .append("quux")</div><div>    .append(baz)</div><div>    .toString()</div><div><br></div><div>We've been successfully experimenting at Google with presizing the StringBuilder to avoid the need for rebuffering, with extensive consultation with martinrb@ and cushon@.  I have not yet ported the patch to head, but wanted to bounce the idea off this list before doing so.  Some key points of interest:</div><div><ul><li>It suffices to provide an upper bound on the size, if that's not too much bigger than the real length.  For example, for primitives, we use the bound of the maximum length of the toString of that primitive type: for example, a boolean is treated as having length bounded at 5.</li><li>Nonconstant Objects, including CharSequences, have their toString stored in a local.  For example, "foo" + myStringBuilder would be compiled to approximately<br><br>String myStringBuilderToString = myStringBuilder.toString();<br>return new StringBuilder(3 + myStringBuilderToString.length())<br>  .append("foo")<br>  .append(myStringBuilderToString)<br>  .toString();<br><br>This is necessary to deal with the possibility of mutation midexpression.  (Nonconstant primitives are also stored in a local to preserve evaluation order and avoid mutation, but not converted to Strings.  There might be some room for optimization here for primitive values coming from final fields or locals.)</li><li>Some mostly-redundant null checking is necessary to deal with the evil edge case where toString() returns null.<br></li><li>Taking all the above into account, our benchmarks showed 15% CPU improvements and 25% fewer bytes allocated relative to the status quo, independent of -XX:+OptimizeStringConcat.</li><li>While we were at it, in the case of two arguments that are statically known to be Strings, our benchmarks show String.concat to be firmly more efficient than the StringBuilder, even in the presence of flags like -XX:+OptimizeStringConcat.  This is arguably a separate optimization, but nonetheless effective; our benchmarks at the time suggested 40% CPU improvements and 60% fewer bytes allocated relative to the status quo.</li></ul><div>So for example, "foo" + myInt + myString + "bar" + myObj would be compiled to the equivalent of</div><div><br></div><div>int myIntTmp = myInt;</div><div>String myStringTmp = String.valueOf(myString); // defend against null</div><div>String myObjTmp = String.valueOf(String.valueOf(myObj)); // defend against evil toString implementations returning null</div><div><br></div><div>return new StringBuilder(</div><div>     17 // length of "foo" (3) + max length of myInt (11) + length of "bar" (3)</div><div></div><div>     + myStringTmp.length()</div><div>     + myObjTmp.length())</div><div>   .append("foo")</div><div>   .append(myIntTmp)</div><div>   .append(myStringTmp)</div><div>   .append("bar")</div><div>   .append(myObjTmp)</div><div>   .toString();</div><div><br></div><div>As far as language constraints go, the JLS is (apparently deliberately) vague about how string concatenation is implemented.  "An implementation may choose to perform conversion and concatenation in one step to avoid creating and then discarding an intermediate String object. To increase the performance of repeated string concatenation, a Java compiler may use the StringBuffer class or a similar technique to reduce the number of intermediate String objects that are created by evaluation of an expression."  We see no reason this approach would not qualify as a "similar technique."</div></div><div><br></div><div>If these suggestions (and performance numbers) are of interest, I can port our patch for upstream use.</div></div>