Во-первых, при конкатенации строк создаётся новая строка. Выполните в цикле миллион конкатенаций, получите миллион ненужных объектов, сожрете память, нагрузите сборщик мусора, программа начнёт тормозить, и ваш наниматель вас уволит. Во-вторых, строки - один из самых часто используемых классов в java-программах, поэтому очень важно, чтобы операции с ними были быстрыми, и именно неизменяемость строк позволила их очень сильно оптимизировать.
Послушайте, если осилите.