Переведите код из картинки в текст. А проблема в том, что надо в if одно равно на два поменять:
if(mat[i] == mat[i + 1])
Так как сейчас вы всегда в i элемент кладёте i + 1 элемент вместо сравнения. Вложенный цикл при этом исполняется всегда, если i + 1 элемент не равен нулю.