Для каждой строки составляете множества чисел, которые в этой строке присутствуют . Для вашего примера:
1 2 2 4 4 => [1, 2, 4]
4 2 1 4 => [1, 2, 4]
3 2 4 1 5 8 => [1, 2, 3, 4, 5, 8]
Те строки, у которых эти множества полностью совпадают (первая и вторая строки в примере), считаются по условию похожими.