* 'посмотреть как оно работает и написать свое' — да, можно, так поступают разработчики ReactOS, причем даже круче, одна команда изучает библиотеки windows, описывает это письменно/устно второй команде, которая пишет код
* 'декомпилировать и скопировать получившийся код, с модификациями' — нельзя ни при каких условиях, а коммерческое назначение использование только усугубляет вину, но отсутствие этой цели — ее не уберет.
p.s. но, в лицензии к программе может стоять запрет на декомпиляцию, тогда у вас останется только один легальный способ изучения кода — на основе поведения, но нужно будет обвиняющим доказать, что вы так делали, а 'не пойман — не вор'.