Не могу найти номер системного вызова opendir www.cs.fsu.edu/~baker/devices/lxr/http/source/linu... в то время как readdir есть. Простым вызовом open, дескриптор каталога не возвращается. Если такая возможность отсутствует, то посоветуйте пожалуйста как вывести содержимое каталога.
Так, по порядку:
1. O_DIRECTORY не влияет на открытие каталогов вызовом open, он влияет на открытие не-каталогов (попытка открыть не-каталог при указанном O_DIRECTORY -- это ошибка).
2. 0200000 = 0x10000
3. open во всех ваших скриншотах успешен, а валится readdir, потому что вы ему передаёте NULL там где должен быть указатель на буфер.