Почему не проходит системный вызов ioctl?

Question

[Kamikadze1024]

Если зарегистрировать обработчик ioctl в поле unlocked_ioctl структуры file_operations, то обработчик ioctl вызывается, если пользовательский процесс подключился к драйверу через ноды 0,1, ...
Если же пользовательский процесс подключается через конфигурационный нод 0хff, то обработчик ioctl не вызывается ядром. Пользователю возвращается -1. Но операции open, close, mmap и другие исполняются корректно.

Регистрация ioctl в поле compat_ioctl приводит к тому, что работа через любые ноды не получается. Обработчик не вызывается, а пользователю возвращается -1.

Как сделать возможной работу обработчика через все ноды?

Answer 1

[jcmvbkbc]

Вы бы показали код всех структурок от девайса до файловых операций и код регистрации девайса в ядре.
И заодно код вашего приложения, отправляющего ioctl.

Comments

[Kamikadze1024]

Добро. Теперь только 12 января

[Kamikadze1024]

Кидаю ссылку на исходники драйвера. Нужный обработчик находится в файле dispatc.c

https://yadi.sk/d/17TR71PKdupem

Answer 2

[vreitech]

signed/unsigned?

Comments

[Kamikadze1024]

В смысле знаковый/беззнаковый?

Answer 3

[Kamikadze1024]

Кидаю ссылку на исходники драйвера. Нужный обработчик находится в файле dispatc.c

https://yadi.sk/d/17TR71PKdupem

Comments

[jcmvbkbc]

Kamikadze1024 вы их сами-то читали?

PLX_RET_IOCTL
Dispatch_IoControl(
  #if (LINUX_VERSION_CODE < KERNEL_VERSION(2,6,36))
    struct inode  *inode,
  #endif
    struct file   *filp,
    unsigned int   cmd,
    unsigned long  args
    )
{
    int               status;
    VOID             *pOwner;
    PLX_PARAMS        IoBuffer;
    PLX_PARAMS       *pIoBuffer;
    DEVICE_EXTENSION *pdx;


    DebugPrintf_Cont(("\n"));

    // Get the device extension
    if (iminor(filp->f_dentry->d_inode) == PLX_MNGMT_INTERFACE)
    {
        // Management interface node only supports some IOCTLS
        pdx = NULL;
    }
    else
    {
        pdx = ((DEVICE_OBJECT*)(filp->private_data))->DeviceExtension;
    }

Как определён PLX_MNGMT_INTERFACE видели?

[Kamikadze1024]

Вот так
#define PLX_MNGMT_INTERFACE 0xff

[Kamikadze1024]

открытие и закрытие происходят правильно

[Kamikadze1024]

что не так?

[jcmvbkbc]

Kamikadze1024: ок, как вы поняли что функция не вызывается?

Я вот что вижу:

if (iminor(filp->f_dentry->d_inode) == PLX_MNGMT_INTERFACE)
    {
        // Management interface node only supports some IOCTLS
        pdx = NULL;
    }

а ниже:

// Check for messages that require D0 power state
    if (pdx->PowerState > MIN_WORKING_POWER_STATE)

это -- гарантированный oops.

[Kamikadze1024]

Добавил отладочный вывод перед
if (iminor(filp->f_dentry->d_inode) == PLX_MNGMT_INTERFACE)
{
// Management interface node only supports some IOCTLS
pdx = NULL;
}

Объясните, почему. Это мой первый опыт ковыряния дров.

[Kamikadze1024]

Этого вывода в логе не оказалось

[jcmvbkbc]

> Добавил отладочный вывод
Kamikadze1024: как именно? Покажите код.

> Объясните, почему. Это мой первый опыт ковыряния дров.
Совершенно никак не связано с дровами. Обращение по NULL-пойнтеру -- универсальная ошибка.

[Kamikadze1024]

отладочный вывод происходит так:
PLX_RET_IOCTL
Dispatch_IoControl(
#if (LINUX_VERSION_CODE < KERNEL_VERSION(2,6,36))
struct inode *inode,
#endif
struct file *filp,
unsigned int cmd,
unsigned long args
)
{
int status;
VOID *pOwner;
PLX_PARAMS IoBuffer;
PLX_PARAMS *pIoBuffer;
DEVICE_EXTENSION *pdx;

DebugPrintf_Cont(("\n"));
DebugPrintf_Cont(('ioctl process function\n"));

// Get the device extension
if (iminor(filp->f_dentry->d_inode) == PLX_MNGMT_INTERFACE)
{
// Management interface node only supports some IOCTLS
pdx = NULL;
}
else
{
pdx = ((DEVICE_OBJECT*)(filp->private_data))->DeviceExtension;
}

Если не увижу строку в логе, то не вызвалась функция.

[Kamikadze1024]

DebugPrintf_Cont(('ioctl process function\n"));

[jcmvbkbc]

Kamikadze1024: и при вызове ioctl для остальных файлов вы видите вывод, так?
Я предлагаю заменить pdx = NULL; на return -EINVAL; в ветке if (iminor(filp->f_dentry->d_inode) == PLX_MNGMT_INTERFACE) и посмотреть что будет.

[Kamikadze1024]

А смысл это делать, если до этой ветки просто не доходит?

[jcmvbkbc]

Kamikadze1024: смысл в том, что у вас в этой ветке -- неопределённое поведение, и компилятор волен делать что угодно на пути заканчивающемся в этой ветке. Я предлагаю для начала пофиксить неопределённое поведение, а потом уже смотреть дальше.

[Kamikadze1024]

добро

[Kamikadze1024]

Поместил -EINVAL -> симптомы аналогичны. Вызова функции не осуществляется

[jcmvbkbc]

Kamikadze1024: а покажите лог отладочных сообщений от ioctl к обычному файлу и к 255му?

[Kamikadze1024]

Спасибо за помощь, jcmvbkbc. Проблему нашел =) Пользовательский код подсовывал вызову не тот дескриптор...