Проблему x32 <-> x64 как я понимаю несложно решить с помощью сервиса.
Пишете x32 сервис, который работает с BeholdRC.dll и общается через PIPE с окружающим миром.
Далее в x32/x64 (на выбор) софтине работаете не с dll, а с сервисом через PIPE.
Нечто похожее по-моему делает Behold Agent. Хотя я не уверен создаёт ли он Pipe, но это уже детали. По крайней мере он "слушает" пульт и запускает основную прогу.
Костыльно конечно, но другого я придумать пока не могу.
По вопросу про IOCTL - думаю тут только дизассемблирование dll-ки + отладчик на живом тюнере/драйвере и dll. Ибо разрабы канули в лету и прочее такое.
PS.
Если нужен только пульт, а сам тюнер нет, то есть такая тема -
https://we.easyelectronics.ru/STM32/ir- ... ast-4.html
Минус - кроме программирования надо знать электронику и микроконтроллеры и немного уметь паять.
Плюс - тюнер вообще не нужен, от него можно взять только глазок (там походу тот же TSOP4838 или что-то родственное с 2.5 мм джеком) и пульт. Соответственно не нужно гоняться за шиной PCI и/или переживать на тему "1000-летней давности драйвер с сайта не ставится с супер-пупер новую винду со всеми обновлениями".