Покопавшись в исходниках платежной системы стало понятно, что обработчик yandexpaycheckout проверяет, что подтверждение оплаты приходит с определенного диапазона ip. Можно, конечно просто закомментировать проверку, но мы решили копать дальше.
Причина проблемы в том что nginx-контейнер работает обратным прокси, и не передает внутрь apache-контейнера с битриксом адреса входящих ip-запросов в явном виде, а передает их заголовками. Благодаря сообщению [URL=https://dev.1c-bitrix.ru/community/forums/messages/forum32/topic130904/message649520/#message649520]https://dev.1c-bitrix.ru/community/forums/messages/forum32/topic130904/message649520/#message649520[/URL] стало понятно что никаких настроек в битриксе, чтобы он брал ip из заголовков, нет.
Проблема была решена путем модификации dbconn.php, благодарю сообщению [URL=https://dev.1c-bitrix.ru/community/forums/messages/forum32/topic55098/message459087/#message459087]https://dev.1c-bitrix.ru/community/forums/messages/forum32/topic55098/message459087/#message459087[/URL].