Чтобы организовать в аякс-действии постраничную навигацию, нужно в параметрах метода внедрить \Bitrix\Main\UI\PageNavigation и вернуть \Bitrix\Main\Engine\Response\DataType\Page.

Пример:

use \Bitrix\Main\Engine\Response;
use \Bitrix\Main\UI\PageNavigation;
public function listChildrenAction(Folder $folder, PageNavigation $pageNavigation)
{
	$children = $folder->getChildren([
		'limit' => $pageNavigation->getLimit(),
		'offset' => $pageNavigation->getOffset(),
	]);
	return new Response\DataType\Page('files', $children, function() use ($folder) {
		//отложенный подсчет количества всего записей по фильтру		
		return $folder->countChildren(); 	
	});
}

Чтобы передать номер страницы в JS API, обратите внимание на navigation.

BX.ajax.runAction('vendor:someController.listChildren', {
	data: {
		folderId: 12 
	},
	navigation: {
		page: 3
	}
});

Например, для rest вычисление общего количества требуется всегда, а для обычного аякса - это необязательно. Куда производительней и удобнее сделать отдельное аякс-действие для получения количества записей по определенном фильтру.