Чтобы изменить количество смайлов в строке, достаточно изменить значение "Количество смайлов в строке:" в настройках компонента. Если вы физически заменили файлы в папке /bitrix/images/forum/smile/, то размер останется от прежних смайлов, так как данные о файлах берутся из БД.
Если вы хотите заменить смайлы, то лучше это сделать со стороны админ части: "Рабочий стол>Сервисы>Форумы>Смайлики".