установка не в корень сайта

Нет, такой возможности нет.

Если честно, я не понимаю задачи, когда требуется ставить Битрикс не в корень. Допустим, вы не хотите весь сайт переводить на Битрикс. Ну так в чем проблема - ставите в корень, он живет своей жизнью, а весь остальной сайт - своей. Какая-то папка будет Битрикса, какая-то не Битрикса.
Были случаи когда большие сайты так и перетаскивали понемногу на Битрикс - по разделам, чтобы не нарушать работы.

Добавлю - плохой вариант.
Вход на сайт мозаика выбора разного контента сайта.
Битрикс замыкает на себя.
Домен не обязательно одна единственная CMS (Битрикс).
Есть и свои реализации, а так купил Битрикса, привязал к домену, и УСЁ.

Только безопасность самого Битрикса будет под угрозой. Нисколь не в обиду мастерам таких скриптов, все мы делали ошибки, только потом такой "взлом" доставляет щенячью радость горе-хакеру, который трещит, что "ломанул Битрикс".

Вот в "поэтому" связи не уловил. Как бы, если есть Битрикс на сервере, то он там есть. Не важно в какой категории. И взлом соседнего приложения все равно позволит злоумышленнику добраться до Битрикс.

Как правильно заметил Иван выше, возможны только такие сложности:

Нет, я хотел сказать другое -- что, если Битрикс соседствует с другим ПО, то вся система в целом становится уязвима ровно настолько насколько уязвим самый слабый компонент системы. Принцип слабого звена.
И в данном случае, где бы ни стоял Битрикс - в корне или подпапке, - он эффект будет одинаковым.
Вот почему я не вижу смысла, точнее надобности, в установке Битрикса в "некорень".