Похоже, что Setup Project, который встроен в студию можно выбросить на свалку по причине полной бестолковости.
Для того, чтобы установить более-менее серьезное приложение, с разными предусловиями, всякими-разными guid и записями в реестр надо что-то более толковое. Почитав MSDN нашёл интересную тулзу WiX. Вот её-то и попробуем для установки плагина на чистую машину.
Поможет нам в этом документация отсюда.
По сути мы создаем xml файл с описанием настроек установки, подробнее об этом можно прочесть по ссылке.
ЗЫ: Поставил 3ю версию Wix, а в ней отключены переменные проектов типа $(var.