Почитал я на Госуслугах как сняться, почитал Закон, Постановление правительства и административный регламент МВД. Сняться без необходимости прописаться по новому месту жительства можно - подаешь заявление через Госуслуги, МВД его рассматривают, если положительно - приглашают прийти в отделение, ставят штамп в паспорте и все.
Пока не понял что будет с налоговой. Если им ничего не сообщать - она та же останется или нет? Также скорее всего кредит в банке не дадут, и вообще в новом банке могут не обслужить. И скорее всего практически все юр. лица откажутся заключать с тобой договоры, т.к. в договоре указывается место жительства.
Но попробовать так пожить было бы прикольно.