Неизвестно, как иконе удалось уцелеть во время первых гонений на христиан. После того, как император Константин Великий дал христианству статус законной религии в Римской империи, эта икона перешла в родовое наследство византийских императоров. Тогда она называлась Цареградская.
О том, как эта икона попала на Русь, существует несколько версий. По одной версии, эту икону принесла на Русь дочь византийского императора из династии Палеологов София Палеолог. Это произошло в 1472 году. Вскоре она стала супругой будущего великого московского князя Иоанна III, отца Иоанна IV Грозного.
По другой версии, менее популярной, эта икона попала на Русь от галичских князей, а сами галичские князья получили эту икону от византийских императоров как подарок.
Позже, икона Виленской Божией Матери попала в Вильно. Случилось это в связи с тем, что Елена, дочь московского князя Иоанна III и Софии Палеолог, выходила замуж за литовского князя Александра. Родители благословляли её на брак именно этой иконой.
Изначально, икона находилась в покоях резиденции литовского князя. После смерти княгини Елены, икона была перенесена главный и древнейший храм города Вильно—Успенский кафедральный собор, который также назывался Пречистенским, и была установлена над могилой княгини.
Когда началась Ливонская война, русские пытались уговорить литовцев отдать им Виленскую икону. Взамен этого они обещали отпустить несколько десятков пленных. Однако литовцы от данного предложения отказались.
В 1596 году была провозглашена Брестская уния. В следствии этого, почти все православные храмы Литвы оказались под владением униатов. Униаты также забрали себе и Пречистенский кафедральный собор, в котором находилась Виленская икона Богородицы. Для спасения её от униатов православные монахи решили перенести икону в церковь святителя Николая, которая на тот момент еще была православная. Однако вскоре и эта церковь попала во владение униатов. Тогда икону перенесли на прежнее место пребывания.
После этого, русские предприняли множество попыток вернуть икону в свое владение. Одну из них принял московский царь Алексей Михайлович, который вошел в Вильно и захватил власть в городе. Царь Алексей назначил Шаховского главным воеводой Вильно, и поручил ему найти икону Виленской Божией Матери. Однако попытки поиска успехом не увенчались.
Икона Виленской Божией Матери не покидала Литву, даже после присоединения Литвы к России.
После начала Первой Мировой войны, архиепископ Тихон (будущий патриарх Всероссийский) приказал вывезти из Литвы в Москву все православные святыни, в том числе Виленскую икону Богородицы. Её спрятали в Донском монастыре. Дальнейшая её судьба, к сожалению, неизвестна.