Kilisenin ilk kuruluşu ile manastır haline dönüşümü arasındaki bin yıllık dönem hakkında fazla bir şey bilinmemektedir. Karadeniz Rumları arasında anlatılan bir efsaneye göre Atina'lı iki keşiş aynı rüyayı görmüşlerdir. Rüyalarında, İsa’nın öğrencilerinden Aziz Luka’ın yaptığı üç Panagia ikonundan, Meryem'in bebek İsa’yı kollarında tuttuğu ikonun bulunduğu yer olarak Sümela'nın yerini görmüşler. Bunun üzerine birbirlerinden habersiz olarak deniz yoluyla Trabzon'a gelmiş, orada karşılaşıp gördükleri rüyaları birbirlerine anlatmış ve ilk kilisenin temelini atmışlardır. Bununla birlikte manastırdaki fresklerde sıkça yer alan Trabzon İmparatoru III. Aleksios'un manastırın gerçek kurucusu olduğu sanılmaktadır.