Okulumuz, 8 yıllık ilköğretim kanununun çıkmasıyla 01 Temmuz 1998 tarihinde, Mersin Ortaokulu ile 3 Ocak İlkokulu'nun birleştirilmesiyle kurulmuştur. Okulumuzun adı, Mersin Ortaokulu'nun MERSİN'İ ile 3 Ocak ilkokulunun ismini alarak MERSİN 3 OCAK İLKÖĞRETİM OKULU olmuştur. ANA BİNA ; Eski Mersin Ortaokulu binası olup Mağazalar Polis Karakolu karşısındadır. 1905 yılında Kapusen rahipleri tarafından
kilise lojmanları olarak taştan yapılmıştır. 1922 yılında MERSİN'in Fransız işgalinden kurtulmasıyla kilise tarafından okul olmak kaydı ile hazineye bağışlanmıştır. Bina 1923 yılında CUMHURİYET İLKOKULU olarak kullanılmış, 1928 yılında şimdiki Borsa Sarayının yerindeki eski binaya taşınmasıyla MERSİN ORTAOKULU olarak açılmıştır. 1945 yılında MERSİN LİSESİNİN(şimdiki TEVFİK SIRRI GÜR LİSESİ) açılmasıyla taşınmıştır. 1945-1966 tarihleri arasında SANAT ENSTİTÜSÜ olarak hizmet vermiş, 1966 yılında ENDÜSTÜRİ MESLEK LİSESİ'nin yeni binasına taşınması ile 2. kez MERSİN ORTAOKULU olarak açılmıştır. 1998 yılından itibaren MERSİN 3 OCAK İLKÖĞRETİM OKULU olarak hizmet vermeye devam etmektedir.
2. BİNA ; Ana bina ile aynı tarihlerde, aynı maksatla yapılmış olup aynı bahçede bulunmaktadır. Dışı taştan ,iç bölümleri bağdadir.
İLK KISIM BİNASI : Eski 5 OCAK İLKOKULU dur. 1974 yılında Mersin'in kurtuluşunun 3 Ocak olması nedeniyle okulun adı 3 OCAK İLKOKULU olarak değiştirilmiştir. Eski binası Kapusen rahipleri tarafından yapılmıştır. 1923 yılında RESMİ KIZOKULU, 1934 yılında FRANSIZ KONSOLOSLUĞU, 1941 yılında ÇOCUK ESİRGEME KURUMU, 1944 yılında ise YUVA İLKOKULU olarak kullanılmış, 1945 yılında 5 OCAK İLKOKULU adını almıştır. Eski binası ihtiyacı karşılamayınca şimdiki arsa üzerine 1968 yılında yeni bina yapılmış olup, 7 KASIM 1968 yılında yeni binasına taşınmıştır. 01 Temmuz 1998 yılında MERSİN ORTAOKULU ile birleşerek eğitim ve öğretime devam etmektedir. KIZILAY BİNASI : 1955 yılında Kızılay ve Yardım Sevenler dernekleri tarafından taş bina olarak yapılmıştır. Uzun süre ORMAN BÖLGE MÜDÜRLÜĞÜ olarak kullanılmış, daha sonra ZİRAİ DONATIM KURUMU ve VETERİNER MÜDÜRLÜĞÜ olarak hizmet vermiştir. 1972 yılında MERSİN ORTAOKULU'na kiralanmış olup, 1998 yılına kadar Mersin Ortaokulu ek binası olarak kullanılmıştır.