Sekolah Menengah Kebangsaan Tengku Mahmud atau ringkasnya SMKTM telah diasaskan hasil desakan penduduk-penduduk daerah Besut yang inginkan pendidikan Inggeris bagi anak-anak mereka.  Dalam tahun 1953 beberapa orang wakil penduduk telah menemui Pegawai Pentadbir Besut, Encik Abdul Rahman b. Mat bagi membincangkan hasrat mereka untuk membina sebuah sekolah Inggeris. 

            Satu kempen memungut derma untuk pembinaan sekolah telah dilancarkan.  Salah seorang dari wakil, Allahyarham Dato' Bentara Luar, Encik Ismail bin Yusof berjaya mendapatkan sebidang tanah di Kampung Alor Lintang.  Encik Abdul Rahman berusaha untuk mendapat kebenaran dan peruntukan dari pihak atasan, dan usahanya membuahkan hasil pada 9 Januari 1954, terasaslah sekolah yang dikenali sebagai 'Besut Government English School'.

            Seramai 40 orang murid terpilih untuk memasuki darjah satu dengan Cik Fatimah Ahmad, seorang guru lepasan Maktab Perguruan Kirby, England sebagai guru besar yang pertama.  Beliau dibantu oleh seorang guru penolong, Cik Faridah Akmal Abdul Rani dan seorang tukang kebun.  Pada mulanya para pelajar menumpang di Sekolah Pertukangan Besut dan hanya pada Ogos 1954 barulah siap sebuah bangunan kayu yang mengandungi tiga bilik darjah, sebuah bilik guru dan sebuah pejabat kecil.

Pada 14 Ogos 1954, upacara pembukaan rasmi telah disempurnakan oleh Duli Yang Maha Mulia Al-Marhum Sultan Nasiruddin Shah yang diiringi oleh Di-Pertuan Muda, Tengku Mahmud.  Turut hadir dalam upacara tersebut ialah Tuan Pegawai Pelajaran Negeri Terengganu, Mr. A. Hilliday, Pegawai Daerah Besut, M.I.M Edye, pembesar-pembesar negeri, ibubapa pelajar dan masyarakat setempat.

Bersempena upacara ini juga, nama sekolah telah diubah dari 'Besut Government English School' kepada Tengku Mahmud School (Sekolah Menengah Tengku Mahmud) bersempena nama peribadi Duli Yang Teramat Mulia Yang Di-Pertuan Muda ketika itu.

Kelahiran sekolah ini bukan hanya sekadar sekolah Inggeris pertama di daerah Besut, tetapi sebagai anak tangga pertama ke arah pendidikan peringkat menengah di daerah ini.  Sejak dari kelahirannya ditahun 1954 ini, sekolah ini telah berjaya menghasilkan ramai para ilmuan dan profesional yang telah menabur jasa bakti bukan sahaja kepada masyarakat tempatan tetapi tersebar luas ke peringkat negara dan antarabangsa.

Kemasukan tingkatan satu telah bermula dalam tahun 1958 dan sekaligus mengubah status sekolah sebagai sekolah menengah pertama di daerah ini.  Pada tahun 1965, pentadbiran sekolah telah dipecahkan kepada dua bahagian, iaitu sekolah menengah dan sekolah rendah yang kemudiannya menjadi asas kepada Sekolah Kebangsaan Tengku Mahmud.