Des inscriptions à l’intérieur du temple témoignent de la présence des Pallava, qui régnaient sur la région entre les IIIè et IXè siècle, depuis leur capitale Kanchipuram.
Les Saints poètes Sambandar et Appar évoquent déjà au VIIè, siècle le temple de Tiruvannamalai.
Les Cholas ont régné sur la ville entre le IXè et la fin du XIIIè siècle.
En 1328, les Rois Hoysala établissent leur capitale à Tiruvannamalai.
C’est ensuite les Vijayanagar qui s’en emparent. Sous le règne du Roi Krishnadevarayar (1509-1529), le temple a incroyablement évolué. Ce dernier, fervent dévot de Shiva, a fait construire des mandapam, des gopuram, dont le grandiose Rajagopuram, atteignant 66m.
Au cours du XVIIè siècle, les Nawabs du Carnatic prennent le contrôle de la ville, jusqu’à le fin de l’Empire Moghol.
Après 1753, Tiruvannamalai connaît une alternance de gouvernance tantôt hindoue, tantôt musulmane, qui s’avère assez chaotique. Les français s’emparent de la ville en 1757, puis les Britanniques à leur tour, trois ans plus tard.
Le fameux « Tigre de Mysore », le Tipu Sahib, principal opposant aux britanniques reprend la ville en 1790.
Les Britanniques la récupèrent dans la première moitié du XIXè siècle jusqu’à l’Indépendance de l’Inde, en 1947.