L’arrivée du chemin de fer à Tournai s’inscrit dans le vaste programme ferroviaire lancé par l’État belge dès 1834. Important centre industriel et commercial, notamment grâce au textile et à l’exploitation de la pierre, le Tournaisis bénéficie rapidement du développement de ce nouveau moyen de transport.

Le passage du chemin de fer par Tournai est décidé en 1837, avec la création d’une liaison depuis Gand par Courtrai vers la frontière française. La première gare est établie près du Pont des Trous, au quai de l’Arsenal. Le premier train venant de Courtrai y arrive le 23 octobre 1842. Encore enfermée dans les fortifications de la ville, cette station dispose d’installations particulièrement modestes : quatre voies en cul-de-sac, pratiquement dépourvues de quais, et un bâtiment placé perpendiculairement aux voies. Cette configuration impose de nombreuses manœuvres aux locomotives et devient rapidement inadaptée à l’augmentation du trafic.

Un deuxième bâtiment, plus vaste et disposé en U, remplace la première gare en 1854. Les installations sont progressivement complétées par des bâtiments techniques et une remise à locomotives. Ce bâtiment connaîtra une destinée particulière puisqu’il sera ultérieurement démonté pierre par pierre et reconstruit à Leuze.

Pendant ce temps, Tournai devient progressivement un véritable nœud ferroviaire. Une liaison vers Jurbise est ouverte en 1848, suivie notamment par l’axe Bruxelles – Tournai – Lille et Calais en 1863 et la ligne directe vers Mons en 1872. Le trafic des voyageurs comme celui des marchandises connaît dès lors une forte croissance.

Le démantèlement des fortifications de Tournai, réalisé entre 1863 et 1869, libère enfin les terrains nécessaires à l’extension des installations ferroviaires. Il devient alors possible d’abandonner le site exigu du Pont des Trous et d’envisager une nouvelle gare, mieux adaptée au développement du réseau : la troisième gare de Tournai, construite à son emplacement actuel.