Le mot "barbare" a été inventé par les Grecs pour désigner les peuples étrangers qui ne savaient que balbutier ou bégayer. Il est passé dans la langue latine pour désigner ceux qui étaient incompris des Romains et dont la civilisation était primitive. Pour le Romain, le barbare n'a ni culture, ni justice, ni morale. Tous les peuples que Rome n'a pu soumettre les Afribarbari ou Berbères en Afrique du Nord, les Celtes en Bretagne, les Germains au-delà du Danube et du Rhin sont des barbares. Pour se protéger d'eux, les Romains ont construit des fortifications dont le limesle long du Rhin et du Danube.
Bien que séparés des Barbares, les Romains sont progressivement amenés à les côtoyer, de façon plus ou moins pacifique. Cette proximité modifie lentement la considération des Romains envers les peuples barbares. La vision traditionnelle d'un monde divisé en deux, les Romains d'un côté, les Barbares de l'autre s'en trouve modifiée. On peut alors distinguer les catégories suivantes :
• Les populations barbares dans le Barbaricum, les gentes autour de l'Empire romain.
• Les Barbares entrés individuellement dans l'armée romaine et séjournant d'une façon temporaire dans l'Empire.
• Les Barbares entrés individuellement et définitivement dans l'organisation administrative militaire romaine, habitant donc d'une façon durable dans l'Empire, leurs enfants nés dans l'Empire étant attachés au service de l'Empire.
• Les Barbares entrés en groupe dans l'Empire sous la direction d'un chef : ce sont les foederati liés à leur chef qui a conclu un traité, un foedus, avec l'empereur.
• Les prisonniers de guerre barbares, installés par les Romains dans les provinces de l'Empire, souvent comme laeti (colons-agriculteurs), surtout en Gaule, qui étaient astreint à un service miltaire.
Au Vè siècle, lors de la "migration des peuples", certains Barbares sont alors mieux considérés (ceux qui se battent aux côtés des légions romaines contre les envahisseurs), et à Rome, on fait la distinction entre "Barbares et barbares !" .
Vers 450, Salvien de Marseille oppose Romains à Barbares en dénonçant les vices des uns et en exaltant les qualités naturelles des autres. Ainsi se forme le concept du "bon Barbare" que l'Église va pouvoir évangéliser. Chez Grégoire de Tours, ce mot n'a plus de sens péjoratif.