thumb|upright=2|Cologne vers 1411. Cologne est la plus ancienne des grandes villes d'Allemagne.
Prémices Les premiers indices d’activité humaine de la région de Cologne semblent remonter au Paléolithique ; deux silex taillés retrouvés à Dellbrück et Königsforst (à une dizaine de kilomètres) en témoignent. Des traces d’une colonisation stable sont connues à partir de 4500 , quand les sols de lœss fertiles des plateaux rhénans et un climat devenu tempéré attirèrent des agriculteurs hors des régions du Danube. La découverte significative de la cité d’une tribu de potier a été faite dans le quartier de Lindenthal en 1929. Ce village s’étendait de Hohenlind à Stüttgenhof et fut peuplé puis abandonné à plusieurs reprises entre la fin du et le début du millénaire – à cause, probablement, d’une agriculture extensive qui contraignait parfois les paysans à abandonner leurs colonies jusqu’à ce que le sol redevienne fertile. Des vestiges d’une autre colonisation potière ont été retrouvés à Mengenich.
À la fin du Néolithique, d’autres populations d’agriculteurs vinrent coloniser la région de l’actuelle Cologne, au niveau du quartier de Nippes, du centre ville ainsi que de Merheim et de Brück, villes des environs. La culture campaniforme, la première culture de métallurgistes en Rhénanie, s’établit au cours du millénaire dans toute l’Europe de l’Ouest et laissa derrière elle tant des outils de pierre taillée que de cuivre. Un site funéraire de la civilisation des champs d'urnes, culture du marquée par une évolution dans la culture de la sépulture de l’ensevelissement vers l’incinération, a été retrouvé au sud de Cologne. Des traces d’une autre culture à sépulture de l’âge du bronze – des tumulus – furent retrouvées sur la rive droite du Rhin à Dellbrück, mais aussi rive gauche à Lindenthal, Müngersdorf, Riehl, Longerich et Worringen.
On ne trouve qu’assez tard des traces d’une population celte au cours de l’époque de La Tène ; c’est-à-dire seulement au au sud du Kölner Dom (la cathédrale de Cologne). De l’artisanat propre aux celtes, il n’a été retrouvé à Cologne qu’une unique pièce, au sud-est de l’ancien mur d’enceinte romain : un récipient à anse, à trois cornes.
Cologne, la romaine, fondée par Agrippa en 38
En l'an 57 , Jules César, vainqueur de la Guerre des Gaules, occupa tous les territoires jusqu’au Rhin : il fit construire un pont de bois provisoire à Neuwied, permettant à ses troupes de pénétrer sur la rive droite pendant 18 jours. Le soulèvement des Éburons sous Ambiorix, en l'an 54 fut difficilement réprimé l’année suivante, et la tribu, qui vivait sur la rive gauche du Rhin, entre la Meuse, le Rhin et les Ardennes, fut complètement exterminée par César. Pendant les combats contre les Eburons, César reçut l'aide de la tribu germanique des Ubiens qui peuplait la rive droite du Rhin, et dont quelques guerriers lui servirent d’éclaireurs.
Tacite rapporte que les Ubiens se soumirent à Agrippa, jeune général commandant les troupes romaines en Gaule sous le Consulat d'Octave (futur Auguste). D’autres rapports parlent d’un traité d’alliance que les Ubiens auraient conclu avec les Romains, qui leur accordait de vastes territoires sur la rive gauche du Rhin. On estime généralement l’année de la fondation d'Oppidum Ubiorum par Agrippa, en l'an 38
En effet, Agrippa se rendit deux fois en Rhénanie : en l'an 39 ou 38 et en l'an 20 ou 19 Cette ville aux rues à angles droits se situait à l'abri des inondations du fleuve. Capitale des Ubiens, elle servit également aux Romains de garnison, de port fluvial et de centre religieux. Tout comme à Lyon en Gaule, un autel (en latin ara) fut érigé, après quoi la ville fut également appelée Ara Ubiorum.
Agrippa épousa en l'an 21 Julia, fille d'Auguste, dont il eut une fille Agrippine l'aînée, en l'an 14 , et mourut à Capoue en l'an 12 L'expansion romaine sur la rive droite du Rhin fut conduite de l'an 13 à 9 par Drusus gendre d'Auguste, puis par Tibère de l'an 9 à 6 , puis par Varus. Les légions de Varus furent dramatiquement exterminées par les Chérusques commandés par Arminius à la bataille de Teutoburg en l'an 9
Germanicus, fils de Drusus, frère de Claude et mari d'Agrippine l'Ainée devint général en Gaule et en Germanie en l'an 13 ; il résida à Ara Ubiorum où naquit en l'an 15 ou 16 sa fille Agrippine la Jeune. Il conduisit plusieurs expéditions punitives contre les Chérusques et captura l'épouse d'Arminius en l'an 16
Après que Rome eut abandonné, en l'an 17 , son projet de conquérir la Germanie à l'est du Rhin, Ara Ubiorum, ville romaine frontalière se développa rapidement. Grâce à l'influence d'Agrippine la Jeune, Ara Ubiorum obtint le statut de colonie romaine en l'an 50 et prit le nom de Colonia Claudia Ara Agrippinensium, en abrégé CCAA. Ce nom signifie qu'il s'agit d'une ville de droit romain (Colonia), créée sous le règne de l'empereur Claude (Claudia), à l'emplacement de l'autel des Ubiens (Ara ubiorum), par la volonté d'Agrippine (Agrippinensium). Parmi les colonies romaines, seule Cologne a conservé aujourd'hui ce nom évocateur et significatif du plus haut rang juridique d'une cité romaine.
left|thumb|Römerturm. On construisit un mur fortifié épais en moyenne de , haut de et comportant 19 tours rondes dont l'une, datant du , est parfaitement conservée, et neuf portes furent peut-être en partie commencées dès le ; . La longueur totale de l’enceinte est de , protégeant une ville de 96 haGérard Coulon, Les Gallo-Romains : vivre, travailler, croire, se distraire - 54 av. J.-C.-486 ap. J.-C., Paris : Errance, 2006. Collection Hespérides, , . En l'an 68, année de la mort de Néron et de la terrible crise qui eut lieu à cette occasion, les Bataves et les tribus alliées assiégèrent la ville et obtinrent d'abord la reddition de la population – mais les habitants refusèrent de détruire les fortifications comme on l'exigeait et reprirent le combat avec l'aide des Romains.
Comme à partir de l'an 81 la région militaire autour de Cologne fut élevée au rang de province romaine (la Germanie Inférieure), CCAA reçut en l'an 89 le statut de capitale de province. À cette époque l'approvisionnement en eau de la ville fut amélioré grâce à l'un des aqueducs les plus longs de l'Empire romain qui amenait l'eau de l'Eifel.
Le règne de Trajan, commencé en l'an 98, marque le début d'une période faste pour tout l'Empire romain ; aussi CCAA, grâce à un siècle et demi de paix sans interruption, connut-elle un développement économique et architectural. C'est ainsi que vers 180 un nouveau prétoire fut édifié pour l'administration de la province. Les restes des murs de fondation ont été mis au jour en 1953 lors de la construction du Spanischer Bau de l'actuel hôtel de ville. Les objets manufacturés de Cologne, surtout le verre et la céramique, étaient expédiés dans tout l'Empire romain et au-delà.
thumb|PostumeDans les années 259/60, le commandant militaire Postume affronta Saloninus, le fils de l'empereur Gallien, et fut proclamé empereur des Gaules par les troupes révoltées de la frontière. Postume conquit CCAA et tua Saloninus. Cologne devint alors la capitale du nouvel empire auquel appartinrent la Gaule, l'Espagne (un certain temps) et probablement aussi la Bretagne (l'actuelle Angleterre). Ce n'est qu'en 274 que la reconquête par l'empereur Aurélien mit fin à cet empire séparé, qui avait été provisoirement un temps glorieux pour CCAA. Des monnaies d'or de très bonne qualité à l'effigie de Postume caractérisent cette époque à Cologne. En 276, Cologne fut attaquée par plusieurs peuples germains à l'occasion de l'invasion des Champs Décumates par les Alamans en 259.
Aussi, pour protéger la ville, l'empereur Constantin ordonna-t-il en 310 la construction de Castellum Divitia sur la rive droite du Rhin (Kastell Deutz) qui, en outre, fut relié à la ville par la construction du premier pont permanent en bois sur le Rhin.
Le nombre d'habitants de Cologne est estimé par approximation à environ aux , outre environ dans le proche voisinage. Il régnait une grande diversité de religions et de cultes ; c'est ainsi que des dieux et des déesses germaniques et d'autres religions de l'Empire romain étaient aussi honorés à côté des divinités romaines primitives. En 1882, par exemple, une figure d'Isis était retrouvée dans le mur nord de l'église Sainte-Ursule ; au musée romain-germanique, on peut voir d'autres trouvailles, par exemple pour les déesses-mères montrées le plus souvent par trois (les matrones). Le culte de Mithra, lui aussi, était particulièrement populaire à Cologne.
Après la destruction du temple juif à Jérusalem et la dispersion consécutive des Juifs (la Diaspora), on trouve aussi à Cologne des preuves de l'existence d'une communauté juive. En 321, l'empereur Constantin autorisa l'établissement d'une communauté juive jouissant de toutes les libertés des citoyens romains. Bien qu'on sache peu de choses sur l'emplacement de cette communauté à Cologne - on suppose qu'elle était établie à proximité de la porte de Mars, à l'intérieur de l'enceinte urbaine - la communauté de Cologne est la plus ancienne communauté dont la présence a été prouvée en Allemagne.
thumb|Comment on se représentait au Moyen Âge le martyre de sainte UrsuleUne communauté chrétienne est attestée dès le début du à Cologne, Materne est considéré comme le premier évêque connu de Cologne, en 313 ; le premier témoignage écrit d'une église remonte à 355, mais son emplacement est inconnu. Une salle fut construite dans le cimetière du Nord là où suivant une légende plus tardive un groupe de jeunes filles chrétiennes auraient été victimes des dernières persécutions contre les chrétiens – c'est l'origine de ce qui devait être plus tard le culte de sainte Ursule et des onze mille Vierges.
Depuis l'attaque de 274, Cologne était en proie aux assauts des Germains ; c'est surtout les Francs qui faisaient pression sur le Rhin. À l'automne 355 ils réussirent à conquérir la ville et à la piller ; quelques mois plus tard, elle fut reconquise par l'empereur Julien. Mais, au début du , la fin de la domination de Rome se dessinait en Gaule et aussi en Basse-Germanie, même si Cologne était encore sortie relativement sans trop de dommages de la marche des Germains vers l'Ouest. Une courte reconquête par le magister militum de l'Empire d'Occident Flavius Aetius, entre 435 et 446, accompagne sa victoire sur le roi des Huns Attila (la poussée des Huns vers Cologne offrit de nouveaux matériaux légendaires à l'histoire de sainte Ursule). L'assassinat d'Aetius en 454 signifia la fin de la souveraineté romaine à Cologne ; les Francs conquirent la ville et en firent une viguerie.
Cologne franque thumb|Clovis (médaille, ) Selon l’Histoire des Francs du chroniqueur Grégoire de Tours, lorsque commença la domination des Francs dans l'ancienne région romaine du Rhin et de la Moselle, ils étaient encore divisés en plusieurs groupes ; à Cologne régnait Sigebert le Boiteux, roi des francs « ripuaires » et cousins du mérovingien Clovis . Ce dernier réussit à persuader le fils de Sigebert d'assassiner son père, et le fit tuer ensuite par ses propres délégués. Quand Clovis entra à Cologne, il jura qu'il n'était pour rien dans ce meurtre et proposa sa protection aux habitants – et ceux-ci, dans l'église Saint-Geréon, le proclamèrent avec enthousiasme comme leur souverain et donc le roi de tous les Francs.
À Cologne vivait au temps des Francs un mélange de Francs, d'autres Germains et de Romains avec les religions les plus différentes. La population romaine de la ville parlait encore le latin au . Il subsista jusqu'au des lieux de culte non chrétiens malgré la christianisation croissante de l'empire mérovingien après le baptême de Clovis et malgré le statut de Cologne comme le siège d'un évêché.