Les Kerkennah sont décrites par Hérodote dans son Enquête rédigée au Ve siècle av. J.-C. :
« Auprès de ce pays est, au rapport des Carthaginois, une île fort étroite, appelée Cyraunis ; elle a deux cents stades de long. On y passe aisément du continent ; elle est toute couverte d'oliviers et de vignes. Il y a dans cette île un lac, de la vase duquel les filles du pays tirent des paillettes d'or avec des plumes d'oiseaux frottées de poix. J'ignore si le fait est vrai ; je me contente de rapporter ce qu'on dit : au reste, ce récit pourrait être vrai, surtout après avoir été témoin moi-même de la manière dont on tire la poix d'un lac de Zacynthe [...] Ainsi ce qu'on raconte de l'île qui est près de la Libye peut être vrai. »
Les plus anciennes traces historiques remonteraient ainsi à l'époque phénicienne. Le climat ayant probablement été plus pluvieux à cette époque, on retient la description d'un lieu de production agricole.
Jules César, dans sa lutte contre Pompée, y fait une halte en 46 av. J.-C. pour ravitailler sa flotte maritime. Cette représentation contraste avec celle contemporaine d'un lieu quasiment impropre à la culture, même s'il est vrai que les Kerkennah ont longtemps servi de pâture à un important cheptel ovin et caprin. L'archipel accueille Hannibal Barca sur sa route d'exil en 195 av. J.-C., après sa défaite à la bataille de Zama, qui y séjourne quelques années avant de rejoindre la Phénicie du roi Antiochos III de Syrie. De même, Tacite rapporte dans ses Annales qu'il sert durant quatorze ans de prison pour Sempronius Gracchus, amant de Julie qui n'est autre que la fille de l'empereur romain Auguste, qui y est finalement exécuté.
Site archéologique de Bordj Hassar C'est probablement à cette période qu'est construite une cité romaine sur l'archipel. Celle-ci devait se trouver à l'emplacement occupé par le fort de Bordj Hassar — repris par les Ottomans au XVIIIe siècle — qui constitue le seul vestige historique de l'île situé sur la côte occidentale, près de Sidi Frej. Ainsi, des traces de cuves de salaison et de citernes utilisées à une époque où le niveau de la mer était supérieur de deux mètres à son niveau actuel ont été retrouvées. Quelle que soit l'époque, les Kerkennah ne restent donc jamais à l'écart des évolutions du continent en raison de la faible distance de la côte et de la facilité de navigation. Rattachée tour à tour aux provinces d'Afrique proconsulaire, de Numidie et de Byzacène, elle devient un siège épiscopal au IVe siècle et saint Fulgence y aurait bâti le dernier monastère à Erramadia au VIe siècle.
Au VIIe siècle, avec la conquête musulmane du Maghreb, l'archipel se convertit et prend comme nom définitif. Il apparaît vite comme un enjeu dans la rivalité entre les puissances de la Méditerranée occidentale : il est ainsi conquis tour à tour par les Almohades au XIIe siècle. En 1284, Pierre d'Aragon prend le contrôle des Kerkennah et devient pour vingt ans le suzerain de l'amiral Roger de Lauria. L'archipel passe ensuite sous le contrôle des troupes de Roger de Sicile puis des flottes espagnoles et ottomanes au XVIe siècle. Finalement, les Kerkennah sont définitivement conquises par Sinan Pacha pour le compte du sultan ottoman Selim Ier en 1574 et servent de base navale ; beaucoup de Kerkenniens entrent pr la suite dans les marines marchande ou militaire.
Au début de l'année 1807, François-René de Chateaubriand passe plusieurs jours au large de l'archipel dont il mentionne les charfias[3]. Avec l'installation du protectorat français de Tunisie, des relations de voyage sont rédigées et décrivent les Kerkennah et les Kerkenniens en des termes très positifs, proches de l'idéal naturel de Jean-Jacques Rousseau :
« De tous les Orientaux qu'il nous a été donné de voir et d'étudier, les insulaires des Kerkennah sont ceux qui nous ont paru posséder le moins les défauts de leur race. »
L'année 1886 voit l'ouverture de la première école franco-arabe de Tunisie dans le village de Kellabine. En 1945, les Kerkennah recueillent un homme en partance pour un exil en Égypte : le leader nationaliste Habib Bourguiba. En 1946, un Kerkennien nommé Farhat Hached fonde le grand syndicat ouvrier de l'Union générale tunisienne du travail qui participe au mouvement national tunisien aux côtés de Bourguiba. La grande centrale syndicale de la Tunisie indépendante, aura par la suite l'occasion de compter parmi ses dirigeants des Kerkenniens comme Habib Achour et Abdessalem Jerad.