وسميت جزيرة كيفالونيا بهذا الاسم نسبة إلى الملك كيفالس الذي تزوج ابنة الملك البطل ثيسيس، ووفقا للأسطورة، فقد جاء إلى الجزيرة لأنه قتل زوجته، وذكر الباحثون أن حفيد كيفالس هو أوديسيس، وقد قسمت الجزيرة إلى أربع ولايات وفقا لأبناء كيفالس وهي كراني، بروني، سامي وبالي، وتظهر أسوار كراني الضخمة مراحل التطور التاريخي للجزيرة، من الأزمنة القديمة حتى سنوات الإمبراطورية الرومانية.
وأثناء العصور الإغريقية تأثرت جزيرة كيفالونيا سياسيا بكورينث واثينا، حيث استخدمتها هذه الأخيرة كقاعدة لعملياتها ضد إسبرطة ومنذ 373 قبل الميلاد كانت الجزيرة والبحر الأيوني جزءا من تحالف أثينا، وفي عام 189سنة قبل الميلاد، مرت الجزيرة إلى الإمبراطورية الرومانية، وقاوم سكان سامي مقاومة رائعة استمرت أربعة اشهر متواصلة، وبسبب هذه المقاومة تم فصل الجزيرة وبيع سكانها كعبيد، وكانت الجزيرة ما بين 394 ـ 1185 ميلادية تابعة للإمبراطورية البيزنطية، ثم تم تحريرها عام 1195.
وتمت السيطرة عليها من قبل الأتراك عام 1479ولعبت جزيرة كيفالونيا دورا مهما في حوض البحر المتوسط إذ كانت موانئها نقطة عبور مهمة لدول الشرق الأوسط، وأثناء الهيمنة الفرنسية تم تنظيمها وأنشئ فيها العديد من المدارس ومطبعة ومكتبة قومية، ونجح سكانها في التحرر من الاستعمار عام 1800 ولكن تم الاستيلاء عليها مرة أخرى من قبل الانجليز، وبالرغم من المعاناة فقد جاءت معاهدة لندن في عام 1863، حيث سمحت باتحاد الجزيرة وضمها إلى باقي الدولة اليونانية الحرة.