琅琊这个地名如雷贯耳，最初是春秋齐国滨海邑地，秦设三十六郡之琅琊郡，初代治所为琅琊县，即今青岛黄岛琅琊镇，秦始皇曾立琅琊台于此，是秦汉东部沿海重镇。

西汉将郡治西迁东武，即今山东诸城，辖今青岛、日照、潍坊南部及苏北赣榆一带，琅琊王氏、诸葛氏等世家均出自这片本土琅琊。

东汉改郡为琅琊国，先定都莒县，后迁至开阳（今临沂市区），此后临沂长期成为琅琊行政中心。
永嘉之乱后北方士族南迁，东晋在今南京设立侨置南琅琊郡，只为安置流民，无实土，陈朝时废除。

隋唐两度将沂州改称琅琊郡，治临沂，唐乾元元年彻底裁撤琅琊郡建制，此后再无官方琅琊行政区。

后世琅琊仅作郡望文化名号，如今临沂的别称为琅琊，青岛琅琊镇留存琅琊台古迹，两处分别对应秦汉滨海旧郡与中古文脉琅琊。

琅琊王是分封琅琊郡（琅琊国）的皇室藩王，存在过西汉、东汉、曹魏、东吴、西晋、东晋、北朝、唐八个朝代的琅琊王，其中司马睿是历史知名度最高的琅琊王。第一位琅琊王叫刘泽，由吕后所封。司马睿永嘉南渡依靠琅琊王氏建立东晋，即晋元帝。最后一位琅琊王叫李冲，因讨伐武则天被杀。

琅琊郡的历史名人众多，琅琊王氏为中古第一望族，“王与马，共天下”，有30 余位宰相、数十位书法家、名臣，如王祥、王导、王敦、王羲之、王献之等等；琅琊诸葛氏一门分仕魏蜀吴，有诸葛亮、诸葛瑾、诸葛诞、诸葛恪等；琅琊颜氏世代传儒学、重气节，唐代书法与忠义巅峰，如大名鼎鼎的颜真卿；琅琊萧氏南渡后崛起，建立齐、梁两朝帝王，文坛极盛，有萧道成、萧衍等等。