سمي معجم الجيم بهذا الاسم كما قال بعض من فسروا السبب لأن هذا المعجم يبدأ بحرف الجيم ولكن وجدوا لكثير من النقاد أن أحد الكتب من السلسلة لم يبدأ فيه بحرف الجيم لذلك فإن هذا الإحتمال ضعيف .
وهناك إحتمال آخر هو أن السبب كان أن حرف الجيم هو أحد الحروف الخمسة التي جاءت تجمع ما بين الجهر وما بين الشدة وهذا ما ذكره إبراهيم الإبياري.