须与类白血病反应、再生障碍性贫血、传染性单核细胞增多症、骨髓增生异常综合征(MDS)、其他恶性肿瘤(如神经母细胞瘤等)、骨髓外造血反应(雅克什贫血、骨髓纤维化及大理石骨病等)鉴别。临床上出现典型的症状、体征、外周血中查见白血病细胞，骨髓中原始加幼稚细胞≥30％，此时诊断急性白血病并不困难。若是发病初期症状、体征并不典型，外周血不见原幼细胞，此时诊断有一定难度，应与下列疾病进行鉴别诊断。
1.类白血病反应外周血白细胞增多、显著增多和(或)出现幼稚白细胞者称为类白血病反应，通常有感染、中毒、肿瘤、失血、溶血、药物等原因。粒、单核细胞类白血病反应中常有白细胞显著增加，又有外周血中出现幼稚白细胞，但前者中性粒细胞碱性磷酸酶积分显著增高。淋巴细胞性外周血白细胞可轻度增加，但出现幼稚淋巴细胞。一般而言，去除诱因后类白血病反应即可恢复正常，而且通常类白血病反应外周血中红细胞及血小板不受影响，骨髓无白血病样改变。临床上偶有病例的类白血病反应，难与白血病鉴别，此时宜严密观察，辅以免疫、遗传等方法仔细区别。
2.再生障碍性贫血本病临床有贫血、出血、发热、全血象降低，易与低增生性白血病混淆，但是本病肝、脾、淋巴结不肿大，骨髓增生低下而无原始、幼稚细胞比例增高现象。
3.恶性组织细胞病本病是单核-巨噬细胞系统恶性增殖性疾病，临床上可出现发热，贫血，出血，肝、脾和淋巴结肿大，以及全身广泛浸润性病变，很难与白血病鉴别。外周血象也与白血病相似，出现Hb和BPC下降，白细胞降低者超过半数，且可发现幼稚红细胞和幼稚粒细胞，只是若发现恶性组织细胞则高度提示本病。骨髓增生活跃或减低，网状细胞增多，可见到多少不等的组织细胞，按形态可分为一般异常组织细胞、单核样组织细胞、淋巴样组织细胞、多核巨型组织细胞和吞噬型组织细胞，如果见到大量吞噬型组织细胞且出现一般异常组织细胞，则支持诊断本病。恶性组织细胞增生症缺乏特异性诊断手段，骨髓象支持而临床不符合者不能诊断，反之临床支持而骨髓象不符合者不能排除诊断，所以本病依靠综合分析诊断，有时骨髓及淋巴结等活检可以提供一定证据。