同I号坦克一样，II号坦克首次登场是在西班牙，当时少量的II号坦克参战，实战证明，他不是装备了45mm火炮的苏联T-26s的对手。II号坦克随装甲部队大量使用是在波兰和法国战役中，后又大量在隆美尔的非洲军团中使用，在苏联战场中较少看到它的身影。
II号坦克装甲薄，防护能力差，而它的20mm火炮也证明对付其他装甲车辆效果不佳。它在战斗中没有能起到太大的作用，但为指挥官提供了大量的经验。同其它坦克一样，以它的底盘发展一系列变形车如MarderII、Wespe等。
从1939年12月22日起，德国又开始一系列项目发展专门的战场侦察坦克，开发了VK901、VK903、VK1601、VK1301等，但这些项目最终都取消了。作为这些发展的延伸，生产了AusfJ（VK1601）和AusfH（VK903）。
J型是和I号坦克F型共同开发的“突击坦克”，用途是支援步兵突破敌军要塞，因此拥有重装甲并减低了行驶速度。
J型虽然使用Ｇ型的底盘为基础，但由于设计理念截然不同所以做了大幅度改进：它的车体前部装甲达到80毫米（与四号坦克H型相当），整体外形短粗精悍并将出入舱口设在车体侧部。J型也使用交错排列负重轮并换装了极宽的履带，这可能是受到一号坦克F型的影响所致，二号J型和一号F型都有“缩水虎I”的外号。
J型原计划生产30辆，但从1942年4月至12月总共只生产了22辆。在1943年，7辆VK1601（AusfJ）被装备到东部前线的第12装甲师，1944年，其中一辆被改装为抢救车辆。在1944/45年，同样的车辆装备到116装甲师的抢修部队。
II号J型虽使用G型的底盘为基础，车体前部装甲达到80毫米，整体外形短粗精悍并将出入舱口设在车体侧部。J型也使用交错排列负重轮并换装了极宽的履带，这可能是受到I号坦克F型的影响所致，II号J型和I号F型都有“缩水虎I”的外号。