Le Junkers J2 était le successeur direct du Junkers J 1 et conçu selon les mêmes principes de base. Chasseur monoplace équipé d'un moteur Mercedes D II(en) de 88 kW, les premiers essais en vol eurent lieu début 1916. Le moteur se révéla être inadapté car lors de figures acrobatiques, l'alimentation en carburant s'interrompait.
Vers le milieu de l'année 1916, le nouveau moteur Mercedes D III de 118 kW s'avéra être meilleur mais le pilote Max Schade s'écrasa au-dessus de la ville de Dessau le à bord d'un avion de ce type. Le comportement en cabrage excessif (décrochage) était trop difficile à maîtriser même pour un pilote d'essai expérimenté.
En outre, avec ses 1 185 kg, il était aussi trop lourd de sorte que sa manœuvrabilité et sa vitesse ascensionnelle étaient incompatibles avec les performances exigées d'un chasseur. Ceci provoqua la fin du développement. Sa vitesse maximale de 185 km/h était par contre relativement bonne. Le premier exemplaire avait une envergure de 11,00 m et les cinq suivants 11,70 m.