Im Zuge des VENONA-Projekts kam ihm der amerikanische Militärnachrichtendienst auf die Spur. Nachdem die Vorwürfe wegen Spionage gegen ihn erhoben worden waren, flohen er und seine Familie am 22. Juni 1950 vorerst nach Mexiko; von hier aus wollte er sich nach Europa und dann weiter in die Sowjetunion absetzten. Dies scheiterte letztlich daran, dass er die notwendigen Ausweispapiere nicht besaß. Am 16. August 1950 wurde er von Zielfahndern des FBI verhaftet. Er wurde in die USA gebracht und dort wegen Verschwörung und Spionage gemeinsam mit Ethel und Julius Rosenberg angeklagt. Das Gericht unter Vorsitz von Richter Irving Kaufman befand ihn der gemeinsamen Verschwörung mit Julius Rosenberg für schuldig und verurteilte ihn am 29. März 1951 zu 30 Jahren Haft, von denen er bis 1969 fast 18 Jahre (bis 1963 in Alcatraz) absitzen musste.
Auch nach seiner Freilassung behauptete Sobell seine Unschuld und stellte seine Verurteilung als einen Justizirrtum dar. Hierzu veröffentlichte er 1974 auch sein biografisches Werk On Doing Time, in welchem er detailliert seine Erfahrungen in der sogenannten „Rosenberg-Verschwörung“ darstellte.
Erst im September 2008, im Alter von 91 Jahren, gab er in einem Interview mit der New York Times zu, dass er während des Zweiten Weltkriegs militärische Geheimnisse an die Sowjetunion preisgegeben hatte.[2]