Né le 27 juillet 1851 à Osterode am Harz, Johann « Hans » Bertold Alexander von Zwehl, fils de fonctionnaire, intègre l'armée dès l’âge de 19 ans lors de la guerre franco-allemande de 1870. De simple aspirant, il grimpe progressivement les échelons : lieutenant, capitaine, colonel… Il est affecté à l’état-major général, et atteint le grade de général de corps d’armée à la fin de sa carrière après avoir commandé la 13^e division à Münster. Il quitte le service actif en 1908, mais il est rappelé lors de la mobilisation pour la Grande Guerre et s’illustre lors de la prise de Maubeuge, qui lui vaudra d’être décoré en 1914 de la médaille du mérite par l’empereur. Il est ensuite nommé gouverneur d’Anvers jusqu’à la fin de la guerre.