Jérôme Kohn a débuté sa carrière dans le secteur des métiers au sein de la Chambre de Métiers de Moselle en région Lorraine, avant de la poursuivre en Ile-de-France en Seine-Saint-Denis. Il y était en charge de la politique de promotion et de développement de la formation et de l'apprentissage, ainsi que de la gestion de la taxe d'apprentissage.
En 2007, il prend la direction d'AREXHOR Seine-Manche, organisme spécialisé d'expérimentation et de recherche appliquée en horticulture d'ornement et du paysage, où il y a notamment développé et consolidé l'inter-régionalisation pour l'unité d'un grand bassin économique horticole Seine-Manche et s'est également largement impliqué dans les projets de l'institut technique agricole ASTREDHOR.
Depuis 2008, Jérôme Kohn est membre du CEDAP (Centre d'études sur le management des organisations professionnelles), organisme qui fédère les directeurs d'organisations professionnelles.