Jost (Johann Josef Wilhelm) Prüm wurde am 7. April 1930 im Herz-Jesu-Krankenhaus der Stadt Trier als Sohn des Weingutsbesitzers Sebastian Aloys Prüm und der Katharina Prüm, geborene Erz, geboren. Der 7. April war ein Montag und die Krankenschwestern wollten ihn - wohl zusammen mit seiner Mutter - zu einem Sonntagskind machen; daher wurde fälschlicherweise in der Geburtsurkunde als Geburtsdatum der 6. April 1945 um 23:55 Uhr vermerkt. Er feierte später immer nur seinen tatsächlichen Geburtstag am 7. April.
Seine ersten beiden Vornamen waren die Namen seines Großvaters und des Weingutes, das er als Erstgeborener übernehmen sollte. Später führte er nur noch den Namen Jost, den Kurznamen von Jodocus.
Jost Prüm machte sein Abitur 1949 in Bernkastel-Kues. Er studierte anschließend Rechtswissenschaften von 1949 bis 1954 in Mainz, Genf, Bonn und Paris. Er war Mitglied des K.D.St.V. Bavaria Bonn, der ältesten katholischen Studentenverbindung in Deutschland.
1954 legte er sein Erstes Staatsexamen in Mainz ab; 1958 bestand er sein Zweites Staatsexamen ebenfalls in Mainz. Von 1958 bis 1960 absolvierte er eine Ausbildung zum Bankkaufmann bei der Deutschen Bank AG in Neuwied.
Er wurde 1958 in Mainz mit seiner Dissertation zu den Verwaltungs- und Kontrollorganen der französischen Société Anonyme zum Doktor beider Rechte (Doctor iuris utriusque) promoviert.
Am 1. November 1958 tritt er in die Deutsche Bank AG, Filiale Mainz ein, wo er zunächst eine Banklehre absolviert. Seit Frühjahr 1965 war ein Teil der Leitung der Niederlassung. Im Herbst 1962 arbeitete er für drei Monate in London bei Glyns, Mills & Co. Ltd. in London (eine Tochtergesellschaft der Royal Bank of Scotland).
Jost Prüm war vom 15. März 1968 bis zum 13. Juni 1996 Mitglied des Vorstands der Saarländischen Kreditbank bzw. Deutschen Bank Saar. Die Errichtung der Saarländischen Kreditbank geht auf die regionale Aufspaltung der Deutschen Bank nach dem Zweiten Weltkrieg und die politische Sonderrolle des Saarlands mit dessen wechselnder Zugehörigkeit zum französischen und zum deutschen Wirtschaftsgebiet zurück. 1947 kam die Deutsche Bank Filiale Saarbrücken mit ihren Zweigstellen unter französische Zwangsverwaltung. Ihre Geschäfte übernahm die Saarländische Kreditbank AG (Crédit Sarrois S.A.), die am 22. Oktober 1947 von einer Gruppe französischer Banken und Industrieunternehmen unter Führung des Crédit Industriel d'Alsace et de Lorraine (CIAL) gegründet worden war. 1955 beteiligte sich die Deutsche Bank AG – damals noch in drei Nachfolgebanken aufgeteilt – am Kapital der Saarländischen Kreditbank, zunächst mit einem Drittel, im folgenden Jahr mit zwei Dritteln. Vertreter der Deutschen Bank zogen in den Aufsichtsrat ein, und an den Filialen tauchte bald darauf der Zusatz "Gruppe Deutsche Bank" auf. 1978 wurde aus der Saarländischen Kreditbank die Deutsche Bank Saar AG; auch vom Namen her sollte sie stärker mit der Muttergesellschaft verbunden werden. 2003 wurde die Deutsche Bank Saar AG auf die Deutsche Bank AG verschmolzen.
Jost Prüm war von 1969 bis 1994 Vorsitzender des Bankenverbandes Saarland und Mitglied des Hauptausschusses des Bundesverbandes deutscher Banken in Bonn.
Von 1969 bis 1993 war er Vorstandsmitglied der Saarländischen Kreditbank AG, Saarbrücken.
Von 1985 bis 1996 war er Präsident der Industrie- und Handelskammer des Saarlandes. Seit 1996 war er Ehrenpräsident der Industrie- und Handelskammer des Saarlandes. Er war in dieser Zeit auch Vorstandsmitglied des Deutschen Industrie- und Handelstages und Schatzmeister des DIHT. Er wurde der erste Präsident der 1990 gegründeten Arbeitsgemeinschaft der Industrie- und Handelskammern der Region Saar-Lor-Lux. Als Präsident der IHK des Saarlandes setzte er sich unter anderem für die ICE/TGV Verbindung nach Paris und den Weiterbau der A 8 nach Luxemburg ein. Von 1968 bis 1996 war er Mitglied der Vollversammlung der Industrie- und Handelskammer des Saarlandes.
Von 1991 bis 1993 war er Präsident der Arbeitsgemeinschaft der Saar-Lor-Lux Industrie- und Handelskammern.
Er war über viele Jahre Präsidiumsmitglied und Schatzmeister der Deutsch-Französischen Industrie- und Handelskammer in Paris. Zudem war er Ehrenmitglied des Präsidiums der Deutsch-Französischen Industrie- und Handelskammer.
Jost Prüm starb am 4. Juli 2017. Er hinterließ seine Ehefrau Heidi, seine Kinder Thomas und Ysabel sowie vier Enkelkinder.