Σπούδασε στη Σχολή Καλών Τεχνών (1928-1934,) με δασκάλους τους Δημήτριο Μπισκίνη, Δημήτριο Γερανιώτη, Σπύρο Βικάτο, Γεώργιο Ιακωβίδη, Θωμά Θωμόπουλο, Γιάννη Κεφαλληνό και Κωνσταντίνο Παρθένη. Παράλληλα, μαθήτευσε για τέσσερα χρόνια (1930-1934), στο εργαστήριο του Φώτη Κόντογλου, ο οποίος τον μύησε στη βυζαντινή ζωγραφική και μουσική.
Το 1935 ταξίδεψε στην Κωνσταντινούπολη και τη Σμύρνη και στη συνέχεια πήγε στο Παρίσι, όπου διδάχτηκε την τεχνική της χαλκογραφίας. Στη γαλλική πρωτεύουσα γνώρισε από κοντά τη ζωγραφική της Αναγέννησης, τον Ιμπρεσιονισμό και το έργο του Θεόφιλου από τη συλλογή του Teriade. Συνάντησε επίσης τον Matisse, τον Laurens και τον Giacometti. Το 1936 επέστρεψε στην Ελλάδα και δύο χρόνια αργότερα οργάνωσε την πρώτη ατομική του έκθεση στο κατάστημα του Θ. Αλεξόπουλου στην Αθήνα. Ακολούθησαν πολλές ατομικές παρουσιάσεις, μεταξύ των οποίων αναδρομικές το 1952 στο Βρετανικό Συμβούλιο, το 1966 στη γκαλερί Άστορ και το 1981 στο Αρχαιολογικό Μουσείο της Θεσσαλονίκης. Το 1980 οργανώθηκε ατομική έκθεση του Γιάννη Τσαρούχη στο Grand Palais στο Παρίσι. Η εκθεσιακή του δραστηριότητα περιλαμβάνει επίσης συμμετοχές σε εκθέσεις της ομάδας "Αρμός", της οποίας υπήρξε ιδρυτικό μέλος, σε ομαδικές, Πανελλήνιες και διεθνείς, όπως οι Μπιενάλε της Αλεξάνδρειας το 1955 και της Βενετίας το 1958.
Από το 1928 ξεκίνησε την επαγγελματική του ενασχόληση με τη σκηνογραφία, που καλύπτει ένα σημαντικό μέρος της καλλιτεχνικής του δημιουργίας και περιλαμβάνει συνεργασία με το Εθνικό Θέατρο, τη Λυρική Σκηνή, το Θέατρο Τέχνης του Κάρολου Κουν, το Αρχαίο Θέατρο της Επιδαύρου, το Covent Garden του Λονδίνου, τη Dallas Civic Opera του Τέξας, το Theatre National Populaire του Παρισιού και το Teatro Olympico της Βιτσέντζα. Συνεργάστηκε επίσης με σημαντικούς έλληνες και ξένους καλλιτέχνες, όπως η Μαρία Κάλλας, η Κατίνα Παξινού, ο Αλέξης Μινωτής, ο Μιχάλης Κακογιάννης, ο Jules Dassin και o Franco Zeffirelli. Την περίοδο 1960-1962 εξάλλου δίδαξε σκηνογραφία στη Σχολή Δοξιάδη. Παράλληλα ασχολήθηκε με την εικονογράφηση βιβλίων, ενώ, στο πλαίσιο του ευρύτερου ενδιαφέροντός του για την τέχνη, έγραψε κείμενα και κριτικές που αργότερα εκδόθηκαν σε βιβλία.
Το 1967, λόγω των πολιτικών συνθηκών, πήγε και πάλι στο Παρίσι, απ' όπου επέστρεψε οριστικά το 1980. Δύο χρόνια αργότερα εγκαινιάστηκε το "Ίδρυμα Τσαρούχη" στο Μαρούσι (www.tsarouchis.gr), που στεγάζεται στο σπίτι του καλλιτέχνη και περιλαμβάνει έργα δικά του αλλά και άλλων καλλιτεχνών.Από τους σημαντικότερους εκπροσώπους της "Γενιάς του '30", ο Τσαρούχης ενσάρκωσε στο έργο του το ιδανικό της ελληνικότητας. Με πολλαπλές επιρροές από την ελληνιστική και τη βυζαντινή τέχνη, την τέχνη της Αναγέννησης και των νεότερων χρόνων, το έργο του Μαtisse, του Θεόφιλου και του Κόντογλου, αλλά και τις φιγούρες του Καραγκιόζη, διαμόρφωσε ένα ιδιαίτερο προσωπικό ύφος και απεικόνισε τοπία, νεκρές φύσεις, γυμνά και αλληγορικές σκηνές. Το ενδιαφέρον του όμως εντοπίστηκε κυρίως στην ανθρώπινη μορφή, δημιουργώντας μεμονωμένα πορτρέτα, αλλά και σκηνές με ναύτες και στρατιώτες, που αποτελούν ένα χαρακτηριστικό μέρος του έργου του.
Εξαιρετικά διαφωτιστική σε σχέση με την επαναφήγηση της καλλιτεχνικής του διαδρομής, η έκδοση "Γιάννης Τσαρούχης - Ζωγραφική" (1990, Έκδοση Ιδρύματος Γιάννη Τσαρούχη), που επιμελήθηκε ο ίδιος κατά το μεγαλύτερο μέρος της, σε συνεργασία με τη Νίκη Γρυπάρη. Από τις πλέον ουσιαστικές απόπειρες προσέγγισης του έργου του μετά το θάνατό του, υπήρξε εξάλλου και η έκθεση "Γιάννης Τσαρούχης. Ανάμεσα σε ανατολή και Δύση. Επιλογές από τη συλλογή του Ιδρύματος Γ. Τσαρούχη" (επιμέλεια: Άννα Καφέτση, Εθνικό Μουσείο Σύγχρονης Τέχνης, 24/2-3/6/2000).
Το Δεκέμβριο του 2009 εγκαινιάστηκε αναδρομική έκθεση του έργου του στο Μουσείο Μπενάκη.