Το ΕΤΗ ιδρύθηκε το 1854[3] από την Ελβετική Συνομοσπονδία και άνοιξε τις πύλες του το 1855 ως πολυτεχνικό ινστιτούτο (Eidgenössische Polytechnische Schule). Στην αρχή αποτελείτο από έξι τμήματα: Αρχιτεκτονική, πολιτική μηχανική, μηχανολογία μηχανική, χημεία, δασολογία και ένα γενικό τμήμα για μαθηματικά, φυσικές επιστήμες, λογοτεχνία και κοινωνικές και πολιτικές επιστήμες.[4]
Το ΕΤΗ είναι ένα ομοσπονδιακό ινστιτούτο, με άλλα λόγια η Ελβετική κυβέρνηση έχει την άμεση διαχείρισή του. Αντίθετα το Πανεπιστήμιο Ζυρίχης (με έτος ίδρυσης το 1833) είναι ένα «επαρχιακό» ινστιτούτο, τη διαχείριση του οποίου έχει αναλάβει το Καντόνι της Ζυρίχης. Η απόφαση για την ίδρυση ενός νέου ομοσπονδιακού πανεπιστημίου αμφισβητήθηκε έντονα εκείνη την εποχή. Οι φιλελεύθεροι πίεζαν υπέρ της ίδρυσης ομοσπονδιακού πανεπιστημίου, ενώ οι συντηρητικοί επιδίωκαν τη διατήρηση του ελέγχου όλων των πανεπιστημίων από τα αντίστοιχα Καντόνια με σκοπό την αποτροπή της διάδοσης φιλελεύθερων ιδεών. Στην αρχή και τα δύο πανεπιστήμια στεγάζονταν στα κτίρια του Πανεπιστημίου της Ζυρίχης.
Το κεντρικό κτίριο του ΕΤΗ κατασκευάστηκε μεταξύ του 1861 και του 1864 όταν διευθυντής ήταν ο Γκούσταβ Τσόινερ. Ο Γκόντφριντ Σέμπερ, καθηγητής αρχιτεκτονικής στο ΕΤΗ εκείνη την εποχή, ήταν υπεύθυνος για τη σχεδίαση του κτιρίου. Μετά την ολοκλήρωσή του, η νότια πτέρυγα δόθηκε στο Πανεπιστήμιο της Ζυρίχης μέχρι την κατασκευή του δικού του κεντρικού κτιρίου (1912 – 1914). Την ίδια περίπου περίοδο το κτίριο του ΕΤΗ επεκτάθηκε και απέκτησε τον εντυπωσιακό του θόλο.
Το 1909, το πρόγραμμα μαθημάτων αναδιαρθρώθηκε και το ΕΤΗ κατοχύρωσε το δικαίωμα να παρέχει διδακτορικούς τίτλους. Το 1911 πήρε το τωρινό του όνομα, Ομοσπονδιακό Ινστιτούτο Τεχνολογίας (Eidgenössische Technische Hochschule). Το 1924 ύστερα από μία ακόμη αναδιάρθρωση, το πανεπιστήμιο διαχωρίστηκε σε 12 τμήματα.
Με ένα νέο νόμο που ψηφίστηκε το 1991 και τέθηκε σε εφαρμογή το 1993, το ΕΤΗ της Ζυρίχης, η EPFL της Λωζάνης και ακόμη τέσσερα ερευνητικά ινστιτούτα, ενώθηκαν διαχειριστικά σε μια οντότητα, γνωστή ως ETH Domain.
Το 2015 είχε 8.704[5] προπτυχιακούς και 5.447[5] μεταπτυχιακούς φοιτητές με προϋπολογισμό 1,7 δις CHF.[5]
Σήμερα, το ΕΤΗ ανήκει στα κορυφαία πανεπιστήμια παγκοσμίως, αποκτώντας τη φήμη του κυρίως λόγω των επιτευγμάτων επιστημόνων του στις περιοχές της φυσικής και της χημείας.
Από το 2004, το ETH Ζυρίχης αποτελείται από τα ακόλουθα τμήματα:[6]
Πολλοί επιστήμονες που τιμήθηκαν με Βραβείο Νομπέλ (όχι μόνο Ελβετοί) έχουν συνδεθεί με το ΕΤΗ Ζυρίχης:
- Ιωάννης Αργύρης, μεταπτυχιακές σπουδές στο ΕΤΗ
- Άλντο βαν Έικ, αρχιτεκτονική — σπούδασε στο ETH
- Χέντρικ Πέτρους Μπερλάγκε, αρχιτεκτονική — σπούδασε στο ETH
- Σαντιάγο Καλατράβα, αρχιτεκτονική — σπούδασε πολιτικός μηχανικός στο ETH
- Καρλ Κούλμαν, μηχανικός κατασκευών
- Μαξ Φρις, αρχικτεκτονική — σπούδασε στο ETH
- Χέρτσογκ και ντε Μορόν, αρχικτεκτονική— και οι δύο σπούδασαν στο ETH και εργάστηκαν από το 1999 ως καθηγητές στο ETH, έλαβαν το Βραβείο Πρίτσκερ το 2001
- Μπερνάρ Τσουμί, αρχικτεκτονική— σπούδασε στο ETH
- Νίκλαους Βιρθ, επιστήμη υπολογιστών, (από το 1999 Επίτιμος Καθηγητής) έλαβε το Βραβείο Τούρινγκ το 1984.
- Χέρμαν Μινκόβσκι — Καθηγητής μαθηματικών στο ETH
- Χέρμαν Βέιλ — Καθηγητής μαθηματικών στο ETH
- Χάιντς Χοπφ — Καθηγητής μαθηματικών στο ETH
- Χέρμαν Αμάντους Σβάρτς — Καθηγητής μαθηματικών στο ETH
- Άντολφ Χούρβιτς — Καθηγητής μαθηματικών στο ETH
- Γιούργκεν Μόζερ — Καθηγητής μαθηματικών στο ETH
- Έντουαρντ Τσέντερ — Καθηγητής μαθηματικών στο ETH