Чарльз Еліот народився 20 березня 1834 в Бостоні, штат Массачусетс. Закінчив Бостонську латинську школу (1849) і Гарвардський університет (1853). З 1854 – викладач математики, у 1858-63 – професор математики та хімії в Гарварді. В наступні два роки вивчав освітні системи європейських країн, використавши для цього спадщину свого діда і невелику позику.
Підхід Еліота до вивчення європейської освіти був незвичайним. Він не обмежував свій інтерес освітніми установами, а досліджував роль освіти в усіх аспектах суспільного життя, приділяючи особливу увагу взаємозв'язку між освітою та економічним зростанням. Розуміючи взаємозалежність освіти і підприємництва, він у листі своєму двоюрідному братові Артуру Т. Лайману розповів про цінність для хімічної промисловості Німеччини відкриттів, зроблених в університетських лабораторіях. Він також визнавав, що європейські університети залежать від підтримки урядів, а американські муситимуть спиратися на ресурси заможних людей.
Поки Еліот був у Європі, йому випала нагода увійти у світ активного бізнесу. Одна з найбільших текстильних фабрик у США запропонувала йому стати її керівником. Незважаючи на вмовляння друзів і привабливість величезної на той час зарплати в 5000 доларів (плюс гарний будинок без орендної плати), Еліот, добре обміркувавши пропозицію, відмовився від неї. Один з його біографів припускає, що на той час він, безсумнівно, усвідомив, що має сильний потяг до організації та адміністрування. І лише така посада дала б йому простір для самореалізації.
Еліоту було лише 35 років, коли його обрали наймолодшим президентом в історії найстарішого університету США. Як президент Гарварду, він запропонував реформу професійних шкіл, розвиток дослідницьких факультетів і загалом розширення навчальної програми. Водночас вища освіта у вирішальних аспектах зберігала – і навіть посилювала – її традиційні духовні традиції та функції виховання характеру. Еліот вважав, що в кожного індивідуального розуму «своя особлива конституція». Проблема, як з погляду всебічного розвитку здібностей людини, так і з погляду максимізації її соціальної корисності, полягала в тому, щоб представити їй курс навчання, достатньо змістовний, щоб «розкрити їй, або принаймні її вчителям і батькам, її здібності та смаки». Зробивши усвідомлений вибір, людина може займатися будь-якою спеціалізованою галуззю знання, яку вважатиме доцільною.
Під керівництвом Еліота Гарвард ухвалив «факультативну систему», яка надала студентам можливість вибору навчальних предметів. У другій половині ХІХ ст. за прикладом Гарварду факультативний вибір навчальних предметів студентами стає характерним для більшості університетів і коледжів США. Розширення аспірантури та професійних шкіл і факультетів Гарварду сприяло спеціалізації, водночас зробивши університет центром передових наукових і технологічних досліджень. Це супроводжувалося змінам й у викладанні: зменшення лекційних і збільшення семінарських занять, посилена увага до оцінювання індивідуальної успішності.
Керівництво Еліота зробило Гарвард не лише лідером серед американських вишів, а й ключовим учасником реформи середньої школи. І елітні, і державні середні школи почали формували свої навчальні програми відповідно до вимогливих стандартів Гарварду.
Еліот вийшов на пенсію 1909, пропрацювавши 40 років на посаді президента (найдовший термін в історії університету). Він був удостоєний честі першого почесного президента Гарварду. Помер Чарльз Еліот 22 серпня 1926.