Всё началось в 1969 году. Братья Дерек, Рей и Фил Шульманы принимают решение распустить свой R&B коллектив Simon Dupree and the Big Sound с целью создания новой группы в ином музыкальном направлении. К ним присоединяются ударник Мартин Смит и клавишник Кери Минниар, закончивший Королевскую Музыкальную Академию, как композитор. Завершил состав гитарист Гэри Грин. Так родилась группа Gentle Giant.

Музыканты подписали контракт с прогрессивным лейблом Vertigo и приступили к записи дебютной пластинки. Одноимённый альбом показал их музыкальное мастерство. Они использовали контрапункты так, как не могла ни одна рок группа (и не в состоянии по сей день). Композиции дополнялись многоголосными вокальными партиями и звуками классических инструментов. В поддержку диска был организован небольшой тур по Британии.

Второй диск Acquiring the Taste (1971) пошёл ещё дальше. Музыканты углубились в джаз и фолк, стали прибегать к сложным гармониям и формам. Поэтому на обложке альбома с говорящим названием «Приобретение вкуса» изображена сатирическая картинка, а внутри напечатано послание группы. По сути, это был обет: расширять границы современной музыки, рискуя оставаться непопулярными. Тем не менее, им удалось привлечь внимание Яна Андерсона из Jethro Tull, который предложил ребятам поехать с ним в турне в качестве разогревающей группы. Мартин Смит решает покинуть группу. На его место приходит молодой и целеустремлённый барабанщик Малкольм Мортимор. Обновлённый состав записывает Three Friends, ставший первым концептуальным альбомом группы. Прямо перед началом промо-тура летом 1972 года Мортимор попадает в аварию на своём мотоцикле. Ему нашли постоянную замену в лице Джона Уэзерса. После периода реабилитации, Малкольм продолжил профессиональную карьеру и играет по сей день. Но об этом чуть позже.

С приходом Уэзерса, образовалась прочная основа группы. Коллектив начинает набирать популярность в Италии и Германии. Музыканты возвращаются в студию для записи Octopus. Ещё до его релиза Gentle Giant отправляется в первое американское турне совместно с Black Sabbath в поддержку пластинки Three Friends, изданной в США под лейблом Columbia. Только эти два фактора не смогли выстрелить. На помощь пришёл Ян Андерсон, позвав ребят в очередное турне. И «гиганты», наконец, смогли ворваться в североамериканскую музыкальную индустрию.В первый зимний день 1972 года выходит четвёртый альбом Octopus. Самый старший участник группы (примерно на 10 лет) Фил Шуман решает уйти из группы и музыкального бизнеса в целом, чтобы уделять больше времени жене и детям.

Black Sabbath основывает лейбл World Wide Artists для переиздания собственной дискографии. Gentle Giant покидает Vertigo и присоединяется к WWA. В 1973 выходит пятый альбом In a Glass House, признанный поклонниками одним из лучших. Американская звукозаписывающая компания отказалась издавать диск у себя на том основании, что его звучание казалось чрезмерно электронным и «трудноусвояемым». Однако впоследствии импортированные копии пластинки разошлись 250 тысячным тиражом в США. Продолжаются обширные гастроли. Особенно успешными оказались концерты на Западном побережье и в Канаде.

Шестой альбом The Power and the Glory приносит новые ритмические и атональные эксперименты. Пластинка выходит в США на лейбле Capitol и хорошо продаётся. В Великобритании дела обстоят хуже. Релиз оказался сорван из-за компании WWA (вскоре оказалась закрытой). В 1975 Gentle Giant самостоятельно гастролирует и даёт наибольшее число концертов за всё время. Следующий альбом Free Hand записывается на лейбле Chrysalis и достигает Топ-30 и Топ-50 в британских и американских чартах соответственно. Это делает пластинку самой продаваемой в истории группы. На волне успеха записывается Interview, выпущенный в 1976.

В целом Interview оказался менее успешным, хотя в некоторых европейских странах и занимал высокие строчки хит-парадов. Его идея основывалась на глупых вопросах, полученных от музыкальных журналистов. Увы, тему не удалось развить до конца, как это было в предыдущих работах. Группа также отказалась от большинства акустических инструментов, чтобы достичь более рокового звучания.

В рамках европейского турне записан двойной концертный альбом Playing the Fool и выпущен осенью 1977. Запись доказала, что музыканты в состоянии играть такой сложный материал вживую. Это был пик популярности Gentle Giant. Ребята принимают решение играть свежие композиции перед публикой, прежде чем приступать к студийным сессиям. В конце 70-х настали не лучшие времена для прогрессивного рока. Многие группы начали переходить на коммерческое звучание. Братья Шульманы решили записать следующий диск чуть проще, ориентированным на AOR. В итоге получился The Missing Piece (1977), содержащий последние экскурсы в мир прог-рока. Это первый альбом, с которого выпустили синглы. Только музыкантам не удалось произвести ожидаемого фурора среди молодых слушателей.

После непродолжительных гастролей, начинается запись Giant for a Day. Треки становятся простыми и непродолжительными, также придумано изображение обложки несвойственное прог-альбомам. Так они хотели показать выбор нового направления. Однако релиз 1978 года опять не смог привлечь новую публику. Тем временем, старые фанаты оказались не в восторге.

В 1979 музыканты приступают к записи Civilian, ориентированном на стадионный хард-рок. Пластинка выходит в 1980, и группа отправляется в американское турне. Увы, последняя попытка достигнуть коммерческого успеха провалилась. По завершению гастролей Gentle Giant распадается. Дерек Шульман становится вице-президентом PolyGram Records и остаётся в музыкальном бизнесе на стороне издателя и сегодня. Рэй и Гэри объединяются под названием Shout и записывают один единственный сингл. Рей Шульман начинает писать музыку для ТВ и рекламы, в 84 пробует себя в продюсировании, а в 94 пишет музыку для компьютерных игр. Кери Минниар играет в церкви на органе вплоть до 1988, затем приступает к написанию музыки для телевизионных сериалов и обучающих программ. Джон Уэзерс играет с уэльскими рокерами из Man. После их распада в 1997, продолжает играть, как свободный музыкант. Гэри Грин после сессий с Эдди Джобсоном в 1983 продолжает играть в качестве хобби, но всё меняется в наши дни.

В 2008 году Гэри Грин возрождает группу под названием Three Friend. Но это уже совсем другая история.