Большинство прикладных и теоретических вопросов, решаемых геофизикой, связано с изучением не только Земли, но и окружающего пространства, доступного и недоступного непосредственному прямому наблюдению.
История геофизики сложна из-за неравномерности развития её крупных разделов и ещё недостаточно разработана. Так как освоение планеты невозможно без элементарных геофизических наблюдений - измерения расстояний, определения направлений на морях и океанах, описания и систематизации стихийных бедствий и т.д., то естественно, что элементы наблюдательной геофизики известны с глубокой древности, а суждения о различных геофизических явлениях встречаются у многих античных учёных. Предпосылки для создания геофизики как науки заложены в 17-19 вв., когда были открыты основные законы макроскопической физики и осознана необходимость перехода к глобальным наблюдениям и созданию геофизических обсерваторий для накопления большей частью наблюдений. Как комплексная самостоятельная наука геофизика определилась к середине 19 века, когда были накоплены достаточно обширные материалы геофизических наблюдений, позволившие приступить к их обобщению и физическому истолкованию. На основании полученных результатов началось систематическое изучение строения и физических свойств твёрдой, жидкой и газообразной оболочек Земли. Чисто условно завершение первого этапа формирования геофизики как комплексной многоотраслевой науки можно отнести к 1-му Международному геофизическому году (1882-1883), проведённому по инициативе австрийского учёного К. Вайпрехта (сам год получил название Международного полярного года, МПГ). В проведении МПГ приняли участие Россия, Дания, Германия, Франция, Нидерланды, Норвегия, Австро-Венгрия, Швеция, Италия и другие страны, которые организовали ряд экспедиций в полярные широты. Председателем полярной комиссии (руководившей всей работой МПГ) был избран директор главной геофизической обсерватории в Петербурге академик Г. И. Вильд.
В начале XX века геофизика утратила центральное положение в естествознании. Качественно новый этап развития геофизики начался в конце 30-х - начале 40-х гг., когда были построены первые реальные сейсмические модели Земли. С 60-х гг. благодаря использованию ЭВМ, автоматизации наблюдений и их обработки неизмеримо вырос объём собираемой и перерабатываемой информации. Использование достижений и методов физики твёрдого тела и физики высоких давлений позволило перейти от проблемы внутреннего строения Земли к физике земных недр. Космические исследования неизмеримо расширили возможности геофизики. Возникла новая наука - сравнительное планетоведение, в которой геофизические методы играют определяющую роль. Значение геофизики резко возросло в связи с тем, что стоящие перед ней проблемы - изучение и оценка природных ресурсов, охрана окружающей среды, прогноз погоды и стихийных бедствий, исследование Мирового океана, космические исследования, контроль за ядерными испытаниями - принадлежат к числу основных глобальных проблем. В связи с этим геофизика снова выдвинулась на одно из центральных мест в современном естествознании.
Геофизические методы исследования недр начали развиваться с 20-х гг. XX в. Однако физико-математические основы геофизики были заложены значительно раньше. Также давно началось использование физических полей Земли для практических целей. Ранее других методов возникла магниторазведка. Первые сведения о применении компаса для разведки магнитных руд в Швеции относятся к 1640 г. Теория гравитационного поля Земли берет свое начало с 1687 г., когда И. Ньютон сформулировал закон всемирного тяготения. В 1753 г. М.В. Ломоносов высказал мысль о связи значений силы тяжести на земной поверхности с внутренним строением Земли и разработал идею газового гравиметра. Его же работы в области сейсмологии, атмосферного электричества можно считать первыми, относящимися к геофизическим исследованиям Земли. Первыми работами по электроразведке являются проведенные в 1830 г. наблюдения Р. Фокса (Англия) за естественной электрической поляризацией сульфидных залежей. В 70-90-е гг. XIX в. профессора Московского университета Б.Я. Швейцер и Ф.А. Слудский выявили путем экспериментальных маятниковых наблюдений и теоретических расчетов Московскую гравитационную аномалию. Наличие ее и оцененная глубина залегания возмущающих масс (около 2 км) подтверждены современными гравиметрическими съемками и бурением.
В 1829 г. в Париже, в Трудах Парижской Академии Наук появилась статья С.Д. Пуассона, посвященная применению волнового уравнения для описания распространения упругих волн в твердых средах. Эта статья оказалась основополагающей для описания всей акустики твердых сред и основного направления ее - сейсморазведки. Решив волновое уравнение для двух граничных условий, С.Д. Пуассон получил выражения для описания продольных и поперечных упругих колебаний.
В 1885 г. Д.В. Рэлей дал описание поверхностных волн (волн Рэлея). И далее, все математики, которым удавалось решать волновое уравнение для определенных граничных условий, могли рассчитывать на увековечивание своего имени в результате того, что новый тип упругих колебаний будет назван их именем. Так «возникли» волны Лява, Лэмба, Стонли и др.
В 1909 г. профессор Загребского университета, геофизик А. Мохоровичич объявил о том, что ему удалось средствами сейсморазведки обнаружить на глубине в несколько десятков километров границу между породами мантии и коры Земли. Эту границу назвали поверхностью Мохоровичича. Следом за Мохоровичичем австрийский геофизик В. Конрад сделал аналогичное «открытие», согласно которому на глубине от 10 до 70 км существует граница между гранитом и базальтом. Затем, уже после этого было объявлено, что средствами сейсморазведки обнаружено, будто толщина (или, как говорят геологи, мощность) коры под океанами меньше, чем под материками. А также, что ядро Земли находится в жидком состоянии.
В середине XIX в геофизика окончательно выделилась в самостоятельную науку.
В 1913 г. К. Шлюмберже (Франция) разработал метод электроразведки постоянным током, а в 1918 г. К. Зунберг и Н. Лунберг (Швеция) предложили электроразведку переменным током.
Со времени установления Ш.О. Кулоном закона взаимодействия магнитных масс (1785) начинает развиваться теория земного магнетизма. Первыми систематическими разведочными работами в России и в мире были съемки Курской магнитной аномалии (КМА), начатые профессором МГУ Э.Е. Лейстом в 1894 г., а также магнитные съемки, проведенные на Урале Д.И. Менделеевым и в районе Кривого Рога И.Т. Пассальским в конце позапрошлого века. В 1919 г. будущим профессором МГУ и основателем кафедры геофизики МГУ (1944) А.И. Заборовским были начаты магнитные съемки на КМА. Именно эти работы можно считать началом развития отечественной разведочной геофизики. Теоретические работы начала прошлого века Э. Вихерта (Германия) и Б.Б. Голицына (Россия) в области сейсмологии имели самое непосредственное отношение к созданию сейсморазведки.
Среди советских ученых, заложивших основы геофизических методов исследования мирового значения, можно отметить Л.М. Альпина, В.И. Баранова, В.И. Баумана, В.Р. Бурсиана, В.Н. Дахнова, Г.А. Гамбурцева, А.И. Заборовского, А.Н. Краева, П.П. Лазарева, А.А. Логачева, А.А. Михайлова, П.П. Никифорова, А.А. Петровского, М.К. Полшкова, Е.Ф. Саваренского, А.С. Семенова, Л.В. Сорокина, Ю.В. Ризниченко, А.М. Епинатьеву Л.А. Рябинкина, А.Г. Тархова, В.В. Федынского, О.Ю. Шмидта, Б.М. Яновского.
К началу XXI в. по уровню теории и решаемым проблемам отечественная геофизика занимала передовые позиции в мире. Одной из ведущих и современных геофизических школ в настоящее время является геологический факультет МГУ, имеющий собственное отделение геофизики (кафедра геофизики). В последнее десятилетие на отделение геофизики, среди абитуриентов геологического факультета, зафиксирован один из самых высоких конкурсов по сравнению с другими отделениями.
В 1950 году Международный совет научных союзов и Всемирная метеорологическая организация предложили провести очередной полярный год. При его подготовке использовались сохранившиеся материалы второго МПГ (большая часть которых была утрачена в годы Второй мировой войны). В ходе обсуждения возникла идея о проведении геофизических исследований в низких широтах, и в 1957—1958 годы, в период максимум солнечной активности, был проведён международный геофизический год.