Поскольку все явления природы определяются многими составляющими,  методологической основой экологии является системный подход - особая методика изучения сложноорганизованных объектов.

Общую теорию систем создал в 1960-х годов австрийский ученый Людвиг фон Берталанфи (1969). 

Системами (от греч. sуstema - целое, состоящее из частей) называют совокупности объектов - элементов систем, объединенных некоторой формой регулярных взаимодействий, в результате которых у системы как целого, возникают новые свойства,  новые целостные характеристики, отличные от свойств отдельных её элементов. Явление возникновения в системе новых свойств называют эмерджентостью (от англ. emergent - возникающий внезапно),  а сами новые свойства – эмерджентными..

 В отличие от них, общую сумму свойств составляющих систему элементов, называют совокупными свойствами.

Совокупность всех связей и взаимодействий элементов в системе называют её структурой.

Системный подход при изучении всех видов систем состоит: 

- в определении составных элементов систем;

- установлении структуры систем - характера и силы связей между элементами;

- определении взаимодействующих с системой элементов окружающей среды; 

- нахождении функций, определяющих характер изменения элементов и связей между ними под действием внешних факторов. 

Формирование системного подхода как теории происходило на базе естественных наук, сначала - физики, затем - химии и биологии. Основоположник факториальной экологии Юстус Либих (1803-1873), ещё в середине Х1Х века дал вполне современное определение системного подхода: ²Так как любое явление природы сложно, состоит из частей, то первая и важнейшая задача ученого состоит в распознании этих частей, определении их природы, свойств и установлении соотношений между ними² (Liebig J., 1840).

Системный подход лежит в основе учения о почве выдающегося русского ученого-почвоведа В.В.Докучаева (1846-1903). Докучаев рассмотрел почву не как инертную среду, а динамическую систему, определяемую многими составляющими. В книге "Учение о зонах природы" (1889) Докучаев предвосхитил появление науки, изучающей не отдельные факторы и явления, а взаимосвязи между ними. Он писал «изучались главным образом отдельные тела – минералы, растения, животные и явления - огонь, вода, земля, воздух, но не их соотношения, не та генетически вековечная и всегда закономерная связь, которая существует между силами, телами и явлениями, между живой и мёртвой природой, между растительными, животными и минеральными царствами А между тем именно эти закономерные взаимодействия составляют сущность познания естества, лучшую и высшую прелесть естествознания".

На высочайшем уровне научной абстракции использовал системный подход ученик В.В.Докучаева В.И.Вернадский, создавший учение о биосфере (1926).

Однако все эти ученые применяли системный подход, ещё не формулируя понятия системности. Статус самостоятельной науки системный подход получил в 1960-х годах при интенсивном развитии вычислительной техники. 

Теория систем формулирует общие принципы строения и законы функционирования систем, а развитие этой теории состоит в разработке математического аппарата для описания поведения систем разных типов в разных условиях.

Согласно учению о системах целью объединения элементов в системы является получение новых свойств, какого-то выигрыша, выгоды - в веществе, энергии или информации. 

Во всех системах имеются вход и выход, при этом изменение какой-то величины на входе в систему влечет за собой изменения на выходе.                             

Зависимость выходной величины от входной определяется видом связей (взаимодействий)  между элементами. 

Если изменение элемента А ведет к изменению элемента В, связь называют прямой. Если при увеличении элемента А элемент В также возрастает, то связь называют прямой положительной, а если при увеличении элемента А элемент В уменьшается - прямой отрицательной. 

Если изменение элемента В может, в свою очередь, повлиять на элемент А, связь называют обратной. Обратные связи также могут быть положительными и отрицательными.

Положительная обратная связь ведет к усилению процесса в одном направлении, например: рост цен на энергоносители ведёт к удорожанию всей продукции, перевозок и т.д.

Примером положительной обратной связи в экологии является закон убывающего плодородия почвы..Известно, что плодородие почв определяется наличием  питательных веществ: чем их меньше, тем меньшим будет урожай. При малом урожае или при его выносе из экосистемы в почву поступит малое количество мертвого органического вещества - детрита, следовательно, в ней окажется меньше питательных веществ и меньшим будет следующий урожай и т.д. 

В случае отрицательной обратной связи в ответ на усиление величины на входе, элемент на выходе отвечает реакцией,  устраняющей это увеличение. Это позволяет системе регулировать своё устойчивое состояние.

Примером отрицательной обратной связи являются взаимоотношения в экосистемах хищников и их жертв: 

при увеличении численности жертвы растет численность хищников ® размножившийся хищник выедает жертву ® численность хищника сокращается из-за недостатка пищи ® малая численность хищника стимулирует размножение жертв и т.д.                                                                                   

Отрицательная обратная связь является важнейшим механизмом саморегуляции систем - их способности поддерживать динамическое стационарное состояние - гомеостаз.

Устойчивостью систем  называют их способность сохранять структуру и функции при действии внешних факторов. 

Устойчивость систем определяет принцип Ле-Шателье (1850-1936): при наличии внешних воздействий, выводящих систему из состояния устойчивого равновесия, равновесие смещается в направлении, где эффект воздействия снижается

Возвращение систем в стабильное состояние возможно, только если сила воздействий  не превышает пределы их устойчивости. При приближении к пределам устойчивости вступают в действие нелинейные законы, когда даже небольшое увеличение силы воздействия приводит к непоправимым следствиям:; отрицательные обратные связи сменяются положительными и система разрушается.

Так, сорвавшийся с горы небольшой камень увлекает за собой множество камней и возникает оползень.

По характеру взаимодействий с окружающей средой все системы разделяются на: 

 -открытые -  производят обмен со средой веществом и энергией;

- замкнутые - нет обмена веществом, но есть обмен энергией; 

- изолированные - не связаны со средой никакими видами обмена. 

Все биологические системы являются открытыми - для их существования необходимо получение из среды энергии и химических веществ.

  Процессы превращения энергии в открытых системах изучает  термодинамика открытых систем. Её основателем был бельгиец русского происхождения И.Р.Пригожин.

Важнейшим свойством открытых самоподдерживающихся систем является способность к эволюции - последовательном закреплении таких отклонений от стационарного состояния, когда идущий через систему поток энергии постоянно возрастает.

 Эволюция систем сопровождается  усложнением их строения: возрастанием числа элементов, появлением новых связей, системной иерархии - образованию в структуре системы отдельных подсистем.

         Гомеостаз природных систем поддерживается сложной сетью информационных взаимодействий, потоками физических и химических сигналов, связывающих  элементы систем в единое целое.

Ю.Одум (1986) назвал эти связи "невидимыми проводами природы².

В отличие от систем, созданных человеком, управление которыми производится извне, управляющие структуры природных систем находятся внутри них.

Основными  механизмами управления природными системами являются:

- механизм отрицательной обратной связи, когда изменение сигнала на выходе  снижает отклонение на входе;

- избыточность функциональных компонентов; 

- дублирование функций.

По сравнению с величиной общего потока энергии, проходящего через систему, энергия сигнала отрицательной обратной связи, как правило, крайне мала, однако она способна оказывать сильнейший управляющий эффект.

Так, мельчайший паразит - вирус миксоматоза, внесенный в популяцию кроликов, чрезмерно размножившихся в Австралии, практически спас от выедания ими растительность всего континента.

При наличии избыточности функциональных компонентов и дублировании функций, выход из строя каких-то элементов системы не может полностью расстроить её работу, поскольку есть возможность их замены другими, с аналогичной или схожей функцией. 

Кроме того, вовлечение в функцию дополнительных  элементов, находящихся в резерве, или выполнявших до этого другие задачи, позволяет системе намного повысить функциональную мощность данного процесса.

Это играет большую роль в становлении адаптаций - приспособлений строения и функций организмов к факторам среды.

Считается, что функциональная сложность систем способна повысить их стабильность лучше, чем структурная, поскольку при этом имеется больше петель обратных связей. Однако строгой однозначной зависимости между сложностью и стабильностью систем нет и этот вопрос является предметом многочисленных исследований и дискуссий.

Различают два вида стабильности систем:

1. Резистентная устойчивость - способность  противостоять воздействиям извне.

2. Упругая устойчивость - способность быстро останавливаться после отклонений, повреждений.  

Так, леса из сосны и секвойи устойчивы к пожарам (высокая резистентность) благодаря наличию у деревьев толстой коры и особого строения почек, но если они все же сгорают, то восстанавливаются с большим трудом.

Заросли кустарников наоборот, очень легко сгорают (низкая резистентность к пожарам), но быстро и восстанавливаются, то есть обладают хорошей упругой устойчивостью.

Как правило, в постоянных условиях среды,  природные системы имеют большую резистентную, а в меняющихся - упругую устойчивость.

  В наиболее общем виде, можно сказать, что степень стабильности систем зависит:

- от степени развития системы, её сложности,

- эффективности управляющих механизмов,

- характера среды, в которой находится система.

 Деятельность человека часто приводит к разрушению связей между элементами природы. Это ведёт к разрушению природных систем или их переходу в другое качественное состояние.