이 개념에 대한 정의는 수십 가지에 이른다. 이를 분석해 보면 시스템 개념의 정의가 형식뿐 아니라 내용 면에서도 변화해 왔음을 알 수 있다. 시스템 이론이 발전하고 이 개념이 실무에 도입되면서 시스템의 정의에 일어난 주요 변화들을 살펴보자.
요소와 관계
초기의 정의들은 형태는 다양했지만 공통적으로 시스템이 요소(부분, 구성요소) aᵢ와 그들 사이의 연결(관계) rⱼ로 이루어진다고 서술하였다:
$$S = \{a_i,\; r_j\}$$
$$S = \langle A,\; R \rangle$$
$$S = A \cap R$$
이 형식화된 표기에서는 서로 다른 집합론적 표현이 사용된다. 처음 두 표기에서는 요소 집합과 관계 집합 사이의 상호관계를 고려하지 않은 채 집합이 지정되며, 세 번째 표기는 시스템이 이런저런 요소와 연결의 단순한 집합체가 아니라, 교집합에 속하는 요소와 연결만을 포함한다는 사실을 반영한다.
루트비히 폰 베르탈란피는 시스템을 “상호작용하는 구성요소들의 복합체” 또는 “서로 및 환경과 특정한 관계를 맺고 있는 요소들의 집합”으로 정의하였다. 소비에트 대백과사전에서는 그리스어 systema, 즉 “구성”을 그대로 번역하여 시스템을 정의하는데, 이는 곧 부분들로 이루어지고 결합된 어떤 것을 의미한다.
“요소”와 “구성요소”, “연결”과 “관계”라는 용어는 흔히(특히 정의를 번역할 때) 동의어로 사용된다. 그러나 엄밀히 말하면 “구성요소”는 “요소”보다 더 일반적인 개념으로, 요소들의 집합체를 가리킬 수 있다. “연결”과 “관계”라는 개념에 대해서도 서로 다른 견해가 존재한다.
요소들이 근본적으로 이질적이라는 것이 알려져 있다면, 이를 서로 다른 요소 집합을 구분함으로써 정의에 곧바로 반영할 수 있다:
$$S = \langle A,\; B,\; R \rangle$$
M. 메사로비치의 정의에서는 (시스템에 작용하는) 입력 대상들의 집합 X와 출력 결과들의 집합 Y가 구분되며, 이 둘 사이에 일반화된 교차 관계가 성립하는데, 이는 저자의 원 표기법이나 다른 교집합 기호를 사용하여 표현될 수 있다:
$$S \subseteq X \times Y$$
특정 유형의 관계가 서로 다른 집합의 요소들 사이에서만 성립하고 각 집합 내부에서는 사용되지 않는 경우, 이는 다음과 같이 반영할 수 있다:
$$S = \{a_i \; r_j \; b_k\}$$
- $\{a_i \; r_j,\; b_k\}$ — 원래의 집합 $A$와 $B$의 요소들로부터 형성된 새로운 시스템의 요소.
이러한 표기 형식은 수리언어학에서 통합체(syntagma)라고 불린다.
요소와 관계의 속성
요소와 관계를 더 정밀하게 규정하기 위해 정의에는 속성이 포함된다. 예를 들어 A. 홀의 정의에서는 속성(속성값) Q_A가 요소(대상)의 개념을 보완한다:
$$S = \langle A,\; R,\; Q_A \rangle$$
- $Q_A$ — 속성(속성값)
A. I. 우예모프는 “사물”, “속성”, “관계”라는 개념을 통해 시스템을 정의하면서 이중 정의를 제안하였다. 하나에서는 속성이 요소(사물)를 특징짓고, 다른 하나에서는 속성이 연결(관계)을 특징짓는다:
$$S = \langle a_i,\; r_j,\; q_i \rangle \quad \text{and} \quad S = \langle a_i,\; r_j,\; q_j \rangle$$
- $a_i$ — 요소
- $r_j$ — 연결(관계)
- $q_i$ — 요소의 속성
- $q_j$ — 연결(관계)의 속성
목표
이후 시스템의 정의에 목표 개념이 등장하였다. 처음에는 암묵적으로 나타났는데, F. E. 템니코프의 정의에서는 “시스템은 조직화된 집합”이라고 하였다(여기서 “조직화된”이라는 개념을 풀어내면 목표가 드러난다). 철학사전에서는 시스템을 “서로 관계와 연결을 맺고 있으며 어떤 통합적 단일체를 형성하는 요소들의 집합”으로 정의하였다. 그다음에는 최종 결과, 시스템 형성 기준, 혹은 기능의 형태로 나타났으며(V. I. 베르나츠키, R. 깁슨, P. K. 아노힌, M. G. 가제라포포트의 정의 참조), 이후에는 목표가 명시적으로 언급되기 시작하였다.
이 그룹의 정의는 기호로 다음과 같이 표현할 수 있다:
$$S = \langle A,\; R,\; Z \rangle$$
- $Z$ — 목표, 목표의 집합 또는 구조.
일부 정의는 목표 형성의 조건, 즉 환경과 시간 간격, 다시 말해 시스템과 그 목표가 존재할 기간을 명시한다. 예를 들어 V. N. 사가토프스키의 정의가 그러하며, 이는 목표 구조화 기법의 하나의 근간이 되기도 한다: 시스템은 “정해진 시간 간격 내에서 특정 목표에 따라 환경으로부터 구분되는, 기능적 요소들과 그들 사이의 관계로 이루어진 유한 집합”이다:
$$S = \langle A,\; R,\; Z,\; S_R,\; T \rangle$$
- $S_R$ — 환경
- $T$ — 시스템의 존재 시간
관찰자
이후 시스템의 정의에는 요소, 관계, 목표와 더불어 관찰자 N, 즉 연구나 의사결정 과정에서 대상이나 과정을 시스템으로 표상하는 사람도 포함되기 시작하였다:
$$S = \langle A,\; R,\; Z,\; N \rangle$$
- $N$ — 관찰자, 연구자
W. R. 애슈비는 연구 대상 시스템과 연구자 사이의 상호작용을 고려할 필요성을 지적하였다. 그러나 관찰자를 명시적으로 포함한 최초의 정의는 Yu. I. 체르냐크에 의해 제시되었다: “시스템이란 연구와 인식이라는 과제에서 대상들의 속성과 그들의 상호관계가 주체(연구자, 관찰자)의 의식 속에 반영된 것이다”:
$$S = \langle A,\; R,\; Z,\; N \rangle$$
이후 이 정의의 후속 버전들에서 Yu. I. 체르냐크는 관찰자의 언어도 고려하였으며, 다음과 같은 정식화에서 시작하였다: “시스템이란 연구와 인식이라는 과제에서 대상, 관계, 그리고 그 속성들이 관찰자(연구자, 설계자)의 언어로 표현된 것이다”:
$$S = \langle A,\; R,\; Z,\; N,\; L_N \rangle$$
- $L_N$ — 관찰자의 언어
시스템의 정의는 이보다 더 많은 구성요소를 포함할 수도 있는데, 이는 특정 조건에서 요소, 관계 등의 유형을 세분화할 필요성과 관련이 있다.
시스템 정의의 진화
시스템 정의의 진화(요소와 관계, 그다음 목표, 그다음 관찰자)를 인식론적 범주 사용의 진화와 비교해 보면 유사성을 발견할 수 있다. 처음에는 모델(특히 형식적 모델)이 요소와 연결, 그들 사이의 상호작용만을 고려하는 데 기반을 두었다. 그다음 관심은 목표와 그것을 형식적으로 표현하는 방법(목적함수, 성과 기준 등)을 찾는 데로 옮겨 갔다. 그리고 1960년대부터는 관찰자, 즉 모델링을 수행하거나 실험을 실시하는 사람(물리학에서조차)에게, 다시 말해 의사결정자에게 점점 더 많은 관심이 기울여졌다.
이러한 점을 염두에 두고, 시스템 개념의 본질에 대한 더 깊은 분석에 기초할 때, 이 개념을 인식론, 즉 반영이론의 범주로 다루는 것이 적절해 보인다.
시스템의 작업 정의
시스템에 대한 다양한 정의와 그 진화 과정을 살펴보면, 그중 어느 하나를 주된 정의로 내세우지 않더라도, “시스템”처럼 (보통 직관적으로 파악되는) 개념을 간결하게 정의하기가 얼마나 어려운지 알 수 있을 뿐 아니라, 대상을 시스템으로 표상하는 여러 단계와 다양한 구체적 상황에서 서로 다른 정의가 사용될 수 있다는 사실도 인식할 수 있다. 더욱이 시스템에 대한 이해가 정밀해지거나 그 연구의 다른 층위로 옮겨감에 따라 시스템의 정의는 정밀화될 수 있을 뿐 아니라 마땅히 정밀화되어야 한다.
요소, 관계, 목표, 관찰자, 그리고 때로는 시스템을 표상하는 관찰자의 “언어”까지 포함하는 정의는 문제를 정식화하고 시스템 분석 방법론의 주요 단계를 개관하는 데 도움이 된다. 예를 들어 조직 시스템에서 의사결정 권한을 가진 사람이 특정되지 않으면, 시스템을 만드는 목적인 목표가 달성되지 못할 수 있다. 그러나 관찰자가 명백한 시스템도 있다. 때로는 목표라는 개념을 명시적으로 사용할 필요조차 없다.
예를 들어 Yu. A. 우르만체프가 식물과 같이 비교적 낮은 수준의 생물학적 대상을 연구하기 위해 개발한 시스템 이론 버전에는 목표 개념이 포함되지 않는데, 이는 이러한 부류의 대상에 목표가 특징적이지 않기 때문이다. 대신 목적성과 발전이라는 관념은 특수한 유형의 관계, 즉 구성 법칙의 형태로 표현된다.
따라서 시스템 분석을 수행할 때는 먼저 가능한 한 가장 완전한 시스템의 정의를 사용하여 상황을 표상한 다음, 의사결정에 영향을 미치는 가장 본질적인 구성요소들을 식별하고 나서, 분석의 진행에 따라 정밀화하거나 확장하거나 축소할 수 있는 “작업” 정의를 정식화해야 한다.
시스템의 “작업” 정의는 연구자(개발자)가 시스템을 기술하기 시작하는 데 도움을 준다. 채택된 시스템의 “작업” 정의에 포함된 필요한 요소, 관계, 그 속성, 그 밖의 구성요소를 올바르게 선택하려면, 시스템에 대한 이 최초의 언어적 표상을 정식화하는 사람들이 이러한 개념을 동일한 의미로 사용해야 한다.
시스템 정의의 선택은 채택된 개념적 틀을 반영하며, 본질적으로 모델링의 출발점이다. 따라서 처음부터 정의를 기호 형태로 제시하는 것이 바람직한데, 이는 시스템의 개발이나 연구에 참여하는 모든 사람이 보다 명확하게 이해하도록 돕는다.
시스템의 정의를 그 연구를 시작하는 수단으로 보고, 시스템을 변형하거나 설계할 때 통합성을 유지하고자 하는 관점에서, 이 절의 저자는 시스템을 (이미 인용된 정의들에서처럼) 가장 기초적인 입자들로 분해하지 않고, 연구 대상이거나 만들어지고 있는 시스템의 존재와 기능에 근본적으로 필요한 상위 수준 구성요소들의 집합체로 표상하는 정의를 제안하였다:
$$S = \langle Z,\; \text{Str},\; \text{Tech},\; \text{Cond} \rangle$$
- $\{Z\}$ — 목표의 집합 또는 구조
- $\{\text{Str}\}$ — 목표를 구현하는 구조(생산 구조, 조직 구조 등)의 집합
- $\{\text{Tech}\}$ — 시스템을 구현하는 기술(방법, 도구, 알고리즘 등)의 집합
- $\{\text{Cond}\}$ — 시스템 존재의 조건, 즉 그 창조·기능·발전에 영향을 미치는 요인들
이 정의는 연구 대상 시스템을 파괴하지 않고 그 주요 구조를 보존하면서 명시된 목표에 따라 발전시킬 수 있게 해 준다. 또한 새로운 시스템을 만들 때 전체적인 설계 개념을 얻고, 시스템 창조에 대한 목표지향적 접근법을 실현하는 데 도움이 된다.
시스템의 물질성과 비물질성
1960~70년대 시스템 연구의 형성기에는 시스템이 물질적인지 비물질적인지에 대한 논쟁이 상당히 빈번히 일어났다. 오늘날에도 이 문제가 모든 이에게 명확한 것은 아니다.
한편으로는 시스템의 물질성을 강조하고자 일부 연구자들이 정의에서 “요소”라는 용어를 “사물”, “대상”, “품목”이라는 용어로 대체하였다. 후자는 추상적 대상이나 연구 주체로도 해석될 수 있지만, 이러한 정의의 저자들은 분명 시스템의 유형성과 물질성에 주의를 환기하고자 하였다.
다른 한편으로 위에서 인용한 Yu. I. 체르냐크의 정의, 특히 S. 옵트너의 정의에서는 시스템이 오직 표상으로만, 즉 연구자나 설계자의 의식 속에만 존재하는 어떤 것으로만 해석될 수 있다. 반영이론의 법칙성을 이해하는 전문가라면 다음과 같이 반박할 법하다. 개념(시스템의 관념적 표상)은 이후 물질적으로 구현되어 존재하게 될 것이며, 의사결정 문제에서는 시스템 개념이 문제를 연구하고 과제를 해결하는 수단으로 쓰일 수 있음을 강조하는 것이 중요하다. 그럼에도 불구하고 앞서 언급한 정의들은 당시 시스템의 물질성을 옹호하는 이들, 특히 철학자들의 비판을 받았다.
V. G. 아파나시예프는 시스템의 물질성 또는 비물질성에 대한 논쟁이 무익함을 다음과 같이 보여 주었다: “…객관적으로 존재하는 시스템, 그리고 시스템의 개념. 시스템을 인식하는 도구로 사용되는 시스템 개념, 그리고 다시 우리의 시스템적 표상에 의해 풍부해진 지식을 가진 실재하는 시스템. 이것이 바로 시스템에서 객관적인 것과 주관적인 것의 변증법이다…”.
이 문제와 관련하여, 소비에트 대백과사전에는 앞서 인용한 정의와 함께 다음과 같은 정의도 실려 있음을 언급해 둔다. 시스템이란 “서로 법칙에 의해 연결되어 있는 실체, 현상, 그리고 자연과 사회에 대한 지식의 객관적 통일체”이다. 즉, 요소(따라서 시스템)라는 개념이 실제로 존재하며 물질적으로 구현된 대상뿐 아니라 그 대상에 대한 지식이나 그것의 미래 구현에도 적용될 수 있음이 강조된다.
따라서 시스템의 개념에서는 (다른 어떤 인식 범주에서와 마찬가지로) 객관적인 것과 주관적인 것이 변증법적 통일을 이루므로, 시스템의 물질성이나 비물질성을 논할 것이 아니라, 연구 대상에 시스템으로서 접근하는 방식, 즉 인식이나 창조의 서로 다른 단계에서 그것을 서로 다르게 표상하는 방식에 대해 논해야 한다.
시스템 고찰의 층위
예를 들어 Yu. I. 체르냐크는 동일한 대상이 그 고찰의 서로 다른 단계에서 다양한 측면으로 표상될 수 있음을 보여 주며, 이에 따라 동일한 시스템을 철학적(인식론적), 과학연구적, 설계적, 공학적 등의 서로 다른 존재 수준에서, 물질적 구현에 이르기까지 묘사할 것을 제안한다.
다시 말해, 시스템 고찰의 서로 다른 단계에서 “시스템”이라는 용어에 서로 다른 개념이 담길 수 있으며, 말하자면 시스템이 서로 다른 형태로 존재한다고 말할 수 있다. M. 메사로비치는 시스템 고찰의 층위를 구분할 것을 제안한다.
이와 유사한 층위는 대상의 창조 과정뿐 아니라 인식 과정에서도, 즉 실제로 존재하는 대상을 의식 속에서(혹은 모델 속에서) 추상적으로 구상된 시스템으로 표상하는 과정에서도 존재할 수 있으며, 이는 이후 새로운 대상을 만들거나 기존 대상의 변형(재구조화, 재건)에 대한 권고안을 마련하는 데 도움이 될 수 있다.
시스템 분석 방법론(또는 시스템 연구 모델)이 반드시 시스템의 인식이나 설계 전체 과정을 아울러야 하는 것은 아니며, 그 층위 중 하나만을 위해 개발될 수도 있다(실제로는 대체로 이러한 경우가 많다). 시스템 연구자나 개발자들 사이에 용어상 혹은 그 밖의 이견이 생기지 않도록 하려면, 먼저 시스템 고찰의 어떤 특정 층위에 대해 논의하고 있는지를 명확히 밝혀야 한다.