최적이란 주어진 조건에서 가장 좋은 것을 의미한다. 품질은 최적성 기준을 사용하여 평가되며, 조건은 추가 기준에 대한 제약조건으로 명시된다.
노동, 창조적 작업, 그리고 목표 지향적 활동 전반에서 효율성을 향상시키려는 노력은 근본적으로 최적성이라는 개념으로 표현된다. 최적성에 대한 과학적 이해와 일상적 이해 사이의 차이는 거의 없다. 《가장 최적》이나 《최소 비용으로 최대 효과》와 같은 표현이 수학적으로는 정확하지 않지만, 이러한 표현은 의도한 바를 대략적으로 전달한다. 구체적인 최적화가 필요할 때 사람들은 일반적으로 자신의 진술을 정확하게 다시 정식화한다.
최적화란 — 수학, 컴퓨터과학, 경영과학에서 — 유한차원 벡터공간의 어떤 영역에서, 일련의 선형 및/또는 비선형 등식 및/또는 부등식으로 제한된 목적함수의 극값(최솟값 또는 최댓값)을 찾는 문제이다.
최적화 모델은 어떤 기준에 대하여 모델링된 대상의 최적(최선) 파라미터를 결정하거나, 프로세스를 제어하는 최적(최선)의 방식을 찾기 위해 고안된다. 모델의 파라미터 중 일부는 제어 파라미터로 분류되며, 이를 변화시킴으로써 서로 다른 출력 파라미터 값의 집합을 얻을 수 있다. 일반적으로 이러한 모델은 하나 이상의 기술적 모델을 이용하여 구성되며, 서로 다른 출력 파라미터 값의 집합을 비교하여 최선의 것을 선택할 수 있는 기준을 포함한다. 고려 대상 객체나 프로세스의 특성과 관련된 등식 및 부등식 형태의 제약조건이 입력 파라미터 값의 정의역에 부과될 수 있다. 최적화 모델의 목적은 선택 기준이 《최선의 값》에 도달하는 그러한 허용 가능한 제어 파라미터를 찾는 데 있다.
문제는 수학적 모델로 정식화된다. 경영과학의 표준적인 수학적 모델은 다음과 같은 형태로 제시된다.
제약조건의 충족을 전제로 한 목적함수의 최대화 또는 최소화.
해가 어떤 속성에서든 다른 해보다 선호될 경우, 그 해를 최적해라고 한다. 최선의 대안을 선택하는 모든 경우는 확립된 기준에 대한 부합 여부에 근거하기 때문에 구체적이다. 최적 대안이라고 말할 때는 이러한 기준(《…에 대하여 최적》)을 명시한다. 어떤 기준에서 최적인 것이 다른 기준에서는 반드시 최적이 아니다.
가능해란 모델의 모든 제약조건을 충족하는 해를 말한다. 특정한 경우, 가능해의 수는 무한할 수 있다.
최적해란 가능해이면서 동시에 목적함수를 최대화하거나 최소화하는 해이다.
최적화란 목적함수의 최대화 또는 최소화이다.
최적화 모델이란, 주어진 제약조건 하에서 최적화되어야 할 효과성 측도(목적함수)를 포함하는 의사결정 모델이다.
최적해란 최적화 모델의 목적함수를 최적화하는, 결정변수의 허용 가능한 값들의 집합이다.
많은 실제 선택 문제는 최선 또는 가장 선호되는 대안을 찾는 문제로 귀결되며, 종종 단 하나의 최선 대안을 찾는 문제로 귀결된다. 이 과정에서 각 의사결정자는 특정 선택 상황에서 자신에게 무엇이 바람직한지에 대한 고유한 주관적 관념을 가지고 있다.
많은 문제는 수학적 선택 모델을 허용하는데, 여기서 최선의 대안은 하나 이상의 수치적 효과성(또는 품질) 기준에 의해 정의된다. 문제에 의해 결정되는 이러한 기준은 대안의 속성을 나타내는 변수들의 목적함수이다. 이때 의사결정자가 가장 선호하는 대안은 주어진 조건에서 효과성 측도의 극값을 산출하는 최적 선택이 된다.
최적 선택 문제를 정식화하는 데 있어 근본적인 측면은 문제 상황과 의사결정자의 선호를 정량적 형태로 기술할 수 있는 능력이다. 이는 첫째, 가능한 해결 대안(대안, 객체, 행동 방침)이 수치 척도로 측정되는 정량적 속성(변수, 파라미터, 특성)에 의해 결정되어야 함을 의미한다. 둘째, 선택된 대안의 품질을 그 크기로 평가할 수 있는 정량적 척도(최적성 기준, 효과성 측도, 목적함수, 가치함수)가 명시되어야 한다. 이러한 상황은 경영과학과 최적 제어에서 전형적으로 나타나는 잘 구조화된 문제와 반복적인 선택 상황의 특징이다.
문제를 해결하기 위한 가능한 대안(목표 달성 방법)을 분석하고 그중에서 최선의 대안을 선택하기 위해, 최적 선택의 형식적 모델이 구성된다. 모델은 실제 문제를 단순화하여 표현한 것으로서, 대안들과 그 기술적 속성, 그리고 통제 가능 및 통제 불가능 요인에 의해 부과되는 제약조건 사이의 가장 중요하고 객관적으로 존재하는 의존관계와 관계를 반영해야 한다. 이러한 모델을 구성하는 작업은 의사결정자의 참여 하에 자문 분석가와 전문가의 임무이다. 선택 모델을 구성할 때는 모델의 적합성과 세부 수준을, 실제 선택 문제에 요구되는 정확성, 그리고 해를 찾는 데 필요한 정보의 양—이미 확보된 정보와 추가로 얻을 수 있는 정보 모두—과 균형을 이루어야 한다.
최적화 문제는 엄격하게 형식적인 수학적 문제이다. 이러한 문제의 해가 갖는 실제적 의의는 초기 수학적 모델의 품질에 직접적으로 좌우된다. 복잡한 시스템에서는 수학적 모델링이 어렵고, 근사적이며, 부정확하다. 시스템이 복잡할수록 그 최적화에 더욱 신중하게 접근해야 한다.
시스템 분석의 관점에서 최적화에 대한 태도는 다음과 같이 정식화할 수 있다. 최적화는 효율성을 향상시키는 강력한 수단이지만, 문제의 복잡성이 증가할수록 점점 더 신중하게 사용되어야 한다.
최적화라는 개념의 명백한 유용성에도 불구하고, 실무에서는 이를 신중하게 다룰 것을 요구한다. 이러한 결론에는 충분히 설득력 있는 근거가 있다.
- 최적해는 종종 불안정한 것으로 드러난다. 문제 조건에서 겉보기에 미미한 변화가 실질적으로 상이한 대안의 선택으로 이어질 수 있다.
- 고려 대상 시스템은 어떤 더 큰 시스템의 일부이며, 국지적 최적화는 시스템 전체를 최적화할 때 하위 시스템에 요구되는 것과 반드시 동일한 결과를 산출하지는 않는다. 이는 하위 시스템의 기준을 시스템의 기준과 일치시킬 필요성을 낳으며, 이로 인해 국지적 최적화가 종종 불필요해진다.
- 기준은 목표를 간접적으로만 특징짓는다—때로는 더 잘, 때로는 더 못하지만, 항상 근사적으로. 최적성 기준의 최대화는 흔히 목표와 동일시되지만, 실제로는 이 둘은 서로 다른 것이다. 실제로 기준과 목표는 모델과 원본의 관계에 해당하며, 그에 따르는 모든 함의를 지닌다. 많은 목표는 정량적으로 기술하기 어렵거나 심지어 불가능하다.
- 필요한 모든 제약조건을 명시하지 않으면, 주된 기준을 최대화하는 동시에 예상치 못한 바람직하지 않은 부작용을 얻을 수 있다.