在优化问题的解决方法中，我们首先关注线性规划问题。当目标函数f是一个线性函数，并且约束集合A由线性等式和线性不等式构成时，这类问题被称为线性规划。
进一步，当线性规划中的部分或全部变量被限定在整数值范围内时，我们将其称为整数规划问题。这类问题的特征在于目标函数不变，但变量的取值范围更为严格。
对于目标函数更为复杂的情况，我们有二次规划。这类问题的特点在于目标函数是二次函数，而约束条件同样由线性等式和不等式构成。非线性规划则更进一步，研究的目标函数和/或限制条件中包含非线性元素的优化问题。
随机规划则探讨了问题中的某些变量是随机变量的情况，对随机性在优化决策中的影响进行了研究。动态规划则是通过将复杂问题分解为较小的子问题，寻找最优策略的优化方法，尤其在序列决策问题中非常实用。
组合最优化关注的是那些可行解为离散或可以离散化的优化问题，它在搜索策略和算法设计中占据重要地位。最后，无限维最优化则处理那些可行解集合位于无限维空间（如函数空间）中的优化问题，这通常涉及到更高级的数学理论和技术。
最优化问题，主要是指以下形式的问题： 给定一个函数，寻找一个元素使得对于所有A中的，（最小化）；或者（最大化）。这类定式有时还称为“数学规划”（譬如，线性规划）。许多现实和理论问题都可以建模成这样的一般性框架。最优化，是应用数学的一个分支。