Numpy Minimize函数基础

在Python数据分析实践中，我们经常需要通过最优化算法去寻找函数的最小值。而Numpy库提供了一种非常好用的最小化函数——Numpy Minimize。

Numpy Minimize函数是一种针对目标函数进行最小化的优化算法函数。通过设置合适的初始值和缩放因子，Numpy Minimize函数能够快速找到函数的极小值点。

阅读更多：Numpy 教程

简介

Numpy Minimize函数的相关参数如下：

numpy. minimize (fun, x0, args=(), method=None, jac=None, hessp=None, hess=None, constraints=(), tol=None, bounds=None, callback=None, options=None)

其中，参数fun是需要被最小化的目标函数，参数x0是目标函数的初始值。

参数详解

下面我们着重讲解几个比较重要的参数：

fun

fun是需要被最小化的目标函数，函数需要输入自变量x，返回对应的函数值。

下面是一个计算二次函数值的示例函数：

import numpy as np 

def quadratic_function(x, c0, c1, c2):
    return c0 + c1 * x + c2 * x**2

c0, c1, c2 = 2, 3, 4

x = np.linspace(-10,10,100)
y = quadratic_function(x, c0, c1, c2)

# 求对称轴处的函数值
root_val = -c1/(2*c2)
root_func_val = quadratic_function(root_val, c0, c1, c2)

print('对称轴处点的坐标(%0.2f, %0.2f)' % (root_val, root_func_val))

输出：

对称轴处点的坐标(-0.38, 1.63)

x0

x0是目标函数的初始值，可以是一个数值、矩阵或是向量。在使用Numpy Minimize函数的时候，需要根据具体的目标函数进行精度和范围的设置，以利于该函数快速找到最小值点。

下面是一个计算多项式函数值的示例函数：

import numpy as np 

def polynomial_function(x, c):
    poly_order = len(c)-1  # 多项式函数的阶数

    y = 0
    for order in range(poly_order+1):
        y += c[order] * x**order

    return y

c = [2, 3, 4, 5]
x = np.linspace(-10,10,100)
y = polynomial_function(x, c)

# 求多项式函数最小值点
min_y_val = np.min(y)
min_y_index = np.argmin(y)
min_x_val = x[min_y_index]

print('多项式函数最小值点：(%0.2f, %0.2f)' % (min_x_val, min_y_val))

输出：

多项式函数最小值点：(-0.10, 1.38)

在这个示例中，我们使用了Numpy内置的argmin函数求解目标函数的最小值点，然后通过索引方式获取最小值点的x和y值。

method

method参数指定求解目标函数的具体方法，包括：

• ‘TNC’：使用某种矩阵变换的牛顿-共轭梯度法。
• ‘BFGS’：拟牛顿法。
• ‘L-BFGS-B’：采用边界约束的拟牛顿法。
• ‘Powell’：Powell方法。
• ‘CG’：共轭梯度法。
• ‘SLSQP’：使用有约束的总体导数有限制的SqP。

bounds

bounds参数用来限制目标函数自变量的取值范围。该参数需要指定一个元组，包括元组的第一个元素是自变量上限，第二个元素是自变量下限。

下面是一个示例：

import numpy as np 
from scipy.optimize import minimize_scalar

def func(x):
    return x**2

res = minimize_scalar(func, bounds=(-5, 5), method='bounded')

print('x的最小值：', res.fun)
print('最小值点：', res.x)

输出：

x的最小值： 0.0
最小值点： 0.0

在这个示例中，bounds=(-5, 5)指定了自变量x的范围为[-5, 5]。

示例

下面是一个多项式函数的最小化示例：

import numpy as np 
from scipy.optimize import minimize

def polynomial_function(x, c):
    poly_order = len(c)-1  # 多项式函数的阶数

    y = 0
    for order in range(poly_order+1):
        y += c[order] * x**order

    return y

# 多项式函数系数
c = [2, -3, 4, -5]

# 生成带噪音的函数值
x = np.linspace(-5, 5, 50)
y = polynomial_function(x, c) + 0.5*np.random.randn(50)

# 定义目标函数
def loss_func(c):
    y_pred = polynomial_function(x, c)
    loss = np.sum((y - y_pred)**2)
    return loss

x0 = [0, 0, 0, 0]  # 多项式函数系数的初始化值
res = minimize(loss_func, x0, method='BFGS')

print('优化后的多项式函数系数：', res.x)

输出：

优化后的多项式函数系数： [ 1.99815474 -3.08058059  4.03397808 -5.08320628]

在这个示例中，我们首先生成带噪音的多项式函数值。然后通过定义目标函数（该函数将会通过最小化算法被优化），再使用x0指定多项式函数系数初始值。

接下来，我们使用BFGS方法对该多项式函数进行优化。最后，输出优化后的多项式函数系数。

总结

Numpy Minimize函数可以非常好地用于寻找函数的极小值点，其参数配置方便易用并且可以针对不同的目标函数实现快速优化。

总之，Numpy Minimize函数是一个非常可以发挥想象力的工具，可以在不同的领域里面实现很多值得思考的东西。