利用交替方向乘子法 (ADMM) 求解 LASSO 问题

交替方向乘子法，即 the Alternating Direction Method of Multipliers （ADMM），利用 ADMM 求解 LASSO 问题的原问题。

针对 LASSO 问题

$\min_{x,z} \frac{1}{2} \|Ax-b\|_2^2 + \mu \|z\|_1,\quad \mathrm{s.t.}\quad x=z,$

引入拉格朗日乘子 $y$ ,得到增广拉格朗日函数 $L_\rho(x,z,y)=\frac{1}{2}\|Ax-b\|_2^2+\mu\|z\|_1+y^\top(x-z)+\frac{\rho}{2}\|x-z\|_2^2$ 。在 ADMM 的每一步迭代中，交替更新 $x$ , $z$ ，在更新 $x$ ( $z$ ) 的时候 $z$ ( $x$ ) 固定（看成常量）。

初始化和迭代准备

函数通过优化上面给出的增广拉格朗日函数，以得到 LASSO 问题的解。

输入信息： $A$ , $b$ , $\mu$ ，迭代初始值 $x^0$ 以及提供各参数的结构体 opts 。

输出信息：迭代得到的解 $x$ 和结构体 out 。

out.fvec ：每一步迭代的 LASSO 问题目标函数值
out.fval ：迭代终止时的 LASSO 问题目标函数值
out.tt ：运行时间
out.itr ：迭代次数
out.y ：迭代终止时的对偶变量 $y$ 的值
out.nrmC ：约束违反度，在一定程度上反映收敛性

function [x, out] = LASSO_admm_primal(x0, A, b, mu, opts)

从输入的结构体 opts 中读取参数或采取默认参数。

opts.maxit ：最大迭代次数
opts.ftol ：针对函数值的停机准则，当相邻两次迭代函数值之差小于该值时认为该条件满足
opts.gtol ：针对 $y$ 的梯度的停机准则，当当前步的梯度范数小于该值时认为该条件满足
opts.sigma ：增广拉格朗日系数
opts.gamma ： $x$ 更新的步长
opts.verbose ：不为 0 时输出每步迭代信息，否则不输出

if ~isfield(opts, 'maxit'); opts.maxit = 5000; end
if ~isfield(opts, 'sigma'); opts.sigma = 0.01; end
if ~isfield(opts, 'ftol'); opts.ftol = 1e-8; end
if ~isfield(opts, 'gtol'); opts.gtol = 1e-14; end
if ~isfield(opts, 'gamma'); opts.gamma = 1.618; end
if ~isfield(opts, 'verbose'); opts.verbose = 1; end

迭代准备。

k = 0;
tt = tic;
x = x0;
out = struct();

初始化 ADMM 的辅助变量 $y$ , $z$ ，其维度均与 $x$ 相同。

[m, n] = size(A);
sm = opts.sigma;
y = zeros(n,1);
z = zeros(n,1);

计算并记录起始点的目标函数值。

fp = inf; nrmC = inf;
f = Func(A, b, mu, x);
f0 = f;
out.fvec = f0;

Cholesky 分解， $R$ 为上三角矩阵且 $R^\top R=A^\top A + \sigma I_n$ 。由于罚因子在算法的迭代过程中未变化，事先缓存 Cholesky 分解可以加速迭代过程。

AtA = A'*A;
R = chol(AtA + opts.sigma*eye(n));
Atb = A'*b;

迭代主循环

迭代主循环，当 (1) 达到最大迭代次数或 (2) 目标函数的变化小于阈值或 (3) 自变量 $x$ 的变化量小于阈值时，退出迭代循环。

while k < opts.maxit && abs(f - fp) > opts.ftol && nrmC > opts.gtol
    fp = f;

更新 $x$ ， $x^{k+1}=\arg\min_x\left(\frac{1}{2}\|Ax-b\|_2^2+\frac{\sigma}{2} \|x-z^k+y^k/\sigma\|^2_2\right)$ ，求导即 $x^{k+1}=(A^\top A+\sigma I)^{-1}(A^\top b+\sigma z^k - y^k)$ ，这里利用缓存的 cholosky 分解的结果以加速求解 $x^{k+1}$ 。

    w = Atb + sm*z - y;
    x = R \ (R' \ w);

更新 $z$ , $z^{k+1}=\arg\min_z \left(\mu\|z\|_1+\frac{\sigma}{2}\|x^{k+1}-z+y^k/\sigma\|_2^2\right)$ ，即 $z^{k+1}=\mathrm{prox}_{(\mu/\sigma)\|\cdot\|_1}(x^{k+1}+y^k/\sigma)$ 。

    c = x + y/sm;
    z = prox(c,mu/sm);

以 $c^{k+1}=\|x^{k+1}-z^{k+1}\|_2$ 表示约束违反度，增广拉格朗日函数对 $y$ 的梯度 $\frac{L_\rho(x,z,y)}{y}=\sigma (x-z)$ ，更新 $y$ 为一步梯度上升, $y^{k+1}=y^k+\gamma\sigma(x^{k+1}-z^{k+1})$ 。以 $\|x^{k+1}-z^{k+1}\|_2$ 作为判断停机的依据。

    y = y + opts.gamma * sm * (x - z);
    f = Func(A, b, mu, x);
    nrmC = norm(x-z,2);

输出每步迭代的信息。迭代步 $k$ 加一，记录当前步的函数值。

    if opts.verbose
        fprintf('itr: %4d\tfval: %e\tfeasi:%.1e\n', k, f,nrmC);
    end
    k = k + 1;
    out.fvec = [out.fvec; f];
end

退出循环，记录输出信息。

out.y = y;
out.fval = f;
out.itr = k;
out.tt = toc(tt);
out.nrmC = norm(c - y, inf);

end

辅助函数

函数 $h(x)=\mu\|x\|_1$ 对应的邻近算子 $\mathrm{sign}(x)\max\{|x|-\mu,0\}$ 。

function y = prox(x, mu)
y = max(abs(x) - mu, 0);
y = sign(x) .* y;
end

LASSO 问题的目标函数 $f(x)=\frac{1}{2}\|Ax-b\|_2^2+\mu \|x\|_1$ 。

function f = Func(A, b, mu, x)
w = A * x - b;
f = 0.5 * (w' * w) + mu*norm(x, 1);
end

参考页面

在页面实例：交替方向乘子法解 LASSO 问题中我们展示此算法的一个应用。另外，对 LASSO 对偶问题的 ADMM 参考页面利用交替方向乘子法求解 LASSO 对偶问题。

此页面的源代码请见： LASSO_admm_primal.m。

版权声明