稀疏编码的经典解法——ISTA算法的推导

\qquad现有一个求稀疏编码的问题: min⁡∥z∥0s.t. x=Dz \min \parallel z \parallel_0 \quad s.t. \ x=Dz min∥z∥0​s.t. x=Dz \qquad其中D∈Rn×mD\in \mathbb{R}^{n\times m}D∈Rn×m, z∈Rmz\in \mathbb{R}^{m}z∈Rm 是 x∈Rnx\in \mathbb{R}^{n}x∈Rn 的 sparse code. \qquad 解决上式是一个复杂度随 m 以指数级增长的组合问题,最常见的解决方法是将 l0l_0l0​ 范数替换为 l1l_1l1​范数.即目标函数