光華講壇——社會(huì)名流與企業(yè)家論壇第6720期
主 題：A Semi-smooth, Self-shifting, and Singular Newton Method for Sparse Optimal Transport一種稀疏最優(yōu)傳輸下的半光滑自偏移奇異牛頓法
主講人：上海財(cái)經(jīng)大學(xué) 邱怡軒教授
主持人：統(tǒng)計(jì)學(xué)院 林華珍教授
時(shí)間：1月22日 14:00-15:00
舉辦地點(diǎn)：柳林校區(qū)弘遠(yuǎn)樓408會(huì)議室
主辦單位：統(tǒng)計(jì)研究中心和統(tǒng)計(jì)學(xué)院 科研處
主講人簡(jiǎn)介：
邱怡軒，上海財(cái)經(jīng)大學(xué)統(tǒng)計(jì)與管理學(xué)院副教授，博士畢業(yè)于普渡大學(xué)統(tǒng)計(jì)系，畢業(yè)后曾于卡內(nèi)基梅隆大學(xué)擔(dān)任博士后研究員。主要研究方向包括深度學(xué)習(xí)、生成式模型和大規(guī)模統(tǒng)計(jì)計(jì)算等，科研成果發(fā)表在統(tǒng)計(jì)學(xué)國(guó)際權(quán)威期刊及機(jī)器學(xué)習(xí)頂級(jí)會(huì)議上。長(zhǎng)期參與建設(shè)統(tǒng)計(jì)學(xué)與數(shù)據(jù)科學(xué)社區(qū)“統(tǒng)計(jì)之都”，是眾多開(kāi)源軟件的開(kāi)發(fā)者與維護(hù)者。
內(nèi)容簡(jiǎn)介：
Newton's method is an important second-order optimization algorithm that has been extensively studied. However, many challenging optimization problems break the classical assumptions of Newton's method. For example, the objective function may not be twice differentiable, and the optimal solution may be non-unique. In this article, we propose a general Newton-type algorithm named S5N, to solve problems that have possibly non-smooth gradients and non-isolated solutions, a setting highly motivated by the sparse optimal transport problem. Compared with existing Newton-type approaches, the proposed S5N algorithm has broad applicability, does not require hyperparameter tuning, and possesses rigorous global and local convergence guarantees. Extensive numerical experiments show that on sparse optimal transport problems, S5N gains superior performance on convergence speed and computational efficiency.
牛頓法作為一種重要的二階優(yōu)化算法，目前已得到了廣泛的研究。然而，許多具有挑戰(zhàn)性的優(yōu)化問(wèn)題打破了牛頓方法的經(jīng)典假設(shè)。例如，目標(biāo)函數(shù)可能不是二次可微的，最優(yōu)解也可能不是唯一的。在稀疏最優(yōu)傳輸問(wèn)題的場(chǎng)景設(shè)置下，主講人提出了一種通用的牛頓型算法S5N來(lái)解決可能存在的非光滑梯度和非唯一解的問(wèn)題。與現(xiàn)有的牛頓算法相比，本文所提出的 S5N算法適用性廣，不需要調(diào)整超參數(shù)，并可以嚴(yán)格保證全局和局部的收斂性。大量的數(shù)值實(shí)驗(yàn)表明，在稀疏最優(yōu)傳輸問(wèn)題上，S5N 算法在收斂速度和計(jì)算效率方面都有較好的表現(xiàn)。
