【一种新的基于数据采样和多任务优化的DNN训练框架 | A Novel DNN Training Framework via Data Sampling and Multi-Task Optimization】

传统的DNN训练范例通常依赖于一个训练集和一个验证集，通过以某种方式划分用于训练的注释数据集，即总训练集而获得。训练集用于训练模型，而验证集用于在训练进行时估计训练模型的泛化性能，以避免过拟合。在这个范例中存在两个主要问题。首先，由于潜在的与测试数据不匹配，验证集可能很难保证对泛化性能的无偏估计。其次，训练DNN对应于求解一个复杂的优化问题，该问题容易陷入较差的局部最优，从而导致不希望得到的训练结果。为了解决这些问题，我们提出了一种新颖的DNN培训框架。它通过随机分裂从总训练集生成多对训练和验证集，在每一对上训练预先指定结构的DNN模型，同时使从一个模型训练过程获得的有用知识(例如，有希望的网络参数)通过多任务优化被转移到其他模型训练过程，并且输出所有训练的模型中的最佳模型，其具有来自所有对的验证集的整体最佳性能。新框架中的知识转移机制不仅可以通过帮助模型训练过程摆脱局部最优来提高训练效果，而且可以通过对一个模型训练过程施加与其他模型训练过程不同的隐式正则化来提高泛化性能。我们实现了所提出的框架，在GPU集群上并行化实现，并将其应用于训练几个广泛使用的DNN模型。实验结果表明，与传统的训练范式相比，本文提出的框架具有一定的优越性。
arXiv.2007.01016: https://t.cn/A6yAhYDt
time: 2020-07-02T10:58:57Z
#CV论文上新咯#

The Royal Theatre Copenhagen
(The Red Room)

autumn 2012

Text by Shakespeare
Adaptation and direction: Rune David Grue
Lighting design: Jonas Bøgh

The Royal Theatre Copenhagen (The Red Room)
autumn 2011

Director: Rune David Grue

设计师帕勒·斯蒂恩·克里斯滕森用人头张贴画的形式贴满了整个舞台布景，他的设计以极高的精确度和视觉效果征服了观众，昏暗的舞台灯光结合整个舞台，反映了地下室里住着的主人想象中的世界：在他建造的理想国中，他是熠熠闪光的存在。

The Royal Theatre Copenhagen (The Red Room)
winter 2012-13

Text by Tine Rahel Völcker after the novel by Gustave Flaubert
Director: Elisa Kragerup
Light Design: Mads Nielsen

在《Madame Bovary》的舞台设计上，帕勒·斯蒂恩·克里斯滕森用LED灯围成一个圆环来配合演员的表演，展现人物内心世界。

Epidemiological surveys have played an important role in making efforts more effective and targeted in preventing and controlling the novel coronavirus disease (COVID-19). The epidemiological researchers need to have close contact with confirmed COVID-19 patients and suspected cases when they conduct an investigation. Their work is at high risk of being infected and it is little known to the public how they fulfill their duties.
https://t.cn/A6yzIsaD