【CVPR】华为诺亚提出 TNT，改进视觉 Transformer

出品人：jaelgu（GitHub）

Vision Transformer 首先将输入图像分成几个图片块，然后通过注意力机制计算两个表示及其关系。由于自然图像复杂度高，具有丰富的细节和色彩信息，块分割的粒度不足以挖掘不同尺度和位置的物体特征。TNT（Transformer in Transformer）指出这些局部的图片块内的注意力对于构建具有高性能的视觉转换器也是必不可少的，并探索了一种新的架构。在几个基准上的实验都证明了 TNT 架构的有效性，例如，在 ImageNet 上实现了 81.5% 的 top-1 准确率，比具有类似计算能力的最先进的 Vision Transformer 高约 1.7%成本。

TNT 将图片块（例如，16×16）视为“视觉句子”，并将其进一步划分为更小的块（例如，4×4）作为“视觉词”。每个单词的注意力将与给定视觉句子中的其他单词一起计算，计算成本可以忽略不计。将单词和句子的特征进行聚合以增强表示能力。在每个 TNT 块中，外部 transformer 块用于处理 patch 嵌入，而内部 transformer 块则从像素嵌入中提取局部特征。通过线性变换层将像素级特征投影到 patch 嵌入的空间，然后将其添加到 patch 中。通过堆叠 TNT 块，建立了用于图像识别的 TNT 模型。

如果你觉得我们分享的内容还不错，请不要吝啬给我们一些鼓励：点赞、喜欢或者分享给你的小伙伴！

如果你对我们的项目感兴趣请关注：

[微风] 用于构建模型推理流水线的框架 Towhee：https://t.cn/A6SZZgUj

巴克利：时光老人找上勇士了，克莱和格林都在沉睡

前往虎扑App，查看最全、最快的篮球资讯：https://t.cn/A6of6znE

全文如下：TNT评论员查尔斯-巴克利在节目中谈到了勇士的现状。

巴克利说道：“这支球队变得更老了。如果你看看上赛季的总决赛，是谁帮助他们赢下总冠军呢？是（安德鲁）威金斯、（乔丹）普尔。这就是我那么说的原因，现在取决于他们的年轻球员们了。（乔纳森）库明加、（摩西）穆迪、（乔丹）普尔还有（詹姆斯）怀斯曼。

“我很爱克莱（汤普森），但是他在沉睡，德雷蒙德（格林）也是。他们和以往不一样了。他们不是两三年那样了。当我看着勇士打篮球，我想说的是，时光老人找上他们了。这些家伙在一起赢得了4个总冠军。

“克莱曾经是NBA中最好的攻守兼备球员，他不是以前那个他了。”
#上虎扑搜篮球资讯#

#中俄头条# 【扎波罗热州梅利托波尔电视台爆炸事件已致6人受伤】据央视新闻报道，当地时间25日，根据当地政府的最新统计数据，扎波罗热州梅利托波尔ZaTV电视台爆炸事件共造成6人受伤，其中有一名12岁的儿童。

据俄罗斯社会院成员马力科维奇消息，一辆安放了爆炸装置的汽车25日当天在电视台大楼附近被引爆，爆炸强度约为1.5至2公斤TNT当量。爆炸发生时，电视台员工正准备开始工作。