Products
96SEO 2026-02-20 02:05 0
href="https://www.cnblogs.com/orange0005/p/19180249"
id="局部注意力方法-local-attentionla">局部注意力方法
对于NLP，LA能够更好的外推；对于CV，能够更加高效。
作用不同，主要也是因为两者的关注目标，实现方法不同。
(没有讨论多头，因为那是对最后一个维度，通道维度的操作，现在关注对注意力矩阵的操作)。
id="1-full-self-attention-sa">1.
softmax(\frac{QK^{\top}}{\sqrt{d}}),
上述的注意力也可以被看作是全的双向注意力，因为每一个输入仅能访问前面的信息，也能访问后面的信息。
然而，在语言任务中（next
predictions），文本生成更需要符合因果关系：即后面生成的token，仅能看到前面的tokens，不应该看到后面未生成的tokens的信息。
因此，需要对注意力矩阵添加一个
inline">\(\mathcal{M}\)：
display">\[\left[\begin{array}{c}
display">\[\left[\begin{array}{c}
\]
用于提升模型的外推能力。
以上两类工作尽管也是利用了局部的信息（也可以看作一种local的注意力），但这不可以直接迁移到
id="31-sparse-global-attention">3.1
为代表，将自注意力限制到一个局部区域；通过窗口移动来实现窗口外的交互。
（实际上是特征偏移实现的。
）
data-src="https://gitee.com/li-zhumeng/typora_image/raw/master/img/20251028111403.png"
将注意力完全限制到一个局部区域。
邻居间的交互通过间接方式实现，因为是不重叠的划分。
中，每次只关注local中的一个tokens，所以需要将qv切片成
data-src="https://gitee.com/li-zhumeng/typora_image/raw/master/img/20251028112452.png"
id="331-slide-transformer">3.3.1
这篇文章使用深度水平的卷积替代了Im2Col，还加入了一个可学习核增加表示力，无需手写cuda。
data-src="https://gitee.com/li-zhumeng/typora_image/raw/master/img/20251028112839.png"
id="332-neighborhood-attention-transformer">3.3.2
data-src="https://gitee.com/li-zhumeng/typora_image/raw/master/img/20251028113011.png"
作为专业的SEO优化服务提供商，我们致力于通过科学、系统的搜索引擎优化策略，帮助企业在百度、Google等搜索引擎中获得更高的排名和流量。我们的服务涵盖网站结构优化、内容优化、技术SEO和链接建设等多个维度。
| 服务项目 | 基础套餐 | 标准套餐 | 高级定制 |
|---|---|---|---|
| 关键词优化数量 | 10-20个核心词 | 30-50个核心词+长尾词 | 80-150个全方位覆盖 |
| 内容优化 | 基础页面优化 | 全站内容优化+每月5篇原创 | 个性化内容策略+每月15篇原创 |
| 技术SEO | 基本技术检查 | 全面技术优化+移动适配 | 深度技术重构+性能优化 |
| 外链建设 | 每月5-10条 | 每月20-30条高质量外链 | 每月50+条多渠道外链 |
| 数据报告 | 月度基础报告 | 双周详细报告+分析 | 每周深度报告+策略调整 |
| 效果保障 | 3-6个月见效 | 2-4个月见效 | 1-3个月快速见效 |
我们的SEO优化服务遵循科学严谨的流程，确保每一步都基于数据分析和行业最佳实践：
全面检测网站技术问题、内容质量、竞争对手情况，制定个性化优化方案。
基于用户搜索意图和商业目标，制定全面的关键词矩阵和布局策略。
解决网站技术问题，优化网站结构，提升页面速度和移动端体验。
创作高质量原创内容，优化现有页面，建立内容更新机制。
获取高质量外部链接，建立品牌在线影响力，提升网站权威度。
持续监控排名、流量和转化数据，根据效果调整优化策略。
基于我们服务的客户数据统计，平均优化效果如下：
我们坚信，真正的SEO优化不仅仅是追求排名，而是通过提供优质内容、优化用户体验、建立网站权威，最终实现可持续的业务增长。我们的目标是与客户建立长期合作关系，共同成长。
Demand feedback
