。

KCSAN是一种检测LKMM(Linux内核内存一致性模型)定义的数据竞争(data

Concurrency

Sanitizer)是一种动态竞态检测器它依赖于编译时插装并使用基于观察点的采样方法来检测竞态其主要目的是检测数据竞争。

KCSAN是一种检测LKMM(Linux内核内存一致性模型)定义的数据竞争(data

race)的工具同时它也可以控制报告哪种类型的数据竞争。

KCSAN知道LKMM定义的所有标记原子操作以及LKMM尚未提到的操作例如原子位掩码操作(bit

mask)。

KCSAN扩展了LKMM例如通过提供data_race()标记来表示存在数据竞争和缺乏原子可能性。

1.1

LKMM(Linux内核内存一致性模型)Linux内核内存模型目前在源代码树中的memory-barrier.txt和atomic_ops.txt文件中有非正式的定义。

包含以下组成部分变量访问(Variable

Access)使用READ_ONCE()、WRITE_ONCE()和ACCESS_ONCE()宏来保护从共享(但非原子)变量的加载和存储内存屏障(Memory

Barriers)一类同步屏障指令是CPU或编译器在对内存随机访问的操作中的一个同步点使得此点之前的所有读写操作都执行后才可以开始执行此点之后的操作。

比如barrier、smp_mb/smp_wmb/smp_rmb等锁操作(Locking

Dependencies)Linux内核提供了一个有限的控件依赖的概念在某些情况下对依赖控件的存储进行优先加载RCU宽限期授权关系(Grace-Period

Relationships)允许更新者等待所有已经存在的读侧临界区完成再回收旧的资源C11原子原语

(C11

Atomics)将原子原语的实现委托给编译器如果多个体系结构采用这种方法将减少体系结构特定代码的数量。

1.2

数据竞争为什么要关心数据竞争?C语言的发展独立于并发性。

如果给定的变量或访问没有任何特别之处则变量只会在响应当前线程的存储时发生变化。

C语言和编译器的进化对并发性不敏感优化编译器正变得越来越丰富因此编译器可以并且使用各种优化包括负载融合、代码重新排序和许多其他可能导致并发算法故障的优化。

读取拆分单次访问多次读取存储拆分单次访问多次写入读取融合编译器直接使用上一次对这个变量的load结果而不是真正再去load一次存储融合编译器优化写入变量流程不再真实写入代码重排把一些类似的计算归在一起节省占用的寄存器改善现代超标量微处理器里面各个运算单元的利用效率虚拟读取编译器优化会导致多次读取导致后续加载异常虚拟存储编译器优化会导致多次存储导致后续存储异常.....因此需要告诉编译器并发代码Linux提供内存一致性模型也提供检查方法解决此类问题。

1.2.1

同步冲突访问的检测条件在访问同一个地方并且至少有一个是写操作至少有一个是普通访问比如x42以下线程打钩的是标准做法打叉的是可能存在数据竞争的情况。

1.2.3

哪些不属于数据竞争例如使用不对称的锁机制并且使用READ_ONCE/WRITE_ONCE标记访问。

二、依赖与配置方案2.1

版本支持KCSAN支持GCC/CLANG编译需要GCC版本11CLANG

5.8

KCSAN工具链支持cc-option,-fsanitizethread

--param

使用方式检查未标记读取是否写入竞争会持续扫描内核的主要分支在访问的内存位置上设置观察点挑出导致数据争用的数据并将其报告给内核日志。

●用“软观察点”查找竞争〇设置观察点和失速通道〇如果监测点已经存在那么竞争检查将照常进行〇如果值改变了--

竞争〇失速通道随机延迟增加观察竞争状态的机会默认值:任务[1,80]us中断[1,20]us。

●为所有检测内存访问设置观察点〇

注释标记访问仅用于检查非标记访问是否存在观察点KCSAN从不在标记的访问上设置观察点如果对并发访问的变量的所有访问都正确地标记了KCSAN将永远不会触发观察点因此永远不会报告访问。

●采样:

KCSAN软观测点基于地址页索引〇可以溢出到相邻槽。

〇使用索引确保报告元数据给匹配的生产者/消费者。

具有灵活、可缩放的特点以数组的形式存放。

代码片段如下入口函数check_access在check_access数据地址、长度、类型在check_access函数执行find_watchpoint判断。

需要检测的ptr已经插桩编译。

3.3

KCSAN

运行流程进入check_access函数格式描述包含数据指针、长度、读写类型确认是否需要观测需要满足至少一个写操作且为普通访问如果判定需要观测加入观察列表延时一段时长查看是否有访问、变更数据等情况如果有则生产数据表并打印数据到控制台如果没有则退出在步骤3如果未发现合适的观测点则该数据运行流程退出3.4

ASSERT检测机制KCSAN提供有一种断言检测机制检查在数据竞争模型以外的情况下提供竞争检测3.4.1

ASSERT集合3.5

KUNIT测试模型KCSAN提供KUNIT的支持创建多个access_thread线程用于测试用例函数的调用接口挂接console跟踪点该跟踪点监控串口输出数据如果有数据竞争报错可以捕获并判断启动测试用例接口函数实现测试函数的挂接并提供超时判定缺省执行500毫秒在执行超时以后判断输出是否与预想一致并给出判断结果。

4.2

测试条件1.

配置CONFIG_KCSAN_KUNIT_TESTy使能KUNIT2.

KCSAN功能正常开启4.3

不同条件下的数据竞争data_race2.断言函数数据竞争assert_exclusive_x3.

early”打印2.后台会实时进行观测点的监控与比对如果比中会有”BUGKCSAN”控制台打印来描述数据竞争的信息这些信息包括调用函数、数据竞争地址、CPU号、进程号等可在不同的测试场景进行压力测试3.在运行过程中查看“KCSAN

kernel

debug”节点查看当前的状态这些状态信息包括观测点、数据竞争、ASSERT报错等一系列信息5.2

案例一描述IGMP协议timer超时与事件函数在读写mr_ifc_count变量的数据竞争net:

igmp:

igmp_ifc_timer_expire函数在读写mr_ifc_count变量存在数据竞争需要使用LLKM

访问保护2.

修改调用mr_ifc_count点,使用READ_ONCE/WRITE_ONCE保证编译器的一致性;3.

mr_ifc_count和in_dev-mr_ifc_count值不等时启动重传机制5.3

案例二描述在taskstats_exit()中分配和测试任务统计时会有一个竞争在读写sig-statsWhen

assiging

结构体成员sig-stats存在数据竞争需要使用LLKM访问保护2.

smp_load_acquire/smp_store_release函数解决CPU数据同步和编译器同步问题适用于同一个函数内部的数据竞争六、总结本文从工作原理、运行流程、测试方式等多个方面介绍了KCSAN旨在让读者能够对KCSAN运行有一个直观的认识利用KCSAN在产品中解决一些数据竞争问题数据竞争是一个复杂问题用KCSAN能帮助大家快速找到数据竞争问题进而寻找方法解决或规避本文更多传递是一种发现和解决此类问题的思路。

消杀器技术在不断地迭代和更新也让大家多一份探寻世界、改变世界的机会借此机会站在巨人的肩膀上让大家看得更远、走得更远愿大家都有一个美好的明天。

七、参考文档更多案例分享https://github.com/google/kernel-sanitizers/blob/master/kcsan/FOUND_BUGS.mdLKMM:https://www.open-std.org/jtc1/sc22/wg21/docs/papers/2016/p0124r2.htmlKCSAN

ASSERT:https://www.kernel.org/doc/html/next/dev-tools/kcsan.html#c.ASSERT_EXCLUSIVE_ACCESSKUNIT测试框架https://kunit.dev/third_party/kernel/docs/api/test.html?highlightkunit_expect_false测试使用内核源码地址https://kernel.source.codeaurora.cn/pub/scm/linux/kernel/git/stable/linux.git/commit/?hv6.1.1idebdb69c5b054f115ef5ff72f0bb2aaa1718904e6长按关注内核工匠微信Linux内核黑科技|

技术文章