7
记一次有趣的Bug – 返回值被截断为32位
source link: http://blog.foool.net/2020/10/%e8%ae%b0%e4%b8%80%e6%ac%a1%e6%9c%89%e8%b6%a3%e7%9a%84bug/
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
← 上一篇
记一次有趣的Bug – 返回值被截断为32位
Posted on 2020/10/19
上周修改了hdrt 库文件中头文件的include 关系，结果出现了一个有趣的bug。具体表现为：当函数foo() 调用某个函数fun_called()，返回的值ret_val 总是从64位被截断为32位。
首先，在foo() 函数头和func_called 函数尾输出ret_val，确认是返回值是在调用过程中被截断了。
其次，在gdb 中查看生成的代码，发现ret_val所存储的寄存器rax （返回值一般存储在rax寄存器中）在被返回时，被cltq 指令截断了高32 位。
0x555555565adb <foo+42> callq 0x555555569874<fun_called>
0x555555565ae0 <foo+47> cltq
0x555555565ae2 <foo+49> mov %rax,-0x8(%rbp)
0x555555565ae6 <foo+53> cmpq $0x0,-0x8(%rbp)
0x555555565aeb <foo+58> jne 0x555555565b2e <foo+125>
最后，查了相关资料https://stackoverflow.com/a/26209434/1424948 可能原因是：
1）函数声明（prototype）中没有fun_called 的声明；
2）没有引用包含fun_called 声明的头文件。
默认情况下，调用函数foo 在不知道被调用函数fun_called 的返回值类型的情况下，会按照int 类型大小的值处理，即32位。
对于这个bug 其实有两个建议：
1 非特殊情况不要用强制类型转换（即type cast），(char *)这类转换会屏蔽很多暴露问题的warning；
2 要查看/消除warning，例如这个bug 实际隐藏在了warning 中，因为返回值被编译当做默认的int 类型返回时，获取返回值变量不是int 时则告警了类型不匹配。
此条目是由qing发表在其他分类目录的。将固定链接加入收藏夹。
此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据。
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK