华老拿起草稿纸，在上面写了几笔。
“雅可比迭代的中间矩阵，本来就会比最终结果大一个量级。”
“你按最终结果选比例因子，中间不溢出才怪。”
苏步云有点不好意思。
这个失误，说大不大，说小不小。
溢出这个问题，从机器设计之初他们就知道，16位定点数，最大正数32767，超过这个数值就会溢出，从而导致符号位翻转的问题。
林远也提前提醒过，让他们用比例因子法。
可苏步云却犯了个错误：他只算了最终结果的范围，却没算中间结果。
毕竟大坝应力的最终结果是几千公斤/平方厘米，除以1000之后变成几个单位，怎么都不会溢出。
但迭代过程中的中间矩阵，元素值会膨胀到几万甚至几十万。
比例因子没留够余量，中间结果直接就爆炸了。
这个问题，比之前所有的问题都要棘手。
之前的问题，是工具的问题，只要肯想办法，总能解决。
可溢出不一样。
这是机器本身的物理限制。
16位就是16位，符号位就是符号位，你改不了。
就好比一个量筒，最多能量32767毫升的水，你非要往里倒40000毫升，它只能溢出来。
“小苏，这不怪你。”华老忽然开口。
苏步云抬起头。
“当初定16位字长的时候，我就该坚持做24位。”华老看着草稿纸上的数字，“24位的话，最大正数能到800多万，大坝应力这点数，怎么都不会溢出。”
“可当时硬件组说，16位已经用了1000多个电子管，再扩到24位，已经严重偏离了既定目标。”
“林远同志也说，验证机先跑通架构，字长可以后面再加。”
“我想着，定点数加比例因子，应该够用了。”
他顿了顿，苦笑了一声。
“我当时再坚持一下就好了。”
苏步云此刻显得有些内疚，因为这不是“不知道”的错误，而是“算错了”的错误，这本是可以避免的。
溢出的原理他们都懂，比例因子法林远也给了方向，可中间结果会膨胀这么多，谁也没料到。
不过现在说这些都没用了。
得想办法找补才行。
52419696
椒盐烤鸡翅提醒您：看完记得收藏【海航书屋】 www.hoohang.com，下次我更新您才方便继续阅读哦，期待精彩继续！您也可以用手机版：m.hoohang.com，随时随地都可以畅阅无阻...