<div dir="ltr"><div class="gmail_extra"><div class="gmail_quote">On 4 February 2016 at 12:29, Walter Bright via Digitalmars-d <span dir="ltr"><<a href="mailto:digitalmars-d@puremagic.com" target="_blank">digitalmars-d@puremagic.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><span class="">On 2/3/2016 11:41 PM, Iain Buclaw via Digitalmars-d wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
Actually, I found the reverse! One of the inline assembly version paths are<br>
correct up to double precision, the platform agnostic path I ported does not<br>
have this problem, but fails the tests.<br>
<br>
Adjusting them will *expose* the buggy algorithm for what it really is.<br>
<br>
</blockquote>
<br></span>
I don't understand. How can reducing precision of the test expose bugs?<br>
</blockquote></div><br></div><div class="gmail_extra">The literal being used to compare the result was wrong (by 12 mantissa bits) in the first place.<br><br></div><div class="gmail_extra"><br><br></div></div>