<html>
  <head>
    <meta http-equiv="Content-Type" content="text/html;
      charset=windows-1252">
  </head>
  <body>
    <p>Hi Simon,</p>
    <p>skip to the list at the bottom for TL;DR<br>
    </p>
    <p>Every time I get an email about perf notes my heart sinks a
      little. Hopefully there isn't a big issues here.</p>
    <p>First of all, what commit is your branch based on? Have you
      rebased on a recent master?<br>
    </p>
    <p>The output you posted says "<span lang="EN-US">...increased from
        x86_64-linux-deb9 baseline @ HEAD~28". So this means it is using
        metrics from CI as a baseline (that's the "</span><span
        lang="EN-US"><span lang="EN-US">x86_64-linux-deb9" part), but
          the baseline is from 28 commits ago (that's the "</span></span><span
        lang="EN-US"><span lang="EN-US"><span lang="EN-US">HEAD~28"
            part)</span>. The baseline seems a bit old. Also looking at
          gitlab CI, there are a lot of recent commits on master without
          completed CI runs.  So this might be a matter of waiting for
          CI to finish, then fetching the CI metrics again. Any way this
          may help:</span></span></p>
    <p><span lang="EN-US"><span lang="EN-US"><br>
        </span></span></p>
    <p><span lang="EN-US"><span lang="EN-US">TL;DR</span></span></p>
    <p><span lang="EN-US"><span lang="EN-US"><br>
        </span></span></p>
    <p><span lang="EN-US"><span lang="EN-US">1. Rebase of the latest
          master</span></span></p>
    <p><span lang="EN-US"><span lang="EN-US">2. Wait for CI to finish on
          a more recent commit (see
          <a class="moz-txt-link-freetext" href="https://gitlab.haskell.org/ghc/ghc/-/commits/master">https://gitlab.haskell.org/ghc/ghc/-/commits/master</a>)</span></span></p>
    <p><span lang="EN-US"><span lang="EN-US">3.</span></span><span
        lang="EN-US"> git fetch <a
          href="https://gitlab.haskell.org/ghc/ghc-performance-notes.git">
          https://gitlab.haskell.org/ghc/ghc-performance-notes.git</a></span><br>
    </p>
    <span lang="EN-US">refs/notes/perf:refs/notes/ci/perf</span>
    <p><span lang="EN-US">4. Re run the tests</span></p>
    <p><span lang="EN-US"><br>
      </span></p>
    <p><span lang="EN-US">Alternatively you can generate local metrics</span></p>
    <p><span lang="EN-US"><br>
      </span></p>
    <p><span lang="EN-US">1. Checkout a recent commit to use as the
        baseline (make sure the working tree is clean)</span></p>
    <p><span lang="EN-US">2. Run the relevant perf tests</span></p>
    <p><span lang="EN-US">3. Checkout your branches HEAD commit again</span></p>
    <p><span lang="EN-US">4. Run the relevant tests again.</span></p>
    <p><span lang="EN-US"><br>
      </span></p>
    <p><span lang="EN-US"><span lang="EN-US"></span></span></p>
    <p><span lang="EN-US"><span lang="EN-US">If that doesn't do it, I
          can have a closer look.</span></span></p>
    <p><span lang="EN-US"><span lang="EN-US"><br>
        </span></span></p>
    <p><span lang="EN-US"><span lang="EN-US">David E<br>
        </span></span></p>
    <p><span lang="EN-US"><span lang="EN-US"><br>
        </span></span></p>
    <div class="moz-cite-prefix">On 6/26/20 11:29 AM, Simon Peyton Jones
      via ghc-devs wrote:<br>
    </div>
    <blockquote type="cite"
cite="mid:VI1PR83MB0429F35C3F80CD47583DE092AD930@VI1PR83MB0429.EURPRD83.prod.outlook.com">
      <meta http-equiv="Content-Type" content="text/html;
        charset=windows-1252">
      <meta name="Generator" content="Microsoft Word 15 (filtered
        medium)">
      <style><!--
/* Font Definitions */
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin-top:6.0pt;
        margin-right:0cm;
        margin-bottom:6.0pt;
        margin-left:0cm;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;
        mso-fareast-language:EN-US;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:#0563C1;
        text-decoration:underline;}
p.Code, li.Code, div.Code
        {mso-style-name:Code;
        margin-top:0cm;
        margin-right:0cm;
        margin-bottom:0cm;
        margin-left:22.7pt;
        margin-bottom:.0001pt;
        font-size:10.0pt;
        font-family:"Courier New";
        mso-fareast-language:EN-US;
        font-weight:bold;}
span.EmailStyle18
        {mso-style-type:personal-compose;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-family:"Calibri",sans-serif;
        mso-fareast-language:EN-US;}
.MsoPapDefault
        {mso-style-type:export-only;
        margin-top:6.0pt;
        margin-right:0cm;
        margin-bottom:6.0pt;
        margin-left:0cm;}
@page WordSection1
        {size:612.0pt 792.0pt;
        margin:72.0pt 72.0pt 72.0pt 72.0pt;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
      <div class="WordSection1">
        <p class="MsoNormal"><span lang="EN-US">Despite a recent <o:p></o:p></span></p>
        <p class="Code"><span lang="EN-US">git fetch <a
              href="https://gitlab.haskell.org/ghc/ghc-performance-notes.git"
              moz-do-not-send="true">
              https://gitlab.haskell.org/ghc/ghc-performance-notes.git</a><o:p></o:p></span></p>
        <p class="Code" style="text-indent:13.3pt"><span lang="EN-US">refs/notes/perf:refs/notes/ci/perf<o:p></o:p></span></p>
        <p class="MsoNormal"><span lang="EN-US">I’m getting lots of perf
            regressions in HEAD. For example<o:p></o:p></span></p>
        <p class="Code"><span lang="EN-US">=====> T9203(normal) 1 of
            1 [0, 0, 0]<o:p></o:p></span></p>
        <p class="Code"><span lang="EN-US">]0;T9203(normal) 1 of 1 [0,
            0, 0]cd "T9203.run" && 
            "/home/simonpj/code/HEAD-3/inplace/bin/ghc-stage2" -o T9203
            T9203.hs -dcore-lint -dstg-lint -dcmm-lint
            -no-user-package-db -rtsopts
            -fno-warn-missed-specialisations -fshow-warning-groups
            -fdiagnostics-color=never -fno-diagnostics-show-caret
            -Werror=compat -dno-debug-output  -O2<
            <o:p></o:p></span></p>
        <p class="Code"><span lang="EN-US">cd "T9203.run" &&
            ./T9203  +RTS -V0 -tT9203.stats --machine-readable -RTS 
            <
            <o:p></o:p></span></p>
        <p class="Code"><span lang="EN-US">runtime/bytes allocated
            increased from x86_64-linux-deb9 baseline @ HEAD~28:<o:p></o:p></span></p>
        <p class="Code"><span lang="EN-US">    Expected    T9203
            (normal) runtime/bytes allocated: 56046952.0 +/-5%<o:p></o:p></span></p>
        <p class="Code"><span lang="EN-US">    Lower bound T9203
            (normal) runtime/bytes allocated:   53244604
            <o:p></o:p></span></p>
        <p class="Code"><span lang="EN-US">    Upper bound T9203
            (normal) runtime/bytes allocated:   58849300
            <o:p></o:p></span></p>
        <p class="Code"><span lang="EN-US">    Actual      T9203
            (normal) runtime/bytes allocated:  108464536
            <o:p></o:p></span></p>
        <p class="Code"><span lang="EN-US">    Deviation   T9203
            (normal) runtime/bytes allocated:       93.5 %<o:p></o:p></span></p>
        <p class="Code"><span lang="EN-US">*** unexpected stat test
            failure for T9203(normal)<o:p></o:p></span></p>
        <p class="Code"><span lang="EN-US"><o:p> </o:p></span></p>
        <p class="Code"><span lang="EN-US">Performance Metrics (test
            environment: local):<o:p></o:p></span></p>
        <p class="Code"><span lang="EN-US"><o:p> </o:p></span></p>
        <p class="Code"><span lang="EN-US">T9203(normal)            
            runtime/bytes allocated                     108464536.000<o:p></o:p></span></p>
        <p class="Code"><span lang="EN-US">   
                                  (baseline @
            HEAD~28)                         56046952.000  [increased,
            93.5%]<o:p></o:p></span></p>
        <p class="MsoNormal"><span lang="EN-US">What am I doing wrong?<o:p></o:p></span></p>
        <p class="MsoNormal"><span lang="EN-US">Simon<o:p></o:p></span></p>
      </div>
      <br>
      <fieldset class="mimeAttachmentHeader"></fieldset>
      <pre class="moz-quote-pre" wrap="">_______________________________________________
ghc-devs mailing list
<a class="moz-txt-link-abbreviated" href="mailto:ghc-devs@haskell.org">ghc-devs@haskell.org</a>
<a class="moz-txt-link-freetext" href="http://mail.haskell.org/cgi-bin/mailman/listinfo/ghc-devs">http://mail.haskell.org/cgi-bin/mailman/listinfo/ghc-devs</a>
</pre>
    </blockquote>
    <pre class="moz-signature" cols="72">-- 
David Eichmann, Haskell Consultant
Well-Typed LLP, <a class="moz-txt-link-freetext" href="http://www.well-typed.com">http://www.well-typed.com</a>

Registered in England & Wales, OC335890
118 Wymering Mansions, Wymering Road, London W9 2NF, England </pre>
  </body>
</html>