<div dir="ltr"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
And that in turn raises the questions of WHAT syntax tree.  HsSyn?  
Template Haskell?  Haskell-src-exts?  Or something new?   Shayan and 
Alan are busy parameterising HsSyn to make it non-GHC-specific, and 
directly usable for this kind of endeavour ("Trees that grow").  It'd be
 great to build on their work.</blockquote><div><br></div><div>Mainly, we need information on every Token that appears in the original source. My plan is to further group Tokens into a simple rose-tree based on how they occur in HsSyn. We intentionally want to avoid capturing too much information so the format doesn't change much with changes to the GHC AST. <br><br></div><div>I've made a file describing roughly what the data structures involved should look like<br></div><div><br><a href="https://gist.github.com/wz1000/edf14747bd890b08c01c226d5bc6a1d6">https://gist.github.com/wz1000/edf14747bd890b08c01c226d5bc6a1d6</a><br><br></div><div>The plan is to group the Tokens together in a tree in way similar to what structured-haskell-mode does. (The gifs in the following link might provide some idea)<br><br></div><div class="gmail_extra"><a href="https://github.com/chrisdone/structured-haskell-mode/">https://github.com/chrisdone/structured-haskell-mode/</a><br><br></div><div class="gmail_quote">For example, here is what structured-haskell-mode outputs for a small snippet of code: <a href="https://gist.github.com/wz1000/db42d4f533ba7d2345934906b312f743">https://gist.github.com/wz1000/db42d4f533ba7d2345934906b312f743</a><br><br></div><div class="gmail_quote">We want something similar for the HIE AST, but grouped into a tree, where each node(roughly corresponding to HsSyn constructors) points to all the subnodes and tokens it spans over.<br><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><span class="gmail-im">
</span>That's great.  But would it not be good to offer a library, with a
 well-defined API, that allows a client (including Haddock) to parse 
those .hie files into syntax trees or whatever?  You'll need to do that 
to allow the haddock thing you describe -- and it'd be much better to 
make the parser (and doubtless lots of utility function like finding 
things in the tree) available to any client not just haddock.<br></blockquote><br></div><div class="gmail_quote">Yes, a library to consume these files is definitely something we need, and I believe it will grow out naturally as we work out the integration with haddock and haskell-ide-engine.<br></div><div class="gmail_quote"><br>On 15 May 2018 at 14:12, Simon Peyton Jones <span dir="ltr"><<a href="mailto:simonpj@microsoft.com" target="_blank">simonpj@microsoft.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><span class="gmail-">|  > Why not put the .hie-file info into the .hi file?  (Optionally, of<br>
|  > course.)<br>
|  ><br>
|  <br>
|  Simon, I'm curious what benefits you think we might get from this?<br>
|  (I'm one of the mentors on this GSoC project btw).<br>
<br>
</span>Well, I've always thought that we should really put the .hi file into the .o file!  Having two files risks getting things out of sync, and three makes that worse.  The file is just a place to keep a blob of info.  What's the motivation for having two .hie as well as .hi?<br>
<span class="gmail-"><br>
|  <br>
|  > What tools/libraries do you plan to produce to allow clients to read<br>
|  a .hie file and make send of the contents?<br>
|  <br>
|  For GSoC as a proof of concept the idea is to teach haddock's<br>
|  hyperlinked-source backend to use this information to add type-<br>
|  annotation-on-hover to the colorized, hyperlinked, html source.<br>
<br>
</span>That's great.  But would it not be good to offer a library, with a well-defined API, that allows a client (including Haddock) to parse those .hie files into syntax trees or whatever?  You'll need to do that to allow the haddock thing you describe -- and it'd be much better to make the parser (and doubtless lots of utility function like finding things in the tree) available to any client not just haddock.<br>
<br>
And that in turn raises the questions of WHAT syntax tree.  HsSyn?  Template Haskell?  Haskell-src-exts?  Or something new?   Shayan and Alan are busy parameterising HsSyn to make it non-GHC-specific, and directly usable for this kind of endeavour ("Trees that grow").  It'd be great to build on their work.<br>
<span class="gmail-"><br>
|  with the GHC API. (This by the way is one of the key benefits of<br>
|  keeping the file separate from standard hi files -- it should be<br>
|  parseable and consumable without needing to link in GHC).<br>
<br>
</span>Yes, not linking in GHC is a reasonable goal; but having two files and file formats is not a necessary consequence of that goal.  Nothing stops us making a library to parse .hi files -- indeed the entire iface/ directory in GHC is quite well separated for that precise purpose.<br>
<br>
None of this is to criticise the plan.  I think it's a great idea to make more info more readily available to more tools.   I'm just poking at it a bit 😊.<br>
<span class="gmail-HOEnZb"><font color="#888888"><br>
Simon<br>
</font></span></blockquote></div><div class="gmail_extra"><br></div></div>