<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=utf-8">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
        {font-family:Consolas;
        panose-1:2 11 6 9 2 2 4 3 2 4;}
@font-face
        {font-family:"Andale Mono";
        panose-1:0 0 0 0 0 0 0 0 0 0;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        margin-bottom:.0001pt;
        font-size:12.0pt;
        font-family:"Times New Roman",serif;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:purple;
        text-decoration:underline;}
pre
        {mso-style-priority:99;
        mso-style-link:"HTML Preformatted Char";
        margin:0in;
        margin-bottom:.0001pt;
        font-size:10.0pt;
        font-family:"Courier New";}
span.HTMLPreformattedChar
        {mso-style-name:"HTML Preformatted Char";
        mso-style-priority:99;
        mso-style-link:"HTML Preformatted";
        font-family:Consolas;}
span.pl-k
        {mso-style-name:pl-k;}
span.pl-smi
        {mso-style-name:pl-smi;}
span.pl-s
        {mso-style-name:pl-s;}
span.pl-pds
        {mso-style-name:pl-pds;}
span.pl-c1
        {mso-style-name:pl-c1;}
span.pl-cce
        {mso-style-name:pl-cce;}
span.EmailStyle25
        {mso-style-type:personal-reply;
        font-family:"Calibri",sans-serif;
        color:#1F497D;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-size:10.0pt;}
@page WordSection1
        {size:8.5in 11.0in;
        margin:1.0in 1.0in 1.0in 1.0in;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-US" link="blue" vlink="purple">
<div class="WordSection1">
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:#1F497D">Just a quick thought<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:#1F497D"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:#1F497D">The smallest summary of what you’re after might be the jaccard difference between you annotation as computed by bedtools
<a href="http://bedtools.readthedocs.org/en/latest/content/tools/jaccard.html">http://bedtools.readthedocs.org/en/latest/content/tools/jaccard.html</a><o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:#1F497D"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:#1F497D">??<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:#1F497D"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:#1F497D"><o:p> </o:p></span></p>
<div style="border:none;border-left:solid blue 1.5pt;padding:0in 0in 0in 4.0pt">
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="MsoNormal"><b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">From:</span></b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> maker-devel [mailto:maker-devel-bounces@yandell-lab.org]
<b>On Behalf Of </b>Barry Moore<br>
<b>Sent:</b> Tuesday, April 19, 2016 4:37 PM<br>
<b>To:</b> Florian <fdolze@students.uni-mainz.de>; maker-devel <maker-devel@yandell-lab.org><br>
<b>Cc:</b> Campbell, Michael <mcampbel@cshl.edu><br>
<b>Subject:</b> Re: [maker-devel] A way to compare 2 annotation runs?<o:p></o:p></span></p>
</div>
</div>
<p class="MsoNormal"><o:p> </o:p></p>
<div>
<p class="MsoNormal">The Sequence Ontology provides some tools for this:<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
<div>
<p class="MsoNormal">SOBAcl has some pre-configured reports/graphs with some flexibility to modify their content/layout.<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><a href="https://github.com/The-Sequence-Ontology/SOBA">https://github.com/The-Sequence-Ontology/SOBA</a><o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
<div>
<p class="MsoNormal">This simple example provides a table for two GFF3 files of the count of feature types:<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
<div>
<pre>SOBAcl --columns file --rows type --data type --data_type count   \<o:p></o:p></pre>
<pre>  data/dmel-all-r5.30_0001000.gff data/dmel-all-r5.30_0010000.gff <o:p></o:p></pre>
<div>
<p class="MsoNormal">More complex examples are available in the test file SOBA/t/sobacl_test.sh<o:p></o:p></p>
</div>
</div>
<div>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
<div>
<p class="MsoNormal">The GAL library is a perl library that works well with MAKER output and other valid GFF3 documents.  I has some scripts that would provide metrics along the lines of what you’re looking for, but is primarily a programing library to make
 it easy to roll your own<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><a href="https://github.com/The-Sequence-Ontology/SOBA">https://github.com/The-Sequence-Ontology/GAL</a><o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
<div>
<p class="MsoNormal">If you’re OK with a little bit of perl code, modifying the synopsis code in the README a bit you can generate the splice complexity metrics described here (<a href="http://www.ncbi.nlm.nih.gov/pubmed/19236712">http://www.ncbi.nlm.nih.gov/pubmed/19236712</a>)
 are easy to produce:<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
<div>
<p class="MsoNormal"><span class="pl-k"><span style="font-family:"Andale Mono",serif">use</span></span><span style="font-family:"Andale Mono",serif"> GAL::Annotation;</span><o:p></o:p></p>
</div>
<div>
<pre><span class="pl-k"><span style="font-family:"Andale Mono",serif">my</span></span><span style="font-family:"Andale Mono",serif"> <span class="pl-smi">$annot</span> = GAL::Annotation<span class="pl-k">-></span>new(<span class="pl-pds">qw(</span><span class="pl-s">file.gff file.fasta</span><span class="pl-pds">)</span>;<o:p></o:p></span></pre>
<pre><span class="pl-k"><span style="font-family:"Andale Mono",serif">my</span></span><span style="font-family:"Andale Mono",serif"> <span class="pl-smi">$features</span> = <span class="pl-smi">$annot</span><span class="pl-k">-></span>features;<o:p></o:p></span></pre>
<pre><span style="font-family:"Andale Mono",serif"><o:p> </o:p></span></pre>
<pre><span class="pl-k"><span style="font-family:"Andale Mono",serif">my</span></span><span style="font-family:"Andale Mono",serif"> <span class="pl-smi">$genes</span> = <span class="pl-smi">$features</span><span class="pl-k">-></span>search( {<span class="pl-c1">type</span> <span class="pl-k">=></span> <span class="pl-pds">‘</span><span class="pl-s">gene</span><span class="pl-pds">'</span>} );<o:p></o:p></span></pre>
<pre><span class="pl-k"><span style="font-family:"Andale Mono",serif">while</span></span><span style="font-family:"Andale Mono",serif"> (<span class="pl-k">my</span> <span class="pl-smi">$gene</span> = <span class="pl-smi">$genes</span><span class="pl-k">-></span>next) {<o:p></o:p></span></pre>
<pre><span style="font-family:"Andale Mono",serif">    <span class="pl-c1">print</span> <span class="pl-smi">$gene</span><span class="pl-k">-></span>feature_id        . <span class="pl-pds">“</span><span class="pl-cce">\t</span><span class="pl-pds">"</span>;<o:p></o:p></span></pre>
<pre><span style="font-family:"Andale Mono",serif">    print $gene->splice_complexity . “\n”;<o:p></o:p></span></pre>
<pre><span style="font-family:"Andale Mono",serif">    }<o:p></o:p></span></pre>
<pre><span style="font-family:"Andale Mono",serif">}    <o:p></o:p></span></pre>
<div>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
<div>
<p class="MsoNormal">Hope that helps,<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
<div>
<p class="MsoNormal">Barry<o:p></o:p></p>
</div>
</div>
<div>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p> </o:p></p>
<div>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<div>
<p class="MsoNormal">On Apr 19, 2016, at 9:08 AM, Carson Holt <<a href="mailto:carsonhh@gmail.com">carsonhh@gmail.com</a>> wrote:<o:p></o:p></p>
</div>
<p class="MsoNormal"><o:p> </o:p></p>
<div>
<p class="MsoNormal">I’m going to ask Michael Campbell to answer this. He wrote a protocols paper that will help.<br>
<br>
—Carson<br>
<br>
<br>
<br>
<br>
<o:p></o:p></p>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<p class="MsoNormal">On Apr 19, 2016, at 6:08 AM, Florian <<a href="mailto:fdolze@students.uni-mainz.de">fdolze@students.uni-mainz.de</a>> wrote:<br>
<br>
<br>
Hello All,<br>
<br>
We ran MAKER on a newly assembled genome for 3 iterations, since 2 seems to be the recommended standard and while on holiday I just ran it a third time. Now I want to compare the results of the iterations to see where the annotation (hopefully) improved/changed
 but I cant really come up with a clever way to this.<br>
<br>
I reckon this has to be an often solved problem though I couldnt find a solution except an older entry in this mail-list but that wasnt helpful.<br>
<br>
<br>
So how are people assessing quality of a maker run? How do you say one run was 'better' than another?<br>
<br>
<br>
best regards & thanks for your input,<br>
Florian<br>
<br>
_______________________________________________<br>
maker-devel mailing list<br>
<a href="mailto:maker-devel@yandell-lab.org">maker-devel@yandell-lab.org</a><br>
<a href="http://yandell-lab.org/mailman/listinfo/maker-devel_yandell-lab.org">http://yandell-lab.org/mailman/listinfo/maker-devel_yandell-lab.org</a><o:p></o:p></p>
</blockquote>
<p class="MsoNormal"><br>
<br>
_______________________________________________<br>
maker-devel mailing list<br>
<a href="mailto:maker-devel@yandell-lab.org">maker-devel@yandell-lab.org</a><br>
<a href="http://yandell-lab.org/mailman/listinfo/maker-devel_yandell-lab.org">http://yandell-lab.org/mailman/listinfo/maker-devel_yandell-lab.org</a><o:p></o:p></p>
</div>
</blockquote>
</div>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
</div>
</div>
</body>
</html>