<div dir="ltr"><br><div class="gmail_quote">Dear All:<br>&gt;<br>&gt; When AGRIS team tried to harvest our repository records, it came up with a request to expose keywords and journal separately through OAI request.  Please see here the way our repository  exposes metadata elements <a href="http://oar.icrisat.org/cgi/oai2" target="_blank">http://oar.icrisat.org/cgi/oai2</a> .  How to expose metadata elements the way we want in EPrints?<br>

&gt;<br>&gt;<br>&gt;<br>&gt; Thanks<br>&gt; Madhan<br>&gt;<br><br>
<br>
-----Original Message-----<br>
From: <a href="mailto:franc@library.iisc.ernet.in" target="_blank">franc@library.iisc.ernet.in</a> [mailto:<a href="mailto:franc@library.iisc.ernet.in" target="_blank">franc@library.iisc.ernet.in</a>]<br>
Sent: Tuesday, July 02, 2013 5:29 PM<br>
To: Madhan, M (ICRISAT-IN)<br>
Subject: Re: Madhan requests help<br>
<br>
Hi Madan, I had a look at both our repositories. The OAI record doesn&#39;t<br>
explicitly expose the source and the keyword metadata elements. If this<br>
needs to be done, then one has to tweak the eprins code (<a href="http://oai2.pl" target="_blank">oai2.pl</a>). This is<br>
my understanding. you may also check with the eprints tech list.<br>
<br>
Best, Francis<br>
<br>
On Tue, 2 Jul 2013, Madhan, M (ICRISAT-IN) wrote:<br>
<br>
&gt; Dear Francis:<br>
&gt;<br>
&gt; When AGRIS team tried to harvest our repository records, it came up with a request to expose keywords and journal separately through OAI request.  Please see here the way our repository  exposes metadata elements <a href="http://oar.icrisat.org/cgi/oai2" target="_blank">http://oar.icrisat.org/cgi/oai2</a> and even IISc repository exposes the same way.  How to expose metadata elements the way we want in EPrints?<br>


&gt;<br>
&gt;<br>
&gt;<br>
&gt; Thanks<br>
&gt; Madhan<br>
&gt;<br>
&gt; ________________________________<br>
&gt; From: Anibaldi, Stefano (OEKC) [mailto:<a href="mailto:Stefano.Anibaldi@fao.org" target="_blank">Stefano.Anibaldi@fao.org</a>]<br>
&gt; Sent: Tuesday, July 02, 2013 3:15 PM<br>
&gt; To: Madhan, M (ICRISAT-IN)<br>
&gt; Cc: Keizer, Johannes; Celli, Fabrizio (OEKC)<br>
&gt; Subject: RE: ICRISAT REPO<br>
&gt;<br>
&gt; Dear Madhan<br>
&gt;<br>
&gt; We discussed internally and decided to hold until the harvested metadata from ICRISAT will be able to output keywords, either uncontrolled or agrotags.<br>
&gt; You will also have the time to see if it is possible to isolate at least the journal title and ISSN from the merged citation information which ICRISAT is dumping to dc:identifier.<br>
&gt;<br>
&gt; Thank you and regards,<br>
&gt;<br>
&gt; Stefano<br>
&gt;<br>
&gt;<br>
&gt;<br>
&gt; From: Anibaldi, Stefano (OEKC)<br>
&gt; Sent: 01 July 2013 14:59<br>
&gt; To: &#39;Madhan, M (ICRISAT-IN)&#39;<br>
&gt; Cc: Keizer, Johannes (OEKC)<br>
&gt; Subject: RE: ICRISAT REPO<br>
&gt;<br>
&gt; Hi Madhan<br>
&gt;<br>
&gt; I will discuss with my colleagues the feasibility to index data with all the issues that are listed in an email, reported below, which include the problem of lack of keywords, and the &quot;merged &quot;citation&quot; information in dc:identifier&quot;.<br>


&gt; I will get back to you as soon as possible.<br>
&gt;<br>
&gt; Cheers<br>
&gt;<br>
&gt; Stefano<br>
&gt;<br>
&gt;<br>
&gt;<br>
&gt; From: Madhan, M (ICRISAT-IN) [mailto:<a href="mailto:M.Madhan@cgiar.org" target="_blank">M.Madhan@cgiar.org</a>]<br>
&gt; Sent: 01 July 2013 06:54<br>
&gt; To: Anibaldi, Stefano (OEKC); Johannes Keizer<br>
&gt; Subject: ICRISAT REPO<br>
&gt;<br>
&gt; Dear Stefano:<br>
&gt;<br>
&gt; I am trying to tweak the codes to expose keywords separately to the harvesters.  I am in discussion with forum members.  I would request you please harvest the records without keywords.  We may have to re-run the harvest once our repository can expose keywords as well.<br>


&gt;<br>
&gt; Many thanks<br>
&gt;<br>
&gt; M Madhan<br>
&gt; Manager, Library and Information Services<br>
&gt; Knowledge Sharing and Innovation<br>
&gt; International Crops Research Institute for the Semi-Arid Tropics<br>
&gt; Patancheru, Hyderabad 502 324<br>
&gt; <a href="mailto:M.Madhan@cgiar.org" target="_blank">M.Madhan@cgiar.org</a>&lt;mailto:<a href="mailto:M.Madhan@cgiar.org" target="_blank">M.Madhan@cgiar.org</a>&gt;<br>
&gt; <a href="mailto:mu.madhan@gmail.com" target="_blank">mu.madhan@gmail.com</a>&lt;mailto:<a href="mailto:mu.madhan@gmail.com" target="_blank">mu.madhan@gmail.com</a>&gt;<br>
&gt;<br>
&gt;<br>
&gt;<br>
&gt; From: Anibaldi, Stefano (OEKC)<br>
&gt; Sent: 01 July 2013 10:10<br>
&gt; To: &#39;Madhan, M (ICRISAT-IN)&#39;<br>
&gt; Cc: Keizer, Johannes (OEKC)<br>
&gt; Subject: RE: ICRISAT open access data<br>
&gt;<br>
&gt; Dear Madhan,<br>
&gt;<br>
&gt; Thanks a lot and no problems :)<br>
&gt;<br>
&gt; Yes, as I was writing below, &quot;The main &quot;subjects&quot; are present, but not the keywords, either uncontrolled or Agrotags (taken from AgroPedia). This is occurring when with all the several metadata formats offered.<br>


&gt; I also noticed that one of the search engines (BASE) harvested and indexed your metadata and is completely missing with this essential information (especially for AGRIS and its RDF store).&quot;<br>
&gt; No problems for the publication of the data, actually I also come back from holidays.. :)<br>
&gt;<br>
&gt; Thanks again,<br>
&gt; Stefano<br>
&gt;<br>
&gt;<br>
&gt; From: Madhan, M (ICRISAT-IN) [mailto:<a href="mailto:M.Madhan@cgiar.org" target="_blank">M.Madhan@cgiar.org</a>]<br>
&gt; Sent: 23 June 2013 12:06<br>
&gt; To: Anibaldi, Stefano (OEKC)<br>
&gt; Cc: Keizer, Johannes (OEKC)<br>
&gt; Subject: RE: ICRISAT open access data<br>
&gt;<br>
&gt; Stefano:<br>
&gt;<br>
&gt; Sorry again.  There was an emergency in family, hence, I happened to rush on leave.<br>
&gt;<br>
&gt; Bye the way, I just noticed that the &quot;uncontrolled keywords&quot; are not exposed.  I tried to use &quot;Agrotagger&quot; but, I gave up as it was not able to assign proper keywords for a document.  Let me find the way to expose the keywords and get back to you.  Shall we delay indexing for a couple of days so that I can give a try?<br>


&gt;<br>
&gt;<br>
&gt; Madhan<br>
&gt; ________________________________<br>
&gt; From: Anibaldi, Stefano (OEKC) [<a href="mailto:Stefano.Anibaldi@fao.org" target="_blank">Stefano.Anibaldi@fao.org</a>]<br>
&gt; Sent: 21 June 2013 14:53:57<br>
&gt; To: Madhan, M (ICRISAT-IN)<br>
&gt; Cc: Keizer, Johannes<br>
&gt; Subject: RE: ICRISAT open access data<br>
&gt; Dear Madhan,<br>
&gt;<br>
&gt; Could you please advice if the OAI data can include the keywords and eventually also part of the merged &quot;citation&quot; information in dc:identifier?<br>
&gt;<br>
&gt; Thank you and regards<br>
&gt;<br>
&gt; Stefano<br>
&gt;<br>
&gt;<br>
&gt; From: Anibaldi, Stefano (OEKC)<br>
&gt; Sent: 18 June 2013 16:11<br>
&gt; To: &#39;Madhan, M (ICRISAT-IN)&#39;<br>
&gt; Subject: RE: ICRISAT open access data<br>
&gt;<br>
&gt; No problems Madhan, take your time.<br>
&gt; Please include also Johannes in your email since this morning we had a joint discussion on this specific issue.<br>
&gt; Cheers<br>
&gt; Stefano<br>
&gt;<br>
&gt; From: Madhan, M (ICRISAT-IN) [mailto:<a href="mailto:M.Madhan@cgiar.org" target="_blank">M.Madhan@cgiar.org</a>]<br>
&gt; Sent: 18 June 2013 15:01<br>
&gt; To: Anibaldi, Stefano (OEKC)<br>
&gt; Subject: RE: ICRISAT open access data<br>
&gt;<br>
&gt; Stefano:<br>
&gt;<br>
&gt; Sorry for the belated reply. I was a bit held up.<br>
&gt;<br>
&gt; Give me a day.  I will give a detailed note about all the queries.  Thanks<br>
&gt;<br>
&gt; Madhan<br>
&gt;<br>
&gt; ________________________________<br>
&gt; From: Anibaldi, Stefano (OEKC) [mailto:<a href="mailto:Stefano.Anibaldi@fao.org" target="_blank">Stefano.Anibaldi@fao.org</a>]<br>
&gt; Sent: Tuesday, June 18, 2013 5:34 PM<br>
&gt; To: Madhan, M (ICRISAT-IN)<br>
&gt; Cc: Keizer, Johannes<br>
&gt; Subject: RE: ICRISAT open access data<br>
&gt;<br>
&gt; Dear Madhan,<br>
&gt;<br>
&gt; This morning I had a brief discussion with Johannes (in copy) and we agreed to accept the metadata with the full citation information merged as is.<br>
&gt; We would anyway recommend to have journal titles, ISSN, ISBN, pagination, vol/no information and more, indexed in separate fields.<br>
&gt;<br>
&gt; On another front, please let us know the feasability of exposing the keywords in the OAI-PMH repository, in a way that we can index them in AGRIS, too.<br>
&gt;<br>
&gt; Thank you and regards,<br>
&gt;<br>
&gt; Stefano<br>
&gt;<br>
&gt;<br>
&gt;<br>
&gt;<br>
&gt; From: Anibaldi, Stefano (OEKC)<br>
&gt; Sent: 14 June 2013 14:23<br>
&gt; To: &#39;Madhan, M (ICRISAT-IN)&#39;<br>
&gt; Cc: Keizer, Johannes (OEKC)<br>
&gt; Subject: RE: ICRISAT open access data<br>
&gt;<br>
&gt; Hi Madhan,<br>
&gt;<br>
&gt; There are yet two issues separate from the problems listed below on URL links, for the finalization of the harvesting and indexing of the ICRISAT data.<br>
&gt; For the subjects, and more generally the indexing part, I had the chance to look a bit more in detail the data that you send via ftp and it appears that ICRISAT OAI-PMH data does not expose the keywords, when they are actually present in the Open Access Repository of ICRISAT.<br>


&gt; The main &quot;subjects&quot; are present, but not the keywords, either uncontrolled or Agrotags (taken from AgroPedia). This is occurring when with all the several metadata formats offered.<br>
&gt; I also noticed that one of the search engines (BASE) harvested and indexed your metadata and is completely missing with this essential information (especially for AGRIS and its RDF store).<br>
&gt;<br>
&gt; Then, I found out that a complete set of information like journal title, date of pub, collation, publisher, vol/no, authors, and so on.. is included all together in dc:identifier (as well as the URLs..). It would be essential if this information is separated in its proper metatags.<br>


&gt; AGRIS has proper indexes for dates, names, journals, issns and other information and if this is all merged into one tag, it becomes impossible, if, as is this case, there is no fixed pattern that would allow us to normalize the text internally.<br>


&gt;<br>
&gt; Kindly let me know.<br>
&gt;<br>
&gt; Cheers<br>
&gt; Stefano<br>
&gt;<br>
&gt;<br>
&gt; From: Anibaldi, Stefano (OEKC)<br>
&gt; Sent: 11 June 2013 16:00<br>
&gt; To: &#39;Madhan, M (ICRISAT-IN)&#39;<br>
&gt; Cc: &#39;Giannis Stoitsis&#39;; &#39;<a href="mailto:nikosm@agroknow.gr" target="_blank">nikosm@agroknow.gr</a>&#39;; Keizer, Johannes (OEKC)<br>
&gt; Subject: RE: ICRISAT open access data<br>
&gt;<br>
&gt; Hello Madhan,<br>
&gt;<br>
&gt; Thanks for your response.<br>
&gt; I am sure we&#39;ll find a solution to this issue, since, as is, we would have problems publishing the metadata that was harvested from your OAI server.<br>
&gt; I accessed some data from the five thousand and more harvested by our Agro-Know colleagues, but I only take one record for as an example, with three &quot;links to the full text&quot;.<br>
&gt; The main problem is that there are multiple dc:identifier elements, and we are not sure which one is the right one for AGRIS, which needs one URL that leads a user to access the full text,  which information, meaningfully enough, is described in the AGRIS Search with the label &quot;Full-Text&quot;. For the three (I noticed that most of the records offer four URLs) URLs offered in the attached XML record, this seems difficult to achieve. In fact for the following three URLs:<br>


&gt;<br>
&gt; 1.       <a href="http://oar.icrisat.org/5/1/cs51_5pp-2011_%282%29.pdf" target="_blank">http://oar.icrisat.org/5/1/cs51_5pp-2011_%282%29.pdf</a><br>
&gt;<br>
&gt; 2.       <a href="http://dx.doi.org/10.2135/cropsci2010.07.0440" target="_blank">http://dx.doi.org/10.2135/cropsci2010.07.0440</a><br>
&gt;<br>
&gt; 3.       <a href="http://oar.icrisat.org/5/" target="_blank">http://oar.icrisat.org/5/</a><br>
&gt; No. 1. URL is leading the user to the following screen, showing that the access to the PDF is restricted. Result: the user leaves this page and maybe goes back to the reference itself and access No. 2 link<br>
&gt;<br>
&gt; [cid:image001.jpg@01CE7643.15BCBC60]<br>
&gt; No.2 As is called, &quot;The Official URL&quot;, is the DOI link to the Springer metadata and the possibility to purchase the publication upon subscription (!)<br>
&gt; No.3 is the metadata reference as is exposed and published in the ICRISAT repository and contains the widget that you are mentioning below and that should provide the user with the resource itself.<br>
&gt;<br>
&gt; A quick temporary solution would be to index the ICRISAT data, including only the URL that are effectively landing on the full text and excluding all the other URLs.<br>
&gt;<br>
&gt; Please let me know what you think and how we can do to index only the URLs linking directly to the full text.<br>
&gt;<br>
&gt; Best regards,<br>
&gt;<br>
&gt; Stefano<br>
&gt;<br>
&gt;<br>
&gt; From: Madhan, M (ICRISAT-IN) [mailto:<a href="mailto:M.Madhan@cgiar.org" target="_blank">M.Madhan@cgiar.org</a>]<br>
&gt; Sent: 07 June 2013 05:04<br>
&gt; To: Anibaldi, Stefano (OEKC)<br>
&gt; Cc: &#39;Giannis Stoitsis&#39;; &#39;Nikos Manolis&#39;; &#39;<a href="mailto:nikosm@agroknow.gr" target="_blank">nikosm@agroknow.gr</a>&#39;; Johannes Keizer<br>
&gt; Subject: RE: ICRISAT open access data<br>
&gt;<br>
&gt; Stefano:<br>
&gt;<br>
&gt; Greetings!<br>
&gt;<br>
&gt; In our repository, for a few documents direct download is restricted to our local users.  However, for others, we have given request copy button for each document that is restricted.  Harvesters, normally redirect users to the repositories to download full-text.  Hence, you may consider linking the persistent URL of the document metadata rather linking the full-text PDF.  I don&#39;t have indicators (OA or restricted) readily built-in with the repository.  I would request you to harvest all the metadata of our repository and each record has the provision to reach the full-text.<br>


&gt;<br>
&gt; Many thanks.<br>
&gt;<br>
&gt; Madhan<br>
&gt;<br>
&gt; See: <a href="http://oar.icrisat.org/6842/" target="_blank">http://oar.icrisat.org/6842/</a><br>
&gt;<br>
&gt;<br>
&gt; [cid:image004.jpg@01CE66AC.C4EDF420]<br>
&gt;<br>
&gt; ________________________________<br>
&gt; From: Anibaldi, Stefano (OEKC) [mailto:<a href="mailto:Stefano.Anibaldi@fao.org" target="_blank">Stefano.Anibaldi@fao.org</a>]<br>
&gt; Sent: Thursday, June 06, 2013 8:00 PM<br>
&gt; To: Madhan, M (ICRISAT-IN)<br>
&gt; Cc: Keizer, Johannes; Subirats, Imma (OEKC)<br>
&gt; Subject: RE: ICRISAT open access data<br>
&gt;<br>
&gt; Dear Madhan,<br>
&gt;<br>
&gt; Could you please tell me if there is a way for us to identify the links to the full text of the documents that are open to the entire community and those that are not?<br>
&gt; We are close to the publication of the ICRISAT metadata in AGRIS, but we do not want to publish the publications that are restricted.<br>
&gt;<br>
&gt; Thanks and regards<br>
&gt;<br>
&gt; Stefano A.<br>
&gt; AGRIS Team<br>
&gt;<br>
&gt;<br>
&gt; From: Anibaldi, Stefano (OEKC)<br>
&gt; Sent: 04 June 2013 17:19<br>
&gt; To: &#39;Madhan, M (ICRISAT-IN)&#39;<br>
&gt; Cc: Giannis Stoitsis (<a href="mailto:stoitsis@ieee.org" target="_blank">stoitsis@ieee.org</a>&lt;mailto:<a href="mailto:stoitsis@ieee.org" target="_blank">stoitsis@ieee.org</a>&gt;); Nikos Manolis (<a href="mailto:manolisn@agroknow.gr" target="_blank">manolisn@agroknow.gr</a>&lt;mailto:<a href="mailto:manolisn@agroknow.gr" target="_blank">manolisn@agroknow.gr</a>&gt;); <a href="mailto:nikosm@agroknow.gr" target="_blank">nikosm@agroknow.gr</a>&lt;mailto:<a href="mailto:nikosm@agroknow.gr" target="_blank">nikosm@agroknow.gr</a>&gt;<br>


&gt; Subject: ICRISAT open access data<br>
&gt;<br>
&gt; Dear Madhan<br>
&gt;<br>
&gt; Hope things are fine with you. Long time, no see.. :)<br>
&gt;<br>
&gt; We are now working in collaboration with the Greek colleagues of Agro-Knows (cced) who are trying to harvest and process the metadata from your repository.<br>
&gt; Now, I have a question regarding the information on the full text of the OAI-PMH ICRISAT data.<br>
&gt;&gt; From the data harvested, both in didl and mets, I noticed a few (I did not check them all)  URLs that are pointing to a pdf that cannot be accessed freely.<br>
&gt; In the first three records I accessed, for example, from one XML doc that I just now harvested, all of them have restricted access and the user will end up to the ICRISAT Login page:<br>
&gt; <a href="http://oar.icrisat.org/15/1/1606_ftp.pdf" target="_blank">http://oar.icrisat.org/15/1/1606_ftp.pdf</a><br>
&gt; <a href="http://oar.icrisat.org/86/1/AsianBiotechDevRev_12_3_17-34_2010.pdf" target="_blank">http://oar.icrisat.org/86/1/AsianBiotechDevRev_12_3_17-34_2010.pdf</a><br>
&gt; <a href="http://oar.icrisat.org/87/1/BiosystemsEng105_2_198-204_2010.pdf" target="_blank">http://oar.icrisat.org/87/1/BiosystemsEng105_2_198-204_2010.pdf</a><br>
&gt;<br>
&gt; Now, I am not sure in percentage how much of the ICRISAT collection is real open access, but, I magine that if an open repository expose metadata to the OAI-PMH, it would be really great to hide those URLs that are not linking to the full text of the document, since the information in itself is not useful to the aggregators, search engines and the students and researchers who aim to deepen their knowledge directly from the internet, without the necessity to send requests to the data owners.<br>


&gt;<br>
&gt; What do you think?<br>
&gt;<br>
&gt; Thanks and regards<br>
&gt; Stefano A.<br>
&gt;<br>
&gt;<br>
&gt;<br>
&gt;<br>
&gt;<br>
&gt;<br>
&gt;<br>
&gt;<br>
<span><font color="#888888"><br>
--<br>
This message has been scanned for viruses and<br>
dangerous content by MailScanner, and is<br>
believed to be clean.<br>
<br>
</font></span></div><br><br clear="all"><div><br></div>-- <br>Madhan, M<br>Manager, Library and Information Services<br>International Crops Research Institute for Semi-Arid Tropics (ICRISAT)<br>Patancheru, Hyderabad<br>India<br>

<a href="http://www.icrisat.org/" target="_blank">www.icrisat.org</a><br>
</div>