CLEFeHealth 2014 Task 3 Evaluation Package

View resource name in all available languages

Package d'évaluation CLEFeHealth tâche 3 2014

ID:

ELRA-E0043

The CLEF Initiative (Conference and Labs of the Evaluation Forum) promotes the systematic evaluation of information access systems through experimentation on shared tasks, with an emphasis on multilingual and multimodal information.

The CLEFeHealth 2014 Task 3 Evaluation Package contains data used for the User-centred health information retrieval Shared task at the CLEFeHealth Lab conducted in 2014.
Task 3 aimed at evaluating information retrieval to address questions patients may have when reading clinical reports.

The package contains:
• a collection of medical-related documents,
• guidelines provided to the participants,
• queries generated by medical professionals,
• a set of manual relevance assessments,
• the official results obtained by the participants,
• working notes papers.

The collection consists of a set of around 1 million medical-related documents, provided by the Khresmoi project. This collection contains documents covering a broad set of medical topics, and does not contain any patient information.
The documents in the collection come from several online sources, including Health On the Net organization certified websites, as well as well-known medical sites and databases (e.g. Genetics Home Reference, ClinicalTrial.gov).

Five sample development queries, 50 test queries and their translation in Czech, French and German, as well as result set are provided with the data set. The queries have been manually generated by medical professionals from disorders mentioned in discharge summaries used for task 2 of CLEF eHealth.

A demo version of the package is available from http://clefpackages.elra.info/clefehealthtask3/

View resource description in all available languages

L’initiative CLEF (Conference and Labs of the Evaluation Forum) a pour but de promouvoir l’évaluation systématique des systèmes d’accès à l’information à travers l’expérimentation sur des tâches partagées, avec un accent mis sur l’information multilingue et multimodale.

Le package d’évaluation CLEFeHealth tâche 3 2014 est composé de données utilisées lors de la tâche partagée de recherche d’information centrée-utilisateur sur la santé réalisée dans le cadre du laboratoire CLEFeHealth 2014.
La tâche 3 visait à l’évaluation de la recherche d’information abordant des questions que les patients sont susceptibles d’avoir lorsqu’ils lisent des rapports cliniques.

Le package est composé de:
• une collection de documents de type médical,
• directives fournies aux participants,
• requêtes générées par les professionnels du domaine médical,
• un ensemble de jugements pertinents réalisés manuellement,
• résultats officiels obtenus par les participants,
• notes de travail.

La collection consiste en un ensemble d’environ 1 million de documents de type médical, fournis par le projet Khresmoi. Cette collection contient des documents couvrant un large ensemble de thèmes du domaine médical et ne contient aucune information sur les patients.
Les documents de la collection proviennent de plusieurs sources disponibles en ligne, dont des sites web certifiés par l’organisation Health On the Net, ainsi que des sites médicaux et des bases de données renommés (par ex. Genetics Home Reference, ClinicalTrial.gov).

Cinq requêtes pour le développement de l’échantillon, 50 requêtes pour les tests et leur traduction en tchèque, français et allemand, ainsi que l’ensemble des résultats sont fournis avec l’ensemble des données. Les requêtes ont été générées manuellement par des professionnels du domaine médical à partir de troubles mentionnés dans des résumés de congé de patients utilisés pour la tâche 2 de CLEFeHealth.

Une version de démonstration du package est disponible à cette adresse http://clefpackages.elra.info/clefehealthtask3/

You don’t have the permission to edit this resource.