日本データベース学会の皆様
(重複して届きました場合はお許しください)
お世話になっております.
奈良先端科学技術大学院大学の荒牧と申します.
NTCIR-18 にて,医療言語処理のシェアードタスク “MedNLP-CHAT” を開催いたします.
医療に関する質問への生成AIの解答の安全性を判定する旬なタスクとなっています.
現在,データ構築が完了し,タスク参加者はデータを入手できる状態になっています.
みなさまのご参加を広くお待ちしております.
NTCIR-18 MedNLP-CHAT:
https://sociocom.naist.jp/mednlp-chat
参加登録:https://research.nii.ac.jp/ntcir/ntcir-18/howto-ja.html
[タスク内容]
患者の質問に対しての回答について評価を行います.
評価は,医学的,法的,倫理的な妥当性に加え,患者の主観評価(有用性など)を含みます.
日本医療圏サブタスクとドイツ医療圏サブタスクの2つを準備しています.
[データセット]
日本とドイツの法律や医療ガイドラインに準拠した,それぞれ約200の QAペアからなるデータセットを構築しています.
うち100ペアを訓練データとして現在配布しています.残り約100ペアはテストデータとして後日配布します.
どちらのサブタスクのデータも,英語とフランス語への翻訳を行っており,多言語での参加が可能です.
[スケジュール]
Jan 17, 2025: Registration deadline and Test set release
Jan 17-24, 2025: Formal run
Feb 1, 2025: Evaluation results return
Feb 1, 2025: Task overview release (draft)
Mar 1, 2025: Submission due of participant papers (draft)
May 1, 2025: Camera-ready participant paper due
Jun 10-13 2025: NTCIR-18 Conference @ NII, Tokyo, Japan
[オーガナイザー]
Eiji Aramaki, Ph.D. (NAIST, Japan)
Shoko Wakamiya, Ph.D. (NAIST, Japan)
Shuntaro Yada, Ph.D. (University of Tsukuba, Japan)
Shohei Hisada (NAIST, Japan)
Tomohiro Nishiyama (NAIST, Japan)
Lisa Raithel, Ph.D. (DFKI, Germany, TU Berlin, Germany)
Roland Roller, Ph.D. (DFKI, Germany)
Philippe Thomas, Ph.D. (DFKI, Germany)
Hui-Syuan Yeh (Université Paris-Saclay, CNRS, LISN, France)
Pierre Zweigenbaum, Ph.D. (Université Paris-Saclay, CNRS, LISN, France)
[お問い合わせ先]
ご質問・ご不明点がありましたら,
socialcomputing-office(a)is.naist.jp
までお気軽にご連絡ください.
--
荒牧英治 奈良先端科学技術大学院大学・先端科学技術研究科 TEL: 0743-72-5250(研究室)
Eiji ARAMAKI, Ph.D., Professor; Nara Institute of Science and
Technology (NAIST), Japan