本文提出KnowCoder——一个通过代码生成实现通用信息抽取(Universal Information Extraction, UIE)的大语言模型。KnowCoder致力于开发一种LLM易于理解的统一模式表示方法，以及能促使LLM遵循模式并准确抽取结构化知识的有效学习框架。为此，KnowCoder引入代码化模式表示方法，将不同模式统一转换为Python类，从而以LLM友好的方式捕捉UIE中任务间约束等复杂模式信息。我们进一步构建了覆盖3万多种知识的代码化模式库，据我们所知这是UIE领域规模最大的模式库。为简化LLM学习过程，KnowCoder采用两阶段学习框架：通过代码预训练增强模式理解能力，通过指令微调提升模式遵循能力。在约15亿条自动构建数据上进行代码预训练后，KnowCoder已展现出卓越的泛化能力，在少样本设置下相比LLaMA2取得49.8% F1值的相对提升。经过指令微调后，KnowCoder在未见模式上表现出强大泛化能力，在零样本和低资源设置下分别较SOTA基线提升12.5%和21.9%。此外，基于我们的统一模式表示方法，可同时利用多个人工标注数据集优化KnowCoder，使其在有监督设置下最高获得7.5%的性能提升。

针对特定领域图谱的问答需要定制化方法，因其关系数量有限且领域特性鲜明。我们将经典逻辑编程语言 (Prolog) 与大语言模型 (LLM) 相结合，利用逻辑推理能力解决知识图谱问答 (KGQA) 任务。通过将问题转换为可读性强且接近自然语言表达的 Prolog 查询，我们实现了程序化推导答案的生成。为验证方法有效性，我们在 MetaQA 基准数据集上进行评估。实验结果表明，即使仅使用少量标注数据训练，我们的方法也能准确识别所有测试问题的正确答案实体。总体而言，这项工作通过融合逻辑编程语言，为特定领域图谱问答提供了兼具可解释性和鲁棒性的解决方案。

目标：现有大多数经过微调的生物医学大语言模型主要关注提升单语种生物医学问答和对话任务的性能。为探究微调后大语言模型在不同语言的多样化生物医学自然语言处理任务中的有效性，我们提出了双语生物医学任务微调模型Taiyi。