Dupc的文章

贾维斯

AI头像


kor的相关学习及其理解

Posted on August 22, 2024

Blog Image

首先,第一步

Blog Image

获取硅基流动api,这是一个免费开放的语言模型

Blog Image # 替换成你自己的API key

配置好接口准备好前置工作

Blog Image

到此准备工作已经完成可以结合kor和schema

kor的主要功能体现在example中是否添加额外内容,Kor 会生成一个提示,发送到指定的 LLM 并解析出 输出,Kor主要基于prompt,是对LLM的一层封装。 LLM 之上的另一个包装器

Blog Image Blog Image

这是对应的运行结果,不难发现,添加了example以后data值不再为空

Blog Image Blog Image

总的来说,Kor 接收到用户定义的 schema 和待处理的原始文本(raw text)后,会将这两者组合起来,生成一个特定的 prompt(提示词模板)。这个 prompt 是用于引导 LLM 生成符合 schema 结构的输出。Kor 的作用在这一阶段尤为重要,它将复杂的 schema 和文本整合成适合 LLM 处理的输入形式,如果没有合适的结构则会返回为空