Guide Labs的可解释模型有哪些能力？

Guide Labs 是一家成立于 2023 年的 AI 研究初创公司，致力于构建可解释的基础模型，包括大型语言模型（LLMs）、扩散模型和大规模分类器。与传统的‘黑箱’AI 模型不同，Guide Labs 的模型能够解释其输出，识别输入和训练数据中的重要部分，并使用人类可理解的概念进行定制。该公司通过 API 提供这些模型，使开发人员和企业能够利用可解释的 AI 进行各种应用。

Guide Labs: Interpretable foundation models 的主要功能

Guide Labs 提供可解释的基础模型（包括大型语言模型、扩散模型和分类器），这些模型为其输出提供解释，允许使用人类可理解的功能进行操控，并识别提示和训练数据中具有影响力的部分。这些模型在保持与标准基础模型相当的准确性的同时，提供了更高的透明度和控制能力。

可解释的输出: 模型可以使用人类可理解的功能解释和操控其输出

提示归属: 识别输入提示中对生成输出影响最大的部分

数据影响追踪: 定位预训练和微调数据中对模型输出影响最大的标记

概念级解释: 使用领域专家提供的高级概念解释模型行为

微调能力: 允许使用用户数据进行定制，插入高级概念以操控输出

Guide Labs: Interpretable foundation models 的使用场景

医疗诊断: 提供可解释的AI辅助医疗诊断，同时识别影响因素

金融决策: 提供透明的AI推荐，用于贷款或投资决策，并附有明确的理由

法律文件分析: 分析合同或案例法，并解释关键影响文本和概念

内容审核: 标记问题内容，并清晰解释为何被标记以及哪些因素影响了决策

科学研究: 协助假设生成或数据分析，追踪科学文献中的影响因素

优点

保持与标准基础模型相当的准确性

增强AI决策的透明度和可解释性

便于调试和模型输出对齐

支持多模态数据输入

缺点

可能需要额外的计算资源来提供解释

可能比标准黑箱模型更复杂，难以实施

在某些情况下，解释性和模型性能之间可能存在权衡

如何使用 Guide Labs: Interpretable foundation models

注册早期访问: 在 Guide Labs 的网站上加入等待名单，以获得其可解释基础模型的独家早期访问权限。

安装 Guide Labs 客户端: 一旦获得访问权限，安装 Guide Labs 的 Python 客户端库。

初始化客户端: 导入 Client 类并使用您的 API 密钥初始化它：gl = Client(api_key='your_secret_key')

准备您的提示: 创建一个您希望与模型一起使用的提示字符串，例如 prompt_poem = '从前有一个南瓜，'

调用模型: 使用 gl.chat.create() 生成响应，指定模型并启用解释：response, explanation = gl.chat.create(model='cb-llm-v1', prompt=prompt_poem, prompt_attribution=True, concept_importance=True, influential_points=10)

分析解释: 从返回的解释对象中访问不同类型的解释，例如 prompt_attribution、concept_importance 和 influential_points。

微调模型（可选）: 要定制模型，请使用 gl.files.create() 上传训练数据，然后使用 gl.fine_tuning.jobs.create() 进行微调