1.2.2 大模型生成结果的不可解释性问题

深度模型由于其内部结构非常复杂，导致人们难以理解模型对输入做出的决策。然而，模型的解释性在很多方面都非常重要，因为它可以让开发人员理解模型是如何进行预测的，从而对模型产生的结果更有信心。此外，解释性还能帮助开发人员找到可以改进的方面，从而对模型进行更好的调整。在大模型领域中，模型基本都基于Transformer的解码器结构，因此大模型的生成结果仍然存在不可解释性问题。

然而，在使用RAG系统之后，我们可以从图1-4的Bing Chat回答中看出，它不仅给出了答案，还告诉了我们每个答案的来源。如果对答案不确定，还可以单击提供的溯源网页进行查看，这也是RAG系统的一大优点。因此，相较于纯粹的大模型生成，RAG具有更强的可解释性。