大语言模型或LLM是一种深度学习语言模型,旨在理解、解释和生成人类语言;它通常由数百万到数十亿的神经网络参数组成,并使用自我监督进行训练。著名的LLM的例子包括GPT-4、BERT和LLAMA。
获取LLM有时很棘手,因为必须遵守环境要求和规范,这成为学习LLM的把关人。幸运的是可以使用一个名为OpenPlayground的Python软件包在笔记本电脑上有效地试验各种LLM。
逐步探索OpenPlayground
Python软件包OpenPlayground是一个可以在笔记本电脑上运行的LLM游乐场,可以在这里试验模型、调整参数、进行模型比较,并通过友好的UI追踪日志历史记录。他们还使用了几个实体的著名LLM,如OpenAI、HuggingFace等等。
怎么才能开始使用OpenPlayground呢?首先,安装该软件包。
pip install openplayground
然后在终端上运行以下命令。
openplayground run
在终端上,将获得以下信息。
OpenPlayground正在运行,必须访问本地主机才能使用playground UI。
在UI中会看到三个部分:Playground,Compare和Settings。先去看看“Settings”选项卡,因为不提供必要的信息就无法工作。
当打开“Settings”时,会有一个需要选择的“Providers”部分。对于本文的例子,将使用来自OpenAI的那个。点击OpenAI,并提供API密钥,使openplayground可以访问所有模型,类似于下面的图片。
启用想要的模型,然后回到“Playground”选项卡。当已经选择了一个模型,可以在右侧使用其他参数。
该参数的存在是为了让用户轻松地探索和试验LLM模型的结果。尝试一个简单的提示:“给我创作一个关于公主和魔法王国的小故事”。
生成的文本将以绿色显示。如果启用“Show Probabilities”,如果模型允许可以得到标记生成概率。例如,“text-DaVinci-03”模型可以显示概率。再提交一次提示,并查看结果。
悬停在该标记上会显示该标记出现的概率有多高。此外,还有关于前5个标记的信息,这些信息可以成为可能生成的文本。
进入“Compare”选项卡,可以比较具有相同参数的各种LLM模型生成的文本。用之前例子的相同提示进行尝试。
“Compare”选项卡提供了同时生成文本的两个或多个不同LLM模型的信息。这些信息包括标记、模型生成文本的速度、所花的时间以及多少个字符。
尝试使用来自多个提供商的各种模型进行试验,以从使用OpenPlayground中获得更多价值。
总结
大语言模型或LLM是一个能够理解、解释和生成人类文本的模型。通过使用OpenPlayground,可以有一个简单的UI来探索和实验多个LLM。