平台更新 | 上线多种推理服务&Demo试用，API文档更新实现“手把手”教学

Whisper 推理服务上线

Whisper 模型是 OpenAI 在2022年9月发布的一系列自动语音识别（Automatic Speech Recognition）模型：whisper-tiny，whisper-base，whisper-small，whisper-medium，whisper-large。在2022年底，OpenAI 开源了 whisper-large-v2，在2023年11月，OpenAI 又开源了 whisper-large-v3。Whisper 模型延续了 OpenAI 一贯的风格，使用了海量训练数据，模型结构采用编码器-解码器（encoder-decoder）的 transformer 结构。甫一发布，whisper 就以其涵盖的语言之丰富（97 种），识别准确率之高，得到了广泛的应用。

图片来源：Radford et al., Robust Speech Recognition via Large-Scale Weak Supervision

本周揽睿大模型应用开发平台上线了

· whisper-large-v3 的标准推理服务：https://lanrui.co/openai/whisper-large-v3/apis

· whisper v3 模型的自助推理服务：https://lanrui.co/openai/whisper-large-v3

一个简单的利用标准推理服务的 demo 如下图：

Llama2 是由 Meta AI 发布的一个优秀的开源预训练大语言模型，训练数据超过 2 万亿 token，其 chat 版本在超过 100 万个人工注释示例上进行了微调。在大多数基准测试中，Llama2 的表现均名列前茅。Llama2 提供 7B、13B、70B 不同参数规模的版本。

目前星舟推理支持的 7B 和 13B 的 chat 微调版本，用户可通过自助推理服务在单卡 3090 上运行。

模型地址：

· https://lanrui.co/meta-llama/Llama-2-7b-chat-hf

· https://lanrui.co/meta-llama/Llama-2-13b-chat-hf

模型效果体验：

模型Demo

平台本周上线了模型 Demo 功能，目前已支持多种 SD 模型的在线 Demo，试用模型不再需要启动工作空间。

目前上线的模型 Demo 有：

Controlnet - v1.1 - openpose

runwayml/stable-diffusion-inpainting

https://lanrui.co/runwayml/stable-diffusion-inpainting/demos

更多demo：

Stable Diffusion v1.5
https://lanrui.co/runwayml/stable-diffusion-v1-5/demos

Stable Diffusion v2.1
https://lanrui.co/stabilityai/stable-diffusion-2-1/demos

Stable Diffusion XL
https://lanrui.co/stabilityai/stable-diffusion-xl-base-1.0/demos

Stable Diffusion XL Turbo
https://lanrui.co/stabilityai/sdxl-turbo/demos

提升图片分辨率
https://lanrui.co/stabilityai/stable-diffusion-x4-upscaler/demos

将人物图片作为参考图，提取人物的姿态和动作，并生成一张与原图相同姿势的新图片。
https://lanrui.co/ControlNet/control_v11p_sd15_openpose/demos

推断输入人物、建筑或场景图的图像深度，并利用文本和深度信息生成一张新的图片，同时保留更多结构和层次的细节。
https://lanrui.co/ControlNet/controL_v11f1p_sd15_depth/demos

将图片用作参考图，通过提取图片中的线条轮廓，AI 能够实现对线稿的精准绘制，更好地保留和复原图片的细节信息。
https://lanrui.co/ControlNet/control_v11p_sd15_canny/demos

API文档更新

为了更好地方便开发者使用 API，我们在模型详情页提供了当前模型 API 的详细使用文档，有 Python 和 Http 两种调用方式的介绍，即便是小白开发，跟随文档一步一步进行操作，也可以快速完成 API 的接入。您可以在模型库中找到有 API 标签的模型，并在模型页面点击 API tab 查看如何使用API运行模型。