对翻译服务接口启用 SSE 能力

启用方式:

  1. translate.request.sse.start();

说明

它只会影响 translate.request.api.translate 这个翻译接口( /translate.json )请求。
如果用户浏览器不支持,或服务端在收到任何 SSE 业务事件前失败,会自动降级回原来的 JSON/XHR 请求。

专属定制

它是专门为 私有部署的translate.service 专属定制的,开源免费的通道没有这个能力,因为私有部署时会将翻译模型本身也私有部署,翻译模型本身有翻译耗时,而且私有部署内置了 内存级缓存、 文件级缓存 两层缓存的能力,通过 SSE 的能力,可以在十几毫秒内快速将两层缓存命中的翻译结果迅速展现给用户,做到极速响应翻译结果的能力,同时私有部署的翻译模型,也会通过私有部署的翻译服务中自带的模型线程池的能力,进行流响应,逐个将翻译模型完成的任务进行快速响应,而非全部都翻译完后再一起给返回,极大提高用户的使用体验!

注意