引言

　　　　在ChatGpt火了这么久，他的那种单字单字返回的格式可能让很多朋友感到好奇，在之前我用c#写了一个版本的，同时支持IAsyncEnumerable以及SSE，今天把之前写的Java版本的也发出来，和大家一起学习，有不对的地方，欢迎各位大佬指正。

Code

　　　　我这边用的是JDK21版本，可以看到下面，我们实现了两种方式一种是WebFlux实现响应式返回，另外一种就是SSE的标准写法，有关SSE，大家可以百度去看看他的一些规则，需要设置一些Header，以及返回的数据格式都有特别的讲究。第一种，我们需要在Pom.xml里面引入WebFlux的包，然后才能在代码使用，

   <dependency>

            <groupId>org.springframework.boot</groupId>

            <artifactId>spring-boot-starter-webflux</artifactId>

        </dependency>

        <dependency>
@RestController

@RequestMapping("Hello")

public class HelloController {

    @Autowired

    private RestTemplate template;

    public HelloController() {

    }

   private String Appid="408035";

    private String Appsecret="PgZgD80aWLrQUxlhVD452aJl";

    @GetMapping(value = "/GetHello", produces = MediaType.TEXT_EVENT_STREAM_VALUE)

    public Flux<String> GetHello() {

        return Flux.interval(Duration.ofSeconds(1))

                .map(sequence -> "Event " + sequence);

    }

    @PreAuthorize()

    @GetMapping(value = "/GetHellos", produces = MediaType.TEXT_EVENT_STREAM_VALUE)

    public void GetHellos(HttpServletResponse response) throws Exception

    {

        if (response.containsHeader("Content-Type"))

        {

            response.setHeader("Content-Type","text/event-stream");

        }

        else

        {

            response.setHeader("Content-Type","text/event-stream");

            response.setHeader("Cache-Control", "no-cache");

            response.setHeader("Connection", "keep-alive");

        }

        String data ="id:"+new Random().nextInt() +" \n" +

            "retry: "+new Random().nextInt(0,100)*30+"\n" +

            "event: message\n" +

            "data: "+new Random().nextInt()+"\n\n";

        response.setCharacterEncoding("UTF-8");

        response.getWriter().write(data);

    }

}

　　　　下面是我们使用WebFlux实现流式传输的一种方式。

　　　　下面是使用SSE实现流式传输的一种，同时前端代码如下。

<!DOCTYPE html>

<html>

<head>

    <title>SSE Example</title>

    <script>

        var eventSource = new EventSource("http://localhost:5203/WeatherForecast/Posta");

        eventSource.addEventListener("message", function(event) {

var a=document.getElementById("aaa");

a.innerHTML+="<a>"+event.data+"</a><br>"

            console.log("Received message: " + event.data);

        });

        eventSource.addEventListener("error", function(event) {

            console.log("Error occurred");

        });

    </script>

</head>

<body>

<div id='aaa'></div>

</body>

</html>

结束

　　　　以上便是今天的所有内容，使用WebFlux以及原始SSE实现流式传输的效果。

【流式传输】使用Spring Boot实现ChatGpt流式传输的更多相关文章

  1. Spring Boot （十四）： 响应式编程以及 Spring Boot Webflux 快速入门

    1. 什么是响应式编程 在计算机中,响应式编程或反应式编程(英语:Reactive programming)是一种面向数据流和变化传播的编程范式.这意味着可以在编程语言中很方便地表达静态或动态的数据流 ...

  2. （转）Spring Boot 2 (十)：Spring Boot 中的响应式编程和 WebFlux 入门

    http://www.ityouknow.com/springboot/2019/02/12/spring-boot-webflux.html Spring 5.0 中发布了重量级组件 Webflux ...

  3. Spring Boot 2 (十)：Spring Boot 中的响应式编程和 WebFlux 入门

    Spring 5.0 中发布了重量级组件 Webflux,拉起了响应式编程的规模使用序幕. WebFlux 使用的场景是异步非阻塞的,使用 Webflux 作为系统解决方案,在大多数场景下可以提高系统 ...

  4. spring boot:用redis+lua实现基于ip地址的分布式流量限制(限流/简单计数器算法)(spring boot 2.2.0)

    一,限流有哪些环节? 1,为什么要限流? 目的:通过对并发请求进行限速或者一个时间单位内的的请求进行限速,目的是保护系统可正常提供服务,避免被压力太大无法响应服务. 如果达到限制速率则可以采取预定的处 ...

  5. 基于Spring Boot的注解驱动式公众号极速开发框架FastBootWeixin

    本框架基于Spring Boot实现,使用注解完成快速开发,可以快速的完成一个微信公众号,重新定义公众号开发. 在使用本框架前建议对微信公众号开发文档有所了解,不过在不了解公众号文档的情况下使用本框架 ...

  6. spring boot(一)：入门篇

    构建微服务:Spring boot 入门篇 什么是spring boot Spring Boot是由Pivotal团队提供的全新框架,其设计目的是用来简化新Spring应用的初始搭建以及开发过程.该框 ...

  7. Spring Boot高级

    Spring Boot高级内容概要一.Spring Boot与缓存二.Spring Boot与消息三.Spring Boot与检索四.Spring Boot与任务五.Spring Boot与安全六.S ...

  8. 20191114 Spring Boot官方文档学习（4.7）

    4.7.开发Web应用程序 Spring Boot非常适合于Web应用程序开发.您可以使用嵌入式Tomcat,Jetty,Undertow或Netty创建独立的HTTP服务器.大多数Web应用程序都使 ...

  9. 实战基于Spring Boot 2的WebFlux和mLab搭建反应式Web

    Spring Framework 5带来了新的Reactive Stack非阻塞式Web框架:Spring WebFlux.作为与Spring MVC并行使用的Web框架,Spring WebFlux ...

  10. 【开源免费】使用Spring Boot和Html实现ChatGPT，1：亿还原，将就看

    highlight: a11y-dark 简介 前段时间写了一个Chatgpt的Java版SDK开源地址:chatgpt-java欢迎使用.但由于原来OpenAI 并没有支持官网的chatgpt模型, ...

随机推荐

  1. python 面试题第一弹

    1. 如何理解Python中的深浅拷贝 浅拷贝(Shallow Copy)创建一个新的对象,该对象的内容是原始对象的引用.这意味着新对象与原始对象共享相同的内存地址,因此对于可变对象来说,如果修改了其 ...

  2. 深入了解API接口技术及其应用

    尊敬的读者们,大家好!在互联网时代,API(Application Programming Interface)接口已经成为开发者们连接各种应用.获取数据的重要工具.今天,我们将深入探讨API接口技术 ...

  3. PC首页资源加载速度由8s降到2s的优化实践

    随着需求的不断开发,前端项目不断膨胀,业务提出:你们的首页加载也太慢啦,我都需要7.8秒才能看到内容,于是乎主管就让我联合后端开启优化专项,目标是3s内展示完全首页的内容. 性能指标 开启优化时,我们 ...

  4. JDK17和JDK8在windows上同时安装方便切换

    参考:https://blog.csdn.net/chencaw/article/details/121674479 一.JDK8的安装 1.电脑上已经安装了JDK8,安装主要步骤如下 (1)创建JA ...

  5. 在 Net7.0环境下通过反射创建泛型实例和调用泛型方法

    一.介绍 最近没事干,就用闲暇时间写点东西,也记录一下温习历程.老人说的好,好记性,不如烂笔头.时间一长,当时记忆的再清楚,都会变得模糊,索性就写博客记录下来,如果下次需要,直接打开博客就找到了,不用 ...

  6. 在线问诊 Python、FastAPI、Neo4j — 创建 疾病节点

    目录 疾病数据 创建节点 根据检查结果.医生的临床经验得出疾病 疾病数据 disease_data.csv 建议值用""引起来.避免中间有,号造成误识别 疾病 "干眼&q ...

  7. spark修改控制台输出日志级别

    spark修改控制台输出日志级别 修改conf/log4j.properties cd $SPARK_HOME/conf cp log4j.properties.template ./log4j.pr ...

  8. SQL函数count(),sum()理解

    ①准备-创建测试表: create table test ( id SMALLINT, name varchar(10) ); 插入数据: insert into test values(0,'张三' ...

  9. 【知识杂谈#2】如何查看Linux的（本地与公网）IP地址与SSH服务的端口号

    1. 本地Ip地址查看 使用查看linux主机是否有net-tools dpkg -l net-tools 显示以下代码就说明已安装成功 ||/ Name Version Architecture D ...

  10. WEB项目开发流程介绍

    web开发流程 web开发流程图 一.需求分析阶段 在需求分析阶段,即上图所述 "需求明确"之前的阶段 产品经理PM召集需要项目相关人员,开需求讨论会.讲解原型 相关人员需要以此了 ...