引言

　　　　在ChatGpt火了这么久，他的那种单字单字返回的格式可能让很多朋友感到好奇，在之前我用c#写了一个版本的，同时支持IAsyncEnumerable以及SSE，今天把之前写的Java版本的也发出来，和大家一起学习，有不对的地方，欢迎各位大佬指正。

Code

　　　　我这边用的是JDK21版本，可以看到下面，我们实现了两种方式一种是WebFlux实现响应式返回，另外一种就是SSE的标准写法，有关SSE，大家可以百度去看看他的一些规则，需要设置一些Header，以及返回的数据格式都有特别的讲究。第一种，我们需要在Pom.xml里面引入WebFlux的包，然后才能在代码使用，

   <dependency>

            <groupId>org.springframework.boot</groupId>

            <artifactId>spring-boot-starter-webflux</artifactId>

        </dependency>

        <dependency>
@RestController

@RequestMapping("Hello")

public class HelloController {

    @Autowired

    private RestTemplate template;

    public HelloController() {

    }

   private String Appid="408035";

    private String Appsecret="PgZgD80aWLrQUxlhVD452aJl";

    @GetMapping(value = "/GetHello", produces = MediaType.TEXT_EVENT_STREAM_VALUE)

    public Flux<String> GetHello() {

        return Flux.interval(Duration.ofSeconds(1))

                .map(sequence -> "Event " + sequence);

    }

    @PreAuthorize()

    @GetMapping(value = "/GetHellos", produces = MediaType.TEXT_EVENT_STREAM_VALUE)

    public void GetHellos(HttpServletResponse response) throws Exception

    {

        if (response.containsHeader("Content-Type"))

        {

            response.setHeader("Content-Type","text/event-stream");

        }

        else

        {

            response.setHeader("Content-Type","text/event-stream");

            response.setHeader("Cache-Control", "no-cache");

            response.setHeader("Connection", "keep-alive");

        }

        String data ="id:"+new Random().nextInt() +" \n" +

            "retry: "+new Random().nextInt(0,100)*30+"\n" +

            "event: message\n" +

            "data: "+new Random().nextInt()+"\n\n";

        response.setCharacterEncoding("UTF-8");

        response.getWriter().write(data);

    }

}

　　　　下面是我们使用WebFlux实现流式传输的一种方式。

　　　　下面是使用SSE实现流式传输的一种，同时前端代码如下。

<!DOCTYPE html>

<html>

<head>

    <title>SSE Example</title>

    <script>

        var eventSource = new EventSource("http://localhost:5203/WeatherForecast/Posta");

        eventSource.addEventListener("message", function(event) {

var a=document.getElementById("aaa");

a.innerHTML+="<a>"+event.data+"</a><br>"

            console.log("Received message: " + event.data);

        });

        eventSource.addEventListener("error", function(event) {

            console.log("Error occurred");

        });

    </script>

</head>

<body>

<div id='aaa'></div>

</body>

</html>

结束

　　　　以上便是今天的所有内容，使用WebFlux以及原始SSE实现流式传输的效果。

【流式传输】使用Spring Boot实现ChatGpt流式传输的更多相关文章

  1. Spring Boot （十四）： 响应式编程以及 Spring Boot Webflux 快速入门

    1. 什么是响应式编程 在计算机中,响应式编程或反应式编程(英语:Reactive programming)是一种面向数据流和变化传播的编程范式.这意味着可以在编程语言中很方便地表达静态或动态的数据流 ...

  2. （转）Spring Boot 2 (十)：Spring Boot 中的响应式编程和 WebFlux 入门

    http://www.ityouknow.com/springboot/2019/02/12/spring-boot-webflux.html Spring 5.0 中发布了重量级组件 Webflux ...

  3. Spring Boot 2 (十)：Spring Boot 中的响应式编程和 WebFlux 入门

    Spring 5.0 中发布了重量级组件 Webflux,拉起了响应式编程的规模使用序幕. WebFlux 使用的场景是异步非阻塞的,使用 Webflux 作为系统解决方案,在大多数场景下可以提高系统 ...

  4. spring boot:用redis+lua实现基于ip地址的分布式流量限制(限流/简单计数器算法)(spring boot 2.2.0)

    一,限流有哪些环节? 1,为什么要限流? 目的:通过对并发请求进行限速或者一个时间单位内的的请求进行限速,目的是保护系统可正常提供服务,避免被压力太大无法响应服务. 如果达到限制速率则可以采取预定的处 ...

  5. 基于Spring Boot的注解驱动式公众号极速开发框架FastBootWeixin

    本框架基于Spring Boot实现,使用注解完成快速开发,可以快速的完成一个微信公众号,重新定义公众号开发. 在使用本框架前建议对微信公众号开发文档有所了解,不过在不了解公众号文档的情况下使用本框架 ...

  6. spring boot(一)：入门篇

    构建微服务:Spring boot 入门篇 什么是spring boot Spring Boot是由Pivotal团队提供的全新框架,其设计目的是用来简化新Spring应用的初始搭建以及开发过程.该框 ...

  7. Spring Boot高级

    Spring Boot高级内容概要一.Spring Boot与缓存二.Spring Boot与消息三.Spring Boot与检索四.Spring Boot与任务五.Spring Boot与安全六.S ...

  8. 20191114 Spring Boot官方文档学习（4.7）

    4.7.开发Web应用程序 Spring Boot非常适合于Web应用程序开发.您可以使用嵌入式Tomcat,Jetty,Undertow或Netty创建独立的HTTP服务器.大多数Web应用程序都使 ...

  9. 实战基于Spring Boot 2的WebFlux和mLab搭建反应式Web

    Spring Framework 5带来了新的Reactive Stack非阻塞式Web框架:Spring WebFlux.作为与Spring MVC并行使用的Web框架,Spring WebFlux ...

  10. 【开源免费】使用Spring Boot和Html实现ChatGPT，1：亿还原，将就看

    highlight: a11y-dark 简介 前段时间写了一个Chatgpt的Java版SDK开源地址:chatgpt-java欢迎使用.但由于原来OpenAI 并没有支持官网的chatgpt模型, ...

随机推荐

  1. 快手商品详情API接口如何使用

    使用快手开的API接口获取商品详情,可按照以下步骤进行: 1.注册账号并创建应用 注册开发者账号,并在账号后台中创建一个应用,获得AppKey和AppSecret等信息.这些信息是使用API接口访问快 ...

  2. 多层前馈神经网络及BP算法

    一.多层前馈神经网络 首先说下多层前馈神经网络,BP算法,BP神经网络之间的关系.多层前馈[multilayer feed-forward]神经网络由一个输入层.一个或多个隐藏层和一个输出层组成,后向 ...

  3. 正则表达式快速入门一：正则表达式(regex)基本语法及概念

    Regex quickstart :正则表达式快速入门 author: wclsn reference quick start 如果想要了解正则表达式的基本概念且英文ok的话,完全可以从我上面所附网站 ...

  4. MFAN论文阅读笔记（待复现）

    论文标题:MFAN: Multi-modal Feature-enhanced Attention Networks for Rumor Detection 论文作者:Jiaqi Zheng, Xi ...

  5. MySQL 分表查询

    分表是一种数据库分割技术,用于将大表拆分成多个小表,以提高数据库的性能和可管理性.在MySQL中,可以使用多种方法进行分表,例如基于范围.哈希或列表等.下面将详细介绍MySQL如何分表以及分表后如何进 ...

  6. Go语言精进之路目录

    目录 一.介绍 01.Go 语言的前生今世 二.开发环境搭建 01.Go 语言开发环境搭建 三.初识GO语言 01.Go 多版本管理工具 02.第一个 Go 程序"hello,world&q ...

  7. Java 集合的排序（正序倒序）、查找元素的下边、最大值、最小值

    Java 集合的排序(正序倒序).查找元素的下边.最大值.最小值 集合的排序 集合查找对应元素的下标 集合的最大最小值 集合的排序 使用Collections.sort()排序,默认是递增.加上比较器 ...

  8. Springboot 加密方案探讨

    背景 toB 的本地化 java 应用程序,通常是部署在客户机器上,为了保护知识产权,我们需要将核心代码(例如 Lience,Billing,Pay 等)进行加密或混淆,防止使用 jadx 等工具轻易 ...

  9. 比赛总结：Japan Registry Services (JPRS) Programming Contest 2023 (AtCoder Beginner Contest 324)

    比赛:Japan Registry Services (JPRS) Programming Contest 2023 (AtCoder Beginner Contest 324) A-same 1.常 ...

  10. 手动添加winform的combobox和listbox名称和值

    先定义一个ListItem类,工程内其他窗体都可以用的.  public class ListItem : Object     {         public string Text { get; ...