当前位置: 首页 > news >正文

小说网站怎么做防采集seo面试常见问题及答案

小说网站怎么做防采集,seo面试常见问题及答案,长春网页制作建站,wap免费React 想实现一个打字机的效果,类似千问、Kimi 返回的效果。调用大模型时,模型的回答通常是流式输出的,如果等到模型所有的回答全部完成之后再展示给最终用户,交互效果不好,因为模型计算推理时间比较长。本文将采用原生…

React 想实现一个打字机的效果,类似千问、Kimi 返回的效果。调用大模型时,模型的回答通常是流式输出的,如果等到模型所有的回答全部完成之后再展示给最终用户,交互效果不好,因为模型计算推理时间比较长。本文将采用原生 React 写一个简单的组件,调用本地 Ollama 模型进行对话。

服务端实现

由于要流式返回数据数据,正常的 http 请求是一来一回,不会一段一段返回,Websocket 是一个解决方案,Websocket比较重,模型对话只需要单向的返回就可以。所以,OpenAI提供的 API是基于 SSE (Server Sent Event)协议的,SSE 协议采用 Http Chunk Response 实现。下图中可以看到,Response 是 Chunked 编码的。
在这里插入图片描述

客户端实现

通过 Fetch 调用 Ollama 提供的接口,并对返回进行处理,Fetch API 默认支持 Chunk 编码。由于是流式输出,需要定义从 Reponse body 中获取一个 reader,代码如下:

import React, { useState, useEffect } from 'react';const ChunkedJSONResponseComponent = () => {const [responses, setResponses] = useState([]);const [loading, setLoading] = useState(true);useEffect(() => {const fetchData = async () => {const response = await fetch('http://10.91.3.116:11434/api/generate', {method: 'POST',headers: {'Content-Type': 'application/json'},body: JSON.stringify({model: "testllama3",prompt: "Why is the sky blue?",stream: true})});const reader = response.body.getReader();const decoder = new TextDecoder();#处理返回值const processChunk = ({ done, value }) => {if (done) {console.log('Stream complete');setLoading(false);return;}const chunk = decoder.decode(value, { stream: true });const lines = chunk.split('\n').filter(line => line.trim() !== '');lines.forEach(line => {try {const jsonObject = JSON.parse(line);setResponses(prevResponses => [...prevResponses, jsonObject.response]);} catch (e) {console.error("Failed to parse JSON:", e);}});reader.read().then(processChunk);};reader.read().then(processChunk);};fetchData();}, []);return (<div><h1>Chunked JSON Response</h1><p>{responses.map((response, index) => (<span>{response}</span>))}</p>{loading && <div>Loading...</div>}</div>);
};export default ChunkedJSONResponseComponent;

请添加图片描述

总结

OpenAI 设计的接口比较简单,后续出来的大模型都遵循了 OpenAPI 的接口格式,感谢各位大佬没有再造轮子。打字机效果实现很简单,由于原生 Fetch API 就支持 Chunk 编码,做对应的处理既可以完成。

http://www.khdw.cn/news/3212.html

相关文章:

  • 运动网站源码最佳磁力引擎吧
  • 怎么做网站评估今日头条seo
  • 深圳网站建设公司公司优化网站标题名词解释
  • 单页网站做cpa江苏网站开发
  • 什么网站做弹窗广告好徐州seo外包
  • 石家庄做网站的公司有哪些惠州seo报价
  • 企业网站制作收费北京关键词优化平台
  • 免费传奇网站免费传奇千网推软文推广平台
  • 黄圃网站建设上海职业技能培训机构一览表
  • 手机网站怎么做做一个企业网站需要多少钱
  • 网络营销广告的形式seo企业优化顾问
  • 兰州专业做网站的公司有哪些好用的视频播放器app
  • 天津 网站开发西安网站建设网络推广
  • 网站开发中安全性的防范优化大师是什么
  • 商场的平面设计主要做什么郑州seo使用教程
  • 使用中文域名的网站开鲁网站seo站长工具
  • 徐州做网站的设计师广告营销公司
  • 专注电子商务网站建设能够免费换友链的平台
  • 建设外贸商城网站制作建立网站的步骤
  • php做网站代码seo网站介绍
  • 北京企业官网建站百度开户推广多少钱
  • net网站开发seo网站培训
  • 明月wordpress抚顺网站seo
  • 德州有名的网站建设公司网站推广在线
  • 网站制作模板下载微信销售平台
  • 用win2008做网站网站域名查询地址
  • thinkphp 网站管理广州今日新闻头条新闻
  • 做58网站空调维修接单怎么样野狼seo团队
  • 什么是cms系统海洋seo
  • 石家庄网站制作网页长春网站开发公司