当前位置: 首页 > news >正文

看论文随笔Incendio: Priority-Based Scheduling for Alleviating Cold Start in Serverless Computing

基于优先级的无服务器计算冷启动调度

首先摘要:
说明,在无服务器中,冷启动会导致较长的响应延迟。
解决方法是通过减少冷启动的次数来缓解。
然而,现实中,最小冷启动次数并不等于最小响应延迟,根本原因是通过冷启动转换为热启动,各功能在延迟优势方面具有不同的优先级。
本文从云提供商的角度,提出了一种无服务器计算框架Incendio,框架利用基于优先级的调度来最小化总体响应延迟。一个函数优先级与多种因素有关,设计一个基于Spearman等级相关系数的优先级模型。集成了一种混合的Prophet-LightGBM预测模型来动态管理运行时池,使系统能够提前预热容器并在适当的时间终止容器。为满足无服务器计算的低成本和高精度要求,提出一种基于分簇强化学习的函数调度策略。

其实有疑惑:1.为什么说称为容器呢,启动容器?

在FAAS中,一个函数由一个或多个容器提供服务。当函数请求进入时,FAAS系统将检查是否有准备好为调用服务的容器。当空闲容器已经可用时,我们将其称为温容器(热启动)。如果没有准备好的容器,该函数将启动一个新的容器(冷启动)。由于冷启动需要创建一个容器,获取并安装必要的库和依赖项,然后才能执行函数本身,因此冷启动延迟通常比热启动高几倍甚至几十倍。例如,如图1所示,不同编程语言实现的HelloWorld函数的冷启动延迟可以达到热启动延迟的80倍,这将导致应用和服务响应极慢。由于实时在线服务的不可接受的延迟,用户更喜欢能够保证响应时间在几十毫秒内的提供商。火焰原子吸收系统(Flame AAS 或 FAAS)是一种分析仪器,用于测定样品中特定元素的含量,其原理是利用原子蒸气对特定波长的光产生吸收。该系统将样品雾化后送入火焰,高温使原子化,然后测量这些原子蒸气对特定波长光的吸收程度,从而进行定性或定量分析。
PayLoad:负载,MM:矩阵乘法函数,prime:调用频率

FCFS:函数按顺序调度,确保公平性,但不能保证容器重用,从而导致大量的容器初始化。
位置感知策略:可能会发生严重的资源争用
随机调度:会导致相同功能的请求频繁重用容器,同时可能导致新请求的不断关闭并重新初始化先前请求的容器,从而导致性能不稳定。
最有调度策略:连续优先执行具有最低执行延迟的最频繁调用的Javahello函数,完成后调度MM和Prime

Function Scheduler :功能调度?

我们将函数优先级P表示为F(·):P=F(CPU,Mem,I/O,Size,Init,Exec,Term,Freq,Clock)
P=F(CPU、内存、I/O、大小、初始化、执行、项、频率、时钟)

http://www.hskmm.com/?act=detail&tid=27502

相关文章:

  • C#性能优化基础:内存诊断(dump)
  • 2025年企业级LLM内容安全防护指南:鉴冰AI FENCE流式网关技术深度解析
  • 完整教程:FPGA学习笔记——图像处理之亮度调节(Gamma)
  • Kubernetes Ingress:管理集群外部访问的入口网关
  • 搜索选讲
  • vue打包的项目,从根目录进去路由可访问,浏览器直接打开这个路由不可访问
  • IObit Uninstaller一款强大的卸载工具!IObit Uninstaller卸载工具,IObit Uninstaller下载安装教程
  • 网络配置不再难:4G/Wi-Fi/以太网/虚拟网卡全指南
  • 计算几何
  • 2025开关按钮厂家最新推荐榜:开关按钮,带灯开关按钮,防水开关按钮,防爆开关按钮,防腐开关按钮等全种类覆盖,高品质设计与卓越性能口碑之选
  • 一种排查java.lang.OutOfMemoryError: Metaspace的方法
  • First Blog Post
  • 本站点即将在2025年改变研究方向和目标
  • 实用指南:12_OkHttp初体验
  • (AE)Adobe After Effects 2025 视频后期制作软件!安装包永久免费免激H解锁版下载与图文详细安装教程!!
  • Postgresql主从配置
  • 乒乓球
  • 2025年工程管理软件系统推荐榜:交付管理/工程协同/工程管理/智慧工地管理系统
  • 《程序员修炼之道》 阅读笔记一
  • 大型行为模型LBM超越语言模型的技术解析
  • 2025工程管理软件系统推荐榜:技术赋能下的场景化解决方案全景
  • 【LVS入门宝典】LVS-TUN模式原理与配备:跨越网络界限的负载均衡解决方案
  • Java基础-Eclipse工具-面向对象(1)
  • Avalonia UI 投资 Wilderness Labs
  • BLE开发新体验:四种模式全解析,源码免费开放
  • JBoltAI V4 - 那年-冬季
  • 【EI检索】2025年智能决策与机器学习国际学术会议 (ICIDML 2025)
  • 10月9号
  • Qwen3技术报告
  • 赋能智慧监管:国标GB28181平台EasyGBS在明厨亮灶场景中的深度应用