带有updateStateByKey问题的Spark 24X7流式传输

 英英2502927137 发布于 2022-12-15 13:07

我正在运行一个24/7的火花流和使用updateStateByKey是可以24/7运行火花流?如果是,则updateStateByKey不会变大,如何处理它?我们是否必须在24/7运行时定期重置/删除updateStateByKey,如果没有重置方式和时间?或Spark以分布式方式处理?如何动态增加内存/存储空间.

当updateStateByKey增长时,我得到以下错误

Array out of bound exception

Exception while deleting local spark dir: /var/folders/3j/9hjkw0890sx_qg9yvzlvg64cf5626b/T/spark-local-20141026101251-cfb4
java.io.IOException: Failed to delete: /var/folders/3j/9hjkw0890sx_qg9yvzlvg64cf5626b/T/spark-local-20141026101251-cfb4

如何处理这个..请指出我是否有任何文件?我完全陷入困境,非常感谢任何帮助..感谢您的时间

撰写答案
今天,你开发时遇到什么问题呢?
立即提问
热门标签
PHP1.CN | 中国最专业的PHP中文社区 | PNG素材下载 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有