博客园

Seatunnel本地模式快速测验

本节主要总结了单机模式下使用 seatunel完成官方示例程序,初步体会使用,其实使用起来还是很简单的,模式同我之前介绍的 DataX如出一辙,可喜的是它有自己的 web页面可以配置, 因此后面我将分享下如何在页面中进行配置同步任务,最后时间允许的情况下,分析起优秀的源码设计思路,千里之行始于足下,要持续学习,持续成长,然后持续分享,再会~。
SeaTunnel
头像春风得意 发布于2024年12月17日
75浏览

SeaTunnel初体验,5000字深入浅出带你用上Oracle-CDC

Apache SeaTunnel 是啥? 下一代高性能、分布式、海量数据集成框架。 支持上百个数据源、传输速度快、准确率高,丰富易扩展的连接器和插件化的连接器设计,能够更轻松的运行复杂的集成。 是一个分布式、高性能的数据集成平台,用于数据迁移和实时流处理任务。
SeaTunnel
头像海星之梦 发布于2024年12月17日
308浏览

什么?!redis也可以是成本优化利器

交通路况团队主要负责AMAP(高德地图)轨迹收容和实时计算,不仅承担了实时路况的计算和发布,而且利用海量用户轨迹,陆续推出红绿倒计时和V2X(道路预警)等重磅功能,作为海量数据实时计算的基础链路,自然少不了对消息中间件的使用,一直以来我们都是集团MQ团队的重要客户,随着业务的快速发展,数据规模和计算频次进一步提升,MQ成本急剧增加,替换更加合适的消息中间件成为了必然。
Redis
头像滴滴 发布于2024年12月16日
119浏览

Rust重写万物之——彻底重写SQLite

两年前,我们对 SQLite 进行了分叉。我们非常喜欢 SQLite 的嵌入式特性,但同时我们也渴望探索一种更加开放的开发模式。 在这样的背景下,libSQL 应运而生,作为一个开放的贡献项目,我们诚挚邀请社区成员加入我们,共同构建这个项目。
头像滴滴 发布于2024年12月16日
169浏览

拥抱 PyTorch,来自 Gauss 的自我革命

微信 Gauss 团队致力于提供业界领先的推荐工程技术服务,我们将持续跟进、推动关键领域的技术进步,与业界同仁一道,为提升用户价值而不懈努力。
头像滴滴 发布于2024年12月16日
195浏览

Apache SeaTunnel 集群部署详细教程

SeaTunnel Engine 的Master服务和Worker服务分离,每个服务单独一个进程。Master节点只负责作业调度,RESTful API,任务提交等,Imap数据只存储在Master节点中。Worker节点只负责任务的执行,不参与选举成为Master,也不存储Imap数据。
SeaTunnel
头像车车 发布于2024年12月13日
128浏览

第三方服务对目标进行被动信息收集

第三方服务或实体通过合法和非侵入性的手段,对特定目标(个人、组织、系统等)进行信息搜集和分析的过程。这种信息收集不涉及直接与目标交互或对其系统进行探测,而是通过公开可用的资源和数据来获取信息。
头像久安 发布于2024年12月11日
125浏览 1点赞

B站大数据平台故障自愈实践

故障自愈系统通过智能化和自动化技术,显著提升了故障处理的及时性、智能化和可分析性,从而将被动响应转变为主动预防。
数据平台架构
头像随风 发布于2024年12月10日
241浏览

Kubernetes 架构学习笔记(上)

我把eBay 云计算部门的效率看成三个层面,第一层是代码开发的效率(包含持续集成持续发布), 第二层是架构效率,第三层是产品效率。这一篇博客主要讨论第二层架构效率。这件事情的缘起是一些架构讨论悬而不决,三年多前有一天我找到云计算部门的总架构师讨论一个设计困惑,他突然问我说许健你看过 Kubernetes 的设计原则吗?
Kubernetes
头像滴滴 发布于2024年12月07日
114浏览

Hadoop平台进阶之路 | eBay Spark测试框架——Woody

新版本的Spark拥有更好的性能和稳定性,对于用户来说,如果长期停留在低版本的Spark,不仅会浪费集群资源,还会进一步加大平台管理团队的工作量。如果进行Spark大版本升级,考虑到版本间可能由于计算行为不一致而导致的数据质量问题,用户就要投入大量的精力去对比重要的job在不同版本下的数据质量,加大了版本升级的困难度。
Hadoop
头像滴滴 发布于2024年12月07日
59浏览

数据安全:105个必备词汇定义解读!

数据安全:105个必备词汇定义解读!
头像随风 发布于2024年12月05日
39浏览

【禁止血压飙升】阿里大佬写的Controller太优雅了!

见过几千行代码的 controller吗?我见过。 见过全是 try catch 的 controller 吗,我见过。 见过全是字段校验的 controller 吗,我见过。 见过全是业务代码的 controller 吗?不好意思,我们公司很多业务写在 controller 的。 看见这些我真的血压高。
Java
头像春风得意 发布于2024年12月04日
33浏览

推荐 10 个漏洞管理工具,漏洞猎手必备!

随着网络攻击的日益复杂,漏洞管理已经成为保障信息安全和保护企业资产的核心环节。漏洞管理工具能够有效地帮助企业及时发现、评估、修复系统中的安全漏洞,从而降低数据泄露、网络攻击等风险。漏洞管理不仅仅是一个技术层面的任务,它涉及到企业的各项安全操作,包括资产发现、漏洞扫描、补丁管理、以及合规性检查等。
网络安全
头像春风得意 发布于2024年12月04日
69浏览

从3分钟到10秒:Doris统计信息背后不得不说的故事

让我们一起揭开统计信息的神秘面纱,看看这个默默无闻的"幕后英雄"如何让你的查询性能起飞!
Doris
头像春风得意 发布于2024年12月04日
77浏览

Flink CDC 3.2.1 发布公告

Apache Flink 社区非常高兴地宣布,Flink CDC 3.2 系列的第一个稳定性修复版本 3.2.1 已经正式发布。
FlinkStarRocks
头像忆往昔 发布于2024年12月04日
229浏览

Paimon x StarRocks 在同程旅行的湖仓构建方案

早期,同程旅行的数仓体系基于 Hive 来实现离线数据分析,在满足用户实时需求方面存在不足。为了解决这一问题,我们引入了 Apache Kudu 组件,将 ODS 层的数据同时写入 Hive 和 Kudu。由于 Kudu 不支持流式读取,我们通过 Spark 读取Kudu进行下游处理,以 10 分钟或 1 小时为周期调度任务,将处理后的数据写回 Kudu 表。
StarRocks
头像忆往昔 发布于2024年12月04日
285浏览

写给小白的大模型入门科普

网上关于大模型的文章也很多,但是都不太容易看懂。小枣君今天试着写一篇,争取做到通俗易懂。
AI应用开发
头像春风得意 发布于2024年12月02日
105浏览

只有中国人才懂的 6 个前端工具!

今天来分享 6 个只有中国人才懂的前端工具库,这些工具在特定场景下非常有用!
Web前端
头像agile query 发布于2024年12月02日
94浏览

Hadoop3.4或者 hive4在jdk17运行报错 module java.base does not “opens java.net“ to unnamed module @305fd85d

Hadoop3.4或者 hive4在jdk17运行报错 module java.base does not “opens java.net“ to unnamed module @305fd85d
HadoopHive
头像诗与远方 发布于2024年12月02日
256浏览 1点赞 1收藏

3 分钟快速了解 JuiceFS

💡 JuiceFS 是一款高性能、云原生分布式文件系统,拥有企业版与社区版两个版本。 企业版:面向海量文件、高性能应用场景,如 AI 模型训练、大数据平台分布式计算、高性能计算。 企业可采用云服务版或者本地部署。社区版:面向通用场景,易于维护和使用,方便定制化,适合热衷参与开源社区建设的团队。在 Apache 2.0 协议下发布,目前有约 10.8K GitHub 星标 。
头像洪波涌起 发布于2024年12月01日
72浏览
1 363738394082

微信(交流/反馈)

巨人肩膀初心:站在巨人肩膀上,避免无谓的重复劳动。 生产和汇聚行业技术、 知识经验、 工具组件 、案例产品,提供相关环境,为开发者提高生产效率提供切实有效的支持和帮助。并在这一进程中实现多方共赢。

由 深圳数智领航科技有限公司 提供动力 - 数智化领航者。

©2023-2025 - 巨人肩膀 - 粤ICP备2025395551号-1