Flink Connector
flink-connector-jdbc_2.11sink 在 StarRocks 中延迟 8 小时
问题描述
localtimestap 函数在 Flink 中生成的时间是正常的。但是下沉到 StarRocks 时延迟了 8 小时。 Flink 服务器和 StarRocks 服务器位于同一时区,即 Asia/Shanghai UTC/GMT+08:00。 Flink 版本是 1.12。驱动程序:flink-connector-jdbc_2.11。请问如何解决这个问题?
解决方案
请尝试在 Flink sink 表中配置时间参数 'server-time-zone' = 'Asia/Shanghai'。您也可以在 jdbc url 中添加 &serverTimezone=Asia/Shanghai。下面是一个例子
CREATE TABLE sk (
sid int,
local_dtm TIMESTAMP,
curr_dtm TIMESTAMP
)
WITH (
'connector' = 'jdbc',
'url' = 'jdbc:mysql://192.168.110.66:9030/sys_device?characterEncoding=utf-8&serverTimezone=Asia/Shanghai',
'table-name' = 'sink',
'driver' = 'com.mysql.jdbc.Driver',
'username' = 'sr',
'password' = 'sr123',
'server-time-zone' = 'Asia/Shanghai'
);
在 Flink 导入中,只能导入部署在 StarRocks 集群中的 Kafka 集群
问题描述
failed to query wartermark offset, err: Local: Bad message format
解决方案
Kafka 通信需要主机名。用户需要在 StarRocks 集群节点中配置主机名解析 /etc/hosts。
StarRocks 可以批量导出“创建表语句”吗?
解决方案
您可以使用 StarRocks Tools 导出语句。
BE 请求的内存没有释放回操作系统
这是一种正常现象,因为从操作系统分配给数据库的大块内存在分配期间被保留,并在释放期间被延迟,以便重复使用内存并使内存分配更加方便。建议用户通过长时间监控内存使用情况来验证测试环境,以查看内存是否可以释放。
下载后 Flink 连接器不工作
问题描述
此包需要通过阿里云镜像地址获取。
解决方案
请确保 /etc/maven/settings.xml
的镜像部分全部配置为通过阿里云镜像地址获取。
如果是,请将其更改为以下内容
Flink-connector-StarRocks 中参数 sink.buffer-flush.interval-ms 的含义
问题描述
+----------------------+--------------------------------------------------------------+
| Option | Required | Default | Type | Description |
+-------------------------------------------------------------------------------------+
| sink.buffer-flush. | NO | 300000 | String | the flushing time interval, |
| interval-ms | | | | range: [1000ms, 3600000ms] |
+----------------------+--------------------------------------------------------------+
如果此参数设置为 15 秒,并且检查点间隔等于 5 分钟,则此值是否仍然有效?
解决方案
三个阈值中哪个先达到,哪个先生效。这不受仅适用于精确一次的检查点间隔值的影响。 Interval-ms 由 at_least_once 使用。