多谢尝鲜!
On Friday, March 18, 2016 at 6:09:02 PM UTC+8, wd wrote:
哦对了,我遇到了一个问题是 kafka 那边配置 broker 的 name 是机器名,类似于 abc.x.y 这种,内网里面 hosts 文件有设置 search domain,所以类似请求的时候会自动加上
abc.x.y.domain.com,但是这个模块的 socket 模块不会处理 hosts 文件,所以这种就会请求 broker 失败。后来修改 broker 的 name 为 ip 就好了。希望对大家有用。
2016-03-18 18:06 GMT+08:00 wd
<w...@wdicc.com>:
2016-03-18 14:46 GMT+08:00 DeJiang Zhu <douji...@gmail.com>:
Hello,
2016-03-17 19:29 GMT+08:00 wd
<w...@wdicc.com>:
用上了,很不错。
目前还有一个需要完善的点,发往 kafka 的速度不够快:
因为同一个 partition 上的数据,需要保持有序,所以,同一 partition 上的数据,不能并发发送
另外,为了实现上的简单,所以 master 版本没有并发发送
所以,如果你有万兆网卡的话,应该是跑不满的了,在我的测试里,500 Mbit/s 是没问题的 (24 worker)
我目前没那么大量,所以这个不是问题。测试了单个 broker 的起停,都不会影响,挺不错的。
哈哈,这个也有一点点故意的意思,因为还有一个 api 会返回这个错误,用来做点小区分
|
local function _metadata_cache(self, topic) |
| if not topic then |
| return self.brokers, self.topic_partitions |
| end |
|
|
| local partitions = self.topic_partitions[topic] |
| if partitions and partitions.num and partitions.num > 0 then |
| return self.brokers, partitions |
| end |
|
|
| return nil, "not foundd topic" |
| end |
|
那个 foundd
On Fri, Dec 12, 2014 at 1:53 AM, DeJiang Zhu <douji...@gmail.com> wrote:
I'd like to announce the first release of the simple kafka driver.
Only producer has be implemented now, any feedback are welcome :)
--