设为首页收藏本站

LinuxTone | 运维专家网论坛 - 最棒的Linux运维与开源架构技术交流社区!

 找回密码
 注册

用新浪微博连接

一步搞定

QQ登录

只需一步,快速开始

查看: 3945|回复: 7

[MySQL管理] Amoeba for mysql 0.12发布(读写分离、负载均衡、Failover、数据切分) [复制链接]

LT管理团队

社区首席勤杂工

Rank: 9Rank: 9Rank: 9

签到
81
注册时间
2008-5-19
最后登录
2012-5-3
在线时间
1762 小时
阅读权限
200
积分
14979
帖子
2524
主题
1200
精华
25
UID
1

LT总司令

发表于 2008-6-21 10:12:33 |显示全部楼层
Amoeba 座落与Client、Database Server(s)之间。具有负载均衡、高可用性、sql过滤、可承受高并发、读写分离、Query Route(解析sql query语句,并且根据条件与预先设定的规则,请求到指定的目标数据库。可并发请求多台数据库合并结果)、对客户端透明。

主要降低 数据切分带来的复杂多数据库结构、数据切分规则 给应用带来的影响。



能够轻易实现读写分离
Failover
负载均衡。
能够帮助解决数据切分问题

目前amoeba 实现了 mysql 数据库的相关技术。


适用:
mysql 4.1或者以上版本(mysql 协议版本:10)
暂时不支持事务、DDL语句目前只会分配给默认的数据库执行

运行环境:

至少需要运行 mysql 4.1以上 服务一个;
Java 1.5或 以上版本



中文文档地址: http://amoeba.sourceforge.net/doc
文件下载: http://www.sourceforge.net/projects/amoeba
感谢大家对linuxtone的支持!

LT管理团队

社区首席勤杂工

Rank: 9Rank: 9Rank: 9

注册时间
2008-5-19
最后登录
2012-5-3
在线时间
1762 小时
阅读权限
200
积分
14979
帖子
2524
主题
1200
精华
25
UID
1

LT总司令

发表于 2008-6-21 10:13:06 |显示全部楼层
Amoeba 跟 mysql proxy有区别。
主要是针对数据切分方面。
在 mysql proxy 上面如果想要读写分离并且 读集群、写集群 机器比较多情况下,用mysql proxy 需要相当大的工作量,目前mysql proxy没有现成的 lua脚本。mysql proxy根本没有配置文件,lua脚本就是它的全部,当然可以是相当方便的。那么同样这种东西需要编写大量的lua脚本才能完成一个复杂的配置。 amoeba目标是走产品化这条路。只需要进行相关的配置就可以满足需求。


一、Mysql Master/Slave 结构之下的读写分离:
Master: server1 (可读写)
slaves:server2、server3、server4(3个平等的数据库。只读/负载均衡)

amoeba提供读写分离pool相关配置。并且提供负载均衡配置。
可配置server2、server3、server4形成一个虚拟的 virtualSlave,该配置提供负载均衡、failOver、故障恢复功能

Xml代码 复制代码

   1. <dbServer name="virtualSlave" virtual="true">  
   2.     <poolConfig>  
   3.         <className>com.meidusa.amoeba.server.MultipleServerPool</className>  
   4.         <!-- 负载均衡参数 1=ROUNDROBIN , 2=WEIGHTBASED -->  
   5.         <property name="loadbalance">1</property>  
   6.                  
   7.         <!-- 参与该pool负载均衡的poolName列表以逗号分割 -->  
   8.         <property name="poolNames">server2,server3,server4</property>  
   9.     </poolConfig>  
  10. </dbServer>  

<dbServer name="virtualSlave" virtual="true">
        <poolConfig>
                <className>com.meidusa.amoeba.server.MultipleServerPool</className>
                <!-- 负载均衡参数 1=ROUNDROBIN , 2=WEIGHTBASED -->
                <property name="loadbalance">1</property>
                               
                <!-- 参与该pool负载均衡的poolName列表以逗号分割 -->
                <property name="poolNames">server2,server3,server4</property>
        </poolConfig>
</dbServer>



如果不启用数据切分,那么只需要配置QueryRouter属性
wirtePool=server1
readPool=virtualSlave

Xml代码 复制代码

   1. <queryRouter>  
   2.     <className>com.meidusa.amoeba.mysql.parser.MysqlQueryRouter</className>  
   3.     <property name="LRUMapSize">1500</property>  
   4.     <property name="defaultPool">server1</property>  
   5.   
   6.     <property name="writePool">server1</property>  
   7.     <property name="readPool">virtualSlave</property>  
   8.   
   9.     <property name="needParse">true</property>  
  10. </queryRouter>  

        <queryRouter>
                <className>com.meidusa.amoeba.mysql.parser.MysqlQueryRouter</className>
                <property name="LRUMapSize">1500</property>
                <property name="defaultPool">server1</property>

                <property name="writePool">server1</property>
                <property name="readPool">virtualSlave</property>

                <property name="needParse">true</property>
        </queryRouter>



那么遇到update/insert/delete将 query语句发送到 wirtePool,将 select发送到 readPool机器中执行。

二、数据切分:
这方面amoeba显然更加容易了。

举个数据切分例子:

select * from user_event where user_id='test' and gmt_create between Sysdate() -1 and Sysdate()

如果根据gmt_create 时间进行数据切分,比如 6个月进行切分一次

amoeba提供利用类似sql表达式进行数据切分:

规则1:GMT_CREATE > to_date('2008-01-01','yyyy-mm-dd') and GMT_CREATE < to_date('2008-05-31','yyyy-mm-dd')

规则1对应服务器1

规则2:GMT_CREATE > to_date('2008-06-01','yyyy-mm-dd') and GMT_CREATE < to_date('2008-12-31','yyyy-mm-dd')

规则2对应服务器2


上面的sql的条件 gmt_create 与规则里面的的gmt_create 进行 交集判断,如果存在交集则表示符合规则。

则会将sql转移到 规则1 的相应的服务器上面执行。

利用amoeba写出这种类似规则很容易,但是要想做到数据切分以后可线性扩容,那么这样的规则需要自己根据业务实际情况进行设置。

amoeba可同时将sql 并发分发到多台服务器、然后将结果合并再反馈给客户端,而且amoeba内部现成采用无阻塞模式,工作线程是不会等待的,并发请求多台 database server情况下,客户端等待的时间基本上面是性能最差的那台 database server+amoeba内部解析协议的时间
感谢大家对linuxtone的支持!

使用道具 举报

LT管理团队

社区首席勤杂工

Rank: 9Rank: 9Rank: 9

注册时间
2008-5-19
最后登录
2012-5-3
在线时间
1762 小时
阅读权限
200
积分
14979
帖子
2524
主题
1200
精华
25
UID
1

LT总司令

发表于 2008-6-21 10:14:22 |显示全部楼层
性能:

这方面可能是大家最关注的了,比官方的mysql proxy性能大致低10%~20%左右(在一次请求数据量比较大的情况下比如好几千条数据,性能有所下降,这个原因是由于解析了mysql与客户端之间交互的所有数据包,而mysql proxy在没有使用lua特定脚本的时候是不会解析mysql数据包),并发能力来说比mysql proxy会更强劲,还有稳定性方面都比mysql proxy强。从使用的连接数来看,在相同的客户端并发连接情况下,与mysql数据库的连接数将比mysql proxy少一半。

数据的安全性:

对amoeba来说后端使用的数据库决定了数据安全指数。amoeba本身不存储任何数据,只是充当路由、proxy功能。
如果是理解成应用的安全性方面,除了需要配置相关的数据库帐号密码方面有待改进(比如加密这些数据库密码)其他也没什么问题。整个应用都是采用相关数据库协议进行通讯。

数据完整性:

这个跟上面也差不多都只是依赖后端使用的数据库。

目前amoeba暂时不支持事务。因此目前来说不存在数据完整性问题。
感谢大家对linuxtone的支持!

使用道具 举报

Rank: 8Rank: 8

注册时间
2009-5-4
最后登录
2012-4-30
在线时间
56 小时
阅读权限
90
积分
3352
帖子
239
主题
9
精华
0
UID
2847
发表于 2010-8-3 21:48:57 |显示全部楼层
第一次听说这个玩意,好像蛮强大的

使用道具 举报

Rank: 8Rank: 8

注册时间
2009-5-3
最后登录
2012-5-17
在线时间
109 小时
阅读权限
90
积分
7355
帖子
169
主题
0
精华
0
UID
2827
发表于 2010-8-5 10:59:35 |显示全部楼层
先顶再看.

使用道具 举报

Rank: 8Rank: 8

注册时间
2010-1-17
最后登录
2012-5-10
在线时间
87 小时
阅读权限
90
积分
3706
帖子
61
主题
9
精华
0
UID
7603
发表于 2010-10-28 14:38:17 |显示全部楼层
呵期待后续

使用道具 举报

Rank: 7Rank: 7Rank: 7

注册时间
2009-1-21
最后登录
2012-5-22
在线时间
292 小时
阅读权限
100
积分
11258
帖子
151
主题
45
精华
1
UID
1127

LT粉丝

发表于 2010-10-29 14:30:40 |显示全部楼层
amobea对程序存在兼容性问题。例如phpwind  discuz都存在

使用道具 举报

Rank: 8Rank: 8

注册时间
2010-6-8
最后登录
2012-5-2
在线时间
137 小时
阅读权限
90
积分
4302
帖子
12
主题
0
精华
0
UID
9482
发表于 2010-11-3 10:22:32 |显示全部楼层
没听说过的东西太多了,唉!!!!!!!!!!!!!!!!!
OUT了.................................................

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

IT运维专家网感谢红之盟网络提供带宽支持

合作联系: QQ:67888954/MSN:cnseek@msn.com/mail:netseek@linuxtone.org

Archiver|手机版|感谢所有关心和支持过LinuxTone的朋友们 转载本站内容请注明原作者名及出处 ( 京ICP备08103151 )   |

GMT+8, 2012-5-23 10:47 , Processed in 0.129267 second(s), 12 queries , Memcache On.

Powered by Discuz! X2

© 2001-2011 Comsenz Inc.

回顶部